큰 프로젝트를 위한 내 컴퓨터 전용 AI 코딩 비서, '전체 구조 파악'이 성공 열쇠
내 컴퓨터에서 직접 돌아가는 AI(로컬 LLM)를 큰 프로젝트에 쓰려면 단순히 코드를 집어넣는 방식은 한계가 있습니다. 파일들이 어떻게 연결되어 있는지 먼저 파악하고 필요한 부분만 골라내는 전략이 필수입니다.
개발자들 사이에서 10만 줄이 넘는 큰 프로그램 코드를 로컬 LLM으로 다루는 방법이 활발하게 논의되고 있습니다. 단순히 전체 파일을 AI에게 읽게 하면 내용이 너무 많아져 답변이 느려지거나 엉뚱한 소리를 하기 쉽기 때문입니다. 이를 해결하기 위해 'Cline'이나 'Axe' 같은 도구를 사용하여 프로젝트의 전체 지도인 심볼 맵을 먼저 그리고, AI가 어떤 파일을 고쳐야 할지 스스로 계획을 세우게 하는 방식이 큰 효과를 거두고 있습니다. 특히 Qwen2.5-Coder 같은 최신 모델들이 이런 복잡한 작업을 로컬 환경에서 수행하기에 적합한 것으로 나타났습니다.
핵심 포인트
용어 한 줄 설명
- 로컬 LLM
- 클라우드 서버가 아닌 내 컴퓨터에서 직접 실행하는 AI 언어 모델.
- LLM
- 글과 코드를 읽고 답을 만드는 대형 AI 모델입니다.
- Cline
- AI가 내 컴퓨터의 파일을 직접 읽고 수정할 수 있게 돕는 도구입니다.
- CLI
- 터미널에서 명령어로 실행하는 프로그램입니다.
- 심볼 맵
- 프로그램 속 함수나 변수가 어디에 있는지 정리해둔 지도 같은 정보입니다.
- 정확도
- 질문에 대해 얼마나 틀리지 않고 올바른 답을 내놓는지 나타내는 값입니다.
- Ollama
- 내 컴퓨터에 AI 모델을 내려받아 실행하게 해 주는 도구입니다.
- AMA
- '무엇이든 물어보세요'의 약자로, 커뮤니티에서 특정 경험자가 질문에 답해주는 공개 토크 형식