Karpathy의 'LLM 회의실' 개념을 Docker·MCP·로컬 모델까지 확장한 오픈소스
여러 AI 모델이 같은 문제를 함께 토론해 더 나은 답을 내는 'LLM Council' 개념을 한 개발자가 크게 확장했습니다. Docker로 격리 실행, MCP 프로토콜 연동, Ollama 로컬 모델과 클라우드 모델을 함께 쓸 수 있습니다. Hermes Agent처럼 여러 AI를 조합해 쓰는 방식에 관심 있다면 직접 구조를 참고할 만합니다.
Andrej Karpathy가 제안한 LLM Council은 여러 AI 모델이 같은 질문에 각자 답한 뒤 서로의 답을 검토·반박하며 최종 결론을 내리는 방식입니다. 이번 프로젝트는 여기에 Docker(프로그램을 격리된 가상 환경에서 실행하는 기술), MCP(AI 도구 간 통신 표준 프로토콜), 웹 검색, 스킬 플러그인을 추가했습니다. 특히 Ollama로 PC에서 직접 돌리는 로컬 모델과 GPT·Claude 같은 클라우드 모델을 같은 '회의'에 동시에 참여시킬 수 있습니다. 비슷한 시기에 HN에서도 CraftBot이라는 에이전트가 PC를 직접 조작하고 자체 웹 앱까지 즉석 생성하는 'Living UI' 개념으로 주목받아, 여러 AI를 조합하는 다중 에이전트 흐름이 커뮤니티 전반에서 빠르게 확산 중임을 보여 줍니다.
핵심 포인트
- 여러 AI 모델이 같은 질문에 답하고 서로 검토하는 LLM Council 방식을 직접 실행할 수 있는 오픈소스 구현체
- Docker 덕분에 로컬 환경을 건드리지 않고 격리된 환경에서 안전하게 실행 가능
- Ollama로 내 PC의 로컬 모델과 클라우드 모델을 한 워크플로에 섞어 쓸 수 있음
- MCP 프로토콜을 지원해 Hermes Agent 등 MCP 호환 도구와 연동 가능성 있음
- 웹 검색과 스킬 플러그인을 추가해 단순 대화 이상의 작업 처리 가능
용어 한 줄 설명
- AI 모델
- 질문에 답하거나 글을 만드는 방법을 배운 프로그램입니다.
- LLM Council
- 여러 AI 모델이 같은 질문에 답한 뒤 서로의 답을 검토·반박하며 최종 결론을 도출하는 방식
- Docker
- 앱과 필요한 환경을 한 묶음으로 담아 어디서든 비슷하게 실행하게 해주는 도구다.
- Ollama
- 내 컴퓨터에 AI 모델을 내려받아 실행하게 해 주는 도구입니다.
- 로컬 모델
- 인터넷 연결이나 외부 서버 없이 내 컴퓨터에서 직접 실행하는 AI 모델입니다.
- Hermes Agent
- AI 에이전트를 만들고 관리하는 도구나 커뮤니티 이름으로 보입니다.
- Hermes
- AI 에이전트가 웹이나 도구를 써서 작업하도록 돕는 서비스입니다.
- AI 도구
- 사람의 일을 도와 글, 코드, 이미지 등을 만들어 주는 소프트웨어입니다.