NOOP AI Coach, 로컬 AI 서버 연결 지원
NOOP v1.91은 AI Coach가 OpenAI-compatible server에 연결할 수 있게 했다고 알렸습니다. 사용자는 Ollama, LM Studio, llama.cpp처럼 자기 기기에서 도는 모델을 서버 URL로 지정할 수 있습니다. 로컬 모델을 쓰면 코칭 대화와 metrics가 기기 밖으로 나가지 않는다고 설명합니다.
핵심 포인트
- AI Coach가 Custom 설정으로 OpenAI-compatible server에 연결할 수 있습니다.
- 예시 서버 주소는 http://localhost:11434/v1 입니다.
- Ollama, LM Studio, llama.cpp, self-hosted gateway를 지원한다고 안내합니다.
- 모델 목록은 서버의 /models에서 바로 가져옵니다.
- macOS 다운로드 파일은 universal 빌드이며 unsigned라 첫 실행 때 우클릭 후 열어야 합니다.
용어 한 줄 설명
- OpenAI-compatible server
- OpenAI 방식과 비슷한 요청 형식을 받아들이는 AI 서버입니다.
- Ollama
- 내 컴퓨터에 AI 모델을 내려받아 실행하게 해 주는 도구입니다.
- LM Studio
- 내 컴퓨터에 인공지능 모델을 다운로드하고 바로 실행해볼 수 있게 돕는 쉬운 프로그램입니다.
- llama.cpp
- GPU 없이 CPU에서 AI 언어 모델을 실행할 수 있게 해주는 오픈소스 프로그램.
- metrics
- 앱이 기록하거나 계산하는 사용 데이터와 수치입니다.
- localhost
- 내 컴퓨터에서만 열리는 개발용 주소입니다.
- self-hosted
- 내 컴퓨터나 직접 빌린 서버에서 사용자가 직접 운영하는 방식입니다.
- self-host
- 외부 회사 서비스가 아니라 자기 서버에서 직접 운영하는 방식입니다.