AI 에이전트가 필요한 기억만 꺼내 쓰게 돕는 OpenViking
OpenViking은 AI 에이전트가 작업 중 필요한 정보를 저장하고 다시 찾게 해 주는 오픈소스 도구입니다. 모든 기억을 한꺼번에 넣지 않고, 필요한 context만 단계적으로 불러와 token 사용을 줄이는 데 초점을 둡니다. 오래 실행되는 에이전트의 비용과 속도 문제를 줄이는 데 도움이 될 수 있습니다.
핵심 포인트
- 파일 폴더처럼 정보를 나누어 저장해 에이전트가 필요한 부분만 찾게 합니다.
- tiered context loading으로 매번 너무 많은 정보를 AI에 보내지 않게 합니다.
- automatic session compression으로 긴 작업 기록을 짧게 압축해 token 낭비를 줄입니다.
용어 한 줄 설명
- AI 에이전트
- 사람 대신 정보를 찾거나 작업을 처리하도록 만든 AI 프로그램입니다.
- 오픈소스
- 소스 코드를 공개해 누구나 보고 사용할 수 있게 한 방식입니다.
- context
- AI가 답을 만들 때 참고로 받는 배경 정보입니다.
- token
- AI가 글을 읽고 쓸 때 세는 작은 글자 조각 단위입니다.
- automatic session compression
- 긴 대화나 작업 기록을 자동으로 짧게 줄이는 기능입니다.
- 압축
- AI가 메모리 공간을 아끼기 위해 과거 대화 내용을 스스로 요약하는 과정입니다.