에이전트 기억을 문서 더미가 아니라 검수된 위키처럼 만들자는 글
이 글은 회사 문서를 모두 Vector DB에 넣는 방식이 에이전트 기억으로 잘 작동하지 않았다고 말합니다. 작성자는 RAG pipeline을 만든 뒤 같은 질문에 에이전트가 서로 다른 답을 내놓는 문제를 겪었다고 설명합니다. 이후 팀은 개념마다 하나의 Canonical entry를 만들고, AI가 만든 위키 페이지를 사람이 승인하는 방식으로 바꿨다고 말합니다.
핵심 포인트
- 모든 Google Doc과 metadata를 Vector DB에 넣는 것은 좋은 에이전트 기억이 아니라고 주장합니다.
- 작성자는 기존 RAG pipeline에서 같은 질문에 답이 여러 개로 갈리는 문제를 겪었다고 말합니다.
- Vector DB는 어떤 정보가 더 권위 있는지 스스로 판단하지 못한다고 지적합니다.
- 팀은 개념마다 하나의 Canonical entry를 두는 위키 방식으로 바꿨다고 설명합니다.
- AI가 위키 초안을 만들 수는 있지만, 사람의 승인을 거쳐야 agent memory가 된다고 말합니다.
용어 한 줄 설명
- vector DB
- 문서나 문장을 숫자 형태로 바꿔 비슷한 내용을 빠르게 찾는 데이터베이스다.
- RAG pipeline
- AI가 답하기 전에 관련 문서를 찾아 함께 읽게 하는 작업 흐름입니다.
- Canonical entry
- 한 개념에 대해 기준으로 삼는 하나의 공식 설명입니다.
- AI 에이전트
- 사람 대신 정보를 찾거나 작업을 처리하도록 만든 AI 프로그램입니다.
- 메모리
- 컴퓨터가 정보를 일시적으로 기억하고 처리하는 데 사용하는 부품입니다.
- metadata
- 문서의 제목, 작성자, 날짜처럼 내용을 설명하는 부가 정보입니다.
- agent memory
- AI 에이전트가 답을 만들 때 참고하는 저장된 지식이나 기록입니다.
- memory
- ChatGPT가 사용자의 정보나 취향을 다음 대화에 참고하는 기능입니다.