RAG 대신 목차 기반 검색 방식, 실제로 써보니 꽤 쓸 만하다
Linkly AI의 Outlines Index는 기존 RAG와 다른 방식으로 문서를 검색한다. 기존 RAG는 문서를 미리 잘게 쪼개 놓고(청킹), 질문이 들어오면 관련 조각들을 한꺼번에 AI에게 던져주는 방식이다.
반면 Outlines Index는 AI 에이전트가 사람처럼 읽는 방식을 모방한다. 먼저 문서를 검색하고, 목차를 확인한 뒤, 실제로 필요한 부분만 읽는다.
이렇게 하면 불필요한 내용을 컨텍스트(AI가 한 번에 처리하는 정보 공간)에 넣지 않아도 되므로 더 깔끔하고 비용도 줄일 수 있다. 해당 방식을 직접 테스트한 결과 기존 청킹 방식보다 만족스럽다는 평가다.
핵심 포인트
용어 한 줄 설명
- Link
- 두 인물이 정신과 힘으로 연결되는 작품 속 설정입니다.
- Outlines Index
- 문서의 구조나 개요를 먼저 활용해 필요한 부분을 찾게 하는 Linkly AI의 색인 방식이다.
- Outlines
- AI가 정해진 형식의 답을 만들도록 돕는 도구다.
- AI 에이전트
- 사람 대신 정보를 찾거나 작업을 처리하도록 만든 AI 프로그램입니다.
- 컨텍스트
- AI가 현재 대화에서 기억하고 있는 모든 내용으로, 길어질수록 더 많은 토큰을 소모한다
- 추론 비용
- AI가 답변을 만들어낼 때 들어가는 서비스 이용료를 말합니다.
- 토큰 사용량
- AI에게 보내고 받은 글의 양을 세는 단위 사용량입니다.
- 사용자 경험
- 제품을 사용할 때 얼마나 편안하고 쉽게 사용할 수 있는지를 나타내는 느낌.