FaultLine, AI 메모리로 필요한 정보만 불러 토큰을 줄이려는 도구
FaultLine은 AI가 사용자의 지식과 관계를 오래 기억하고 다시 꺼내 쓰게 하려는 개인용 메모리 시스템이다. 짧게 쓰는 기억은 Qdrant에, 오래 보관할 기억은 PostgreSQL에 나누어 저장하는 방식에서 출발했다. 새 정보를 넣을 때 관련 개념 사이의 연결을 만들고, 시간이 지나며 사물과 관계를 스스로 정리하는 온톨로지를 키우는 방향으로 발전했다.
질문이 들어오면 필요한 내용만 돌려주어 불필요한 문맥을 줄이는 데 초점을 둔다. 벡터 데이터베이스와 PostgreSQL을 함께 써서 넓은 범위의 기억을 찾고, 사용자는 기억을 확인하거나 고치거나 철회할 수 있다. 온라인 자료나 언어 모델을 이용해 관계를 미리 배우게 하는 `/extend` 기능도 있다.
Claude Desktop 같은 여러 사용처에서 쓸 수 있도록 질의 방식을 다듬고 있으며, 목표는 RAG 기반 메모리와 회상을 더 정확하고 토큰을 덜 쓰게 만드는 것이다.
핵심 포인트
- 짧은 기억은 Qdrant, 긴 기억은 PostgreSQL에 나누어 저장하는 구조를 쓴다.
- 정보를 넣을 때 개념 사이의 관계를 자동으로 만들고 온톨로지를 키운다.
- 질문에 필요한 기억만 꺼내 불필요한 문맥과 토큰을 줄이려 한다.
- 사용자가 저장된 기억을 확인, 수정, 철회할 수 있다.
- 온라인 자료나 언어 모델로 관계를 미리 배우게 하는 `/extend` 기능이 있다.
용어 한 줄 설명
- Qdrant
- 벡터 검색에 특화된 오픈소스 데이터베이스
- PostgreSQL
- 서비스의 데이터를 저장하고 꺼내 쓰는 데이터베이스입니다.
- Postgres
- 정보를 표처럼 저장하고 찾는 데 쓰는 데이터베이스 프로그램이다.
- 벡터 데이터베이스
- 텍스트나 이미지를 숫자 형태로 변환해 저장하고, 의미가 비슷한 내용을 빠르게 찾아주는 특수 저장소
- 데이터베이스
- 많은 정보를 체계적으로 모아두어 찾아보기 쉽게 만든 정보의 집합체입니다.
- Claude Desktop
- Claude를 컴퓨터 앱으로 쓰게 해 주는 Anthropic의 데스크톱 프로그램입니다.
- AI 에이전트
- 사람 대신 정보를 찾거나 작업을 처리하도록 만든 AI 프로그램입니다.
- 토큰 사용량
- AI에게 보내고 받은 글의 양을 세는 단위 사용량입니다.