LLM 작업 비용과 흐름을 맥에서 확인하는 오픈소스 도구
context-scope는 맥에서 LLM이 얼마나 많은 토큰을 쓰는지 확인하는 오픈소스 도구입니다. 도구 호출과 에이전트 실행 흐름도 함께 볼 수 있습니다. AI 에이전트를 만들 때 낭비되는 비용과 복잡한 실행 과정을 찾는 데 도움이 됩니다.
핵심 포인트
용어 한 줄 설명
- context
- AI가 답을 만들 때 참고로 받는 배경 정보입니다.
- LLM
- 글과 코드를 읽고 답을 만드는 대형 AI 모델입니다.
- 토큰
- AI가 글을 읽고 쓸 때 세는 작은 글자 조각 단위입니다.
- 오픈소스
- 소스 코드를 공개해 누구나 보고 사용할 수 있게 한 방식입니다.
- 도구 호출
- AI가 검색, 파일 읽기 같은 외부 기능을 부르는 일입니다.
- 에이전트 실행
- AI가 목표를 이루려고 여러 단계를 스스로 진행하는 과정입니다.
- AI 에이전트
- 사람 대신 정보를 찾거나 작업을 처리하도록 만든 AI 프로그램입니다.
- 로컬
- 외부 서버가 아니라 해당 시스템이나 내부 환경 안에 있는 곳을 뜻합니다.