반복 앱 설정을 에이전트 흐름으로 줄여 토큰 비용을 낮춘 사례
새 앱을 만들 때마다 같은 초기 설정을 반복하느라 시간과 토큰을 많이 쓰는 문제가 있었다. 이를 줄이기 위해 여러 작업을 이어서 처리하는 에이전트 흐름을 만들었고, 그 위에서 앱을 계속 확장할 수 있게 했다.
테스트에서는 몇 시간 안에 약 18달러어치 토큰으로 작동하는 앱을 만들 수 있었다. 다중 역할 기능, 실시간 위치 공유, Stripe 결제 연동이 들어간 앱도 개발해 보았다.
이 도구는 내부에서 거대 언어 모델과 통신하므로 사용자가 직접 토큰 비용을 내야 한다. 실제로 도움이 될 수 있다고 보지만, 비용 부담 때문에 시험 사용자를 찾기 어렵다는 고민이 있다.
핵심 포인트
용어 한 줄 설명
- 에이전트 흐름
- AI가 여러 작업을 순서대로 이어서 처리하도록 만든 자동 작업 절차다.
- 확장
- 기존 프로그램에 새 기능을 추가하는 작은 설치형 도구다.
- 테스트
- 소프트웨어가 의도한 대로 작동하는지 확인하는 과정으로, 버그(오류)를 찾아내는 작업이다.
- 실시간
- 일이 일어나는 거의 같은 순간에 바로 처리된다는 뜻이다.
- 거대 언어 모델
- 많은 글을 학습해 질문에 답하거나 글과 코드를 만드는 AI 모델이다.
- 언어 모델
- 글을 읽고 다음 말을 예측해 답변을 만드는 AI 모델이다.
- 토큰 비용
- AI가 글을 읽고 답할 때 처리한 글자 조각 수에 따라 드는 비용입니다.
- AI 에이전트
- 사람 대신 정보를 찾거나 작업을 처리하도록 만든 AI 프로그램입니다.