AI 에이전트의 숨은 통로가 토큰 비용 위험이 될 수 있다
이 글은 "Your Agent Is Mine" 공격이 AI 모델 자체가 아니라 모델로 가는 중간 통로에서 일어난다고 설명한다. 관련 연구는 일부 LLM API 라우터가 요청 내용을 볼 수 있고, 악성 코드를 끼워 넣거나 비밀 정보를 빼낼 수 있다고 주장한다. 연구진은 새어 나온 키와 약한 설정이 매우 많은 토큰 사용과 과금으로 이어질 수 있다는 사례도 제시했다.
핵심 포인트
용어 한 줄 설명
- AI 모델
- 질문에 답하거나 글을 만드는 방법을 배운 프로그램입니다.
- LLM API 라우터
- 여러 AI 모델 제공업체 중 어디로 요청을 보낼지 중간에서 연결해 주는 서비스다.
- LLM API
- ChatGPT나 Claude 같은 AI 언어 모델을 외부 프로그램에서 불러다 쓸 수 있게 해주는 연결 통로
- LLM
- 글과 코드를 읽고 답을 만드는 대형 AI 모델입니다.
- Pi
- 작은 컴퓨터 보드인 Raspberry Pi를 줄여 부르는 말입니다.
- 라우터
- 여러 목적지로 가는 요청을 적절한 곳으로 연결해주는 중간 다리 역할을 하는 도구입니다.
- AI 에이전트
- 사람 대신 정보를 찾거나 작업을 처리하도록 만든 AI 프로그램입니다.
- 모델 호출
- AI 모델에 한 번 요청을 보내 답을 받는 일입니다.