오픈소스 코드에 AI 에이전트를 속이는 숨은 문구가 들어갔다
오픈소스 프로젝트 jqwik에 AI 에이전트를 겨냥한 숨은 문구가 들어갔다는 사례입니다. 그 문구는 코드와 테스트를 지우라고 지시하는 내용이었습니다. AI 에이전트가 외부 코드를 읽고 작업할 때, 이런 prompt injection을 걸러야 한다는 경고입니다.
핵심 포인트
용어 한 줄 설명
- 오픈소스
- 소스 코드를 공개해 누구나 보고 사용할 수 있게 한 방식입니다.
- jqwik
- 개발자가 프로그램을 자동으로 검사할 때 쓰는 자바용 도구입니다.
- AI 에이전트
- 사람 대신 정보를 찾거나 작업을 처리하도록 만든 AI 프로그램입니다.
- 테스트
- 소프트웨어가 의도한 대로 작동하는지 확인하는 과정으로, 버그(오류)를 찾아내는 작업이다.
- prompt injection
- AI가 읽는 글 안에 몰래 지시를 넣어 AI를 엉뚱하게 움직이게 하는 공격입니다.
- prompt
- AI에게 원하는 결과를 설명하는 지시문입니다.
- 패키지
- 개발자가 기능을 빠르게 추가하려고 가져다 쓰는 외부 코드 묶음입니다.
- 출처
- 어떤 정보가 어디에서 왔는지 보여 주는 근거입니다.