챗봇 이야기에 ‘Elias Thorne’가 자주 나오는 이유

ChatGPT, Claude, Gemini에 짧은 이야기를 써 달라고 하면 ‘Elias Thorne’ 같은 이름과 등대지기, 시계공, 탐험가 같은 직업이 반복해서 나오는 현상이 관찰됐다. 연구진은 세 챗봇에서 다섯 가지 요청으로 모두 2만 개의 이야기를 뽑아 비교했다.

그 결과 11개의 특정 단어와 이름, 직업 표현이 생성된 이야기의 88% 이상에 들어갔다. 이런 반복은 챗봇이 안전하고 무난한 답을 하도록 다듬는 안전 조정, 그리고 다른 챗봇이 만든 글을 다시 학습 데이터로 쓰는 관행과 관련이 있을 수 있다.

연구진은 초기 ChatGPT 모델인 GPT-3.5가 여러 공개 학습 자료와 뒤섞이면서 다른 모델에도 비슷한 이야기 습관을 퍼뜨린 출발점 중 하나로 본다. 같은 패턴은 아마존의 인공지능 생성 책, 유튜브 저품질 영상, 가짜 뉴스 사이트 같은 곳에서도 보인다.