AI가 가짜 논문 DOI를 만들어내는 문제, 직접 만든 도구로 해결
AI 챗봇에게 논문을 물어보면 존재하지 않는 가짜 DOI(논문 고유 주소)를 그럴듯하게 만들어내는 일이 잦습니다. 한 연구자가 실제 존재하는 논문만 반환하는 도구를 직접 만들어 공유했습니다. 연구나 공부에 AI를 활용하는 사람이라면 참고할 만합니다.
AI는 질문에 답할 때 자신감 있게 논문을 인용하지만, 그 DOI(디지털 객체 식별자)가 실제로 존재하지 않는 경우가 많습니다. 이런 현상을 '환각(hallucination)'이라고 부르며, 연구자들에게는 특히 골치 아픈 문제입니다. 가짜 논문을 믿고 보고서나 논문에 인용하면 신뢰도가 크게 떨어지기 때문입니다.
이 개발자는 AI가 논문을 제시할 때 실제 학술 데이터베이스에서 해당 DOI가 유효한지 자동으로 확인하는 '스킬(기능 모듈)'을 만들었습니다. 검증되지 않은 논문은 결과에서 걸러내고 실제로 존재하는 논문만 보여줍니다. AI를 연구 보조 도구로 쓰는 사람이라면 이런 검증 단계가 필수적입니다.
핵심 포인트
용어 한 줄 설명
- AI 챗봇
- 사람과 대화하듯 답하는 인공지능 프로그램입니다.
- 챗봇
- 사람과 대화하듯 질문에 답하는 프로그램입니다.
- DOI
- 논문마다 부여되는 고유 식별 번호로, 인터넷에서 해당 논문을 찾을 수 있는 주소 역할을 한다.
- 디지털
- 온라인에서 만들고 전달할 수 있는 형태를 말합니다.
- 환각(hallucination)
- AI가 실제로 없는 정보를 있는 것처럼 그럴듯하게 만들어내는 현상.
- 데이터베이스
- 많은 정보를 체계적으로 모아두어 찾아보기 쉽게 만든 정보의 집합체입니다.
- 플러그인
- 기본 도구에 특정 기능을 더해 주는 추가 기능입니다.
- 배포
- 제품이나 콘텐츠를 여러 채널(SNS, 커뮤니티, 이메일 등)에 올리고 알리는 작업 전체를 뜻합니다.