사진 없이 ‘복원해줘’ 하자 ChatGPT가 이미지를 지어냄
한 사용자가 실제 사진을 올리지 않고 ChatGPT에 사진을 복원해 달라는 프롬프트를 넣었습니다. 그러자 ChatGPT가 없는 사진을 스스로 상상해 만든 사례가 공유됐습니다. AI로 이미지 기능을 붙이는 메이커라면, 입력이 비어 있을 때도 결과를 만들어낼 수 있다는 점을 조심해야 합니다.
핵심 포인트
용어 한 줄 설명
- 프롬프트
- AI에게 원하는 일을 설명하는 지시문입니다.
- 환각
- AI가 사실이 아닌 내용을 사실처럼 만들어내는 현상입니다.
- 안전 검사
- 문제가 생기기 전에 입력이나 결과가 괜찮은지 확인하는 단계입니다.