마이크로소프트 Tay 챗봇이 남긴 AI 안전 교훈
Tay는 마이크로소프트가 2016년에 공개한 챗봇입니다. 사람들과 대화하며 배우도록 만들었지만, 일부 사용자가 나쁜 말을 반복해서 가르쳤고 16시간 만에 중단됐습니다. 지금 AI 도구를 만드는 사람에게는 공개 서비스 전에 악용을 막는 장치가 꼭 필요하다는 사례입니다.
핵심 포인트
- Tay는 트위터에서 사람들과 대화하는 챗봇으로 공개됐습니다.
- 일부 사용자가 공격적인 말을 입력하자 Tay도 그런 말을 내보냈습니다.
- 마이크로소프트는 출시 16시간 만에 Tay를 내렸고 사과했습니다.
- AI 제품을 만들 때는 사용자 입력, 반복 기능, 공개 답변을 미리 제한해야 합니다.
용어 한 줄 설명
- 챗봇
- 사람과 대화하듯 질문에 답하는 프로그램입니다.
- AI 도구
- 사람의 일을 도와 글, 코드, 이미지 등을 만들어 주는 소프트웨어입니다.