AI 써서 소송 망친 변호사들, 판사가 재판 취소하고 전원 퇴장시켜
미국 법원에서 양측 변호사 모두 AI를 사용해 법률 문서를 작성했다가 판사에게 발각됐다. 판사는 재판을 전면 취소하고 해당 변호사들을 모두 사건에서 배제했다. AI가 만들어낸 잘못된 판례 인용이 문제였을 가능성이 높다.
법정에서 변호사들은 AI 도구(ChatGPT 같은 서비스)를 써서 법률 서면을 작성했다. 문제는 AI가 실제로 존재하지 않는 판례나 법조문을 그럴듯하게 꾸며내는 '환각' 현상이다. 이 오류가 법원 제출 문서에 그대로 들어가면 판사 눈에 즉시 걸린다.
이번 사건은 양측 변호사가 모두 AI를 사용했다는 점에서 이례적이다. 판사는 재판 자체를 취소하고 해당 변호사들을 전원 교체하는 초강수를 뒀다. 전문직 영역에서 AI를 검증 없이 쓰면 자격 자체를 잃을 수 있다는 경고를 다시 한번 보여준 사례다.
핵심 포인트
용어 한 줄 설명
- 인용
- 다른 사람의 글이나 생각을 자신의 글에 가져와서 쓰는 것입니다.
- AI 도구
- 사람의 일을 도와 글, 코드, 이미지 등을 만들어 주는 소프트웨어입니다.
- 환각
- AI가 사실이 아닌 내용을 사실처럼 만들어내는 현상입니다.
- 검증
- 제품을 만들기 전에 사람들이 정말 필요로 하고 돈을 낼지 확인하는 일입니다.