Claude·GPT-4o가 일 중에 갑자기 거절하는 빈도가 늘었다는 불만 확산
최근 Claude 3.5와 GPT-4o가 일반적인 작업 요청도 '위험하다'며 거부하는 사례가 늘고 있다는 불만이 커뮤니티에 퍼지고 있습니다. 실제로 업무에 쓰다가 막히는 경험을 호소하는 사람이 많아지고 있습니다.
Reddit의 r/AICensorship 커뮤니티에서 여러 사용자들이 Claude 3.5와 GPT-4o가 이전보다 훨씬 자주 요청을 거절한다고 보고하고 있습니다. 문제는 악의적인 요청이 아니라 글쓰기, 코딩, 정보 조사 같은 평범한 업무 중에도 'AI 안전 정책'을 이유로 차단된다는 점입니다.
이런 과도한 거절(오버-리퓨절)은 특히 민감한 주제를 다루는 글이나 가상 시나리오, 보안 관련 코드처럼 맥락상 문제없는 작업에서 두드러집니다. AI 도구에 업무를 의존하는 1인 개발자나 작가에게는 작업 흐름이 끊기는 직접적인 불편으로 이어집니다.
핵심 포인트
용어 한 줄 설명
- AI 안전 정책
- AI가 유해하거나 위험한 내용을 생성하지 못하도록 설정한 규칙
- 안전 정책
- AI가 유해하거나 위험할 수 있다고 판단한 요청을 거절하거나 제한하도록 만들어진 규칙 모음입니다.
- 과도한 거절
- AI가 실제로는 문제없는 요청까지 안전 규칙에 걸린다고 판단해 거부하는 현상.
- 오버-리퓨절
- AI가 실제로는 문제없는 요청을 지나치게 위험하다고 판단해 거부하는 현상
- 시나리오
- 영화나 드라마의 대본, 즉 장면·대사·지문을 담은 문서
- AI 도구
- 사람의 일을 도와 글, 코드, 이미지 등을 만들어 주는 소프트웨어입니다.
- 로컬 LLM
- 클라우드 서버가 아닌 내 컴퓨터에서 직접 실행하는 AI 언어 모델.
- LLM
- 글과 코드를 읽고 답을 만드는 대형 AI 모델입니다.