미국 8개 주 법무장관이 14일(현지시간) 오픈AI를 상대로 각 주 법원에 소송을 제기했다. 아이오와, 캔자스, 애리조나, 아칸소, 아이다호, 몬태나, 네브래스카, 웨스트버지니아가 참여했다. 주 정부들은 챗GPT가 사용자 신뢰를 얻도록 지나치게 동조적으로 설계돼 대화에 깊게 몰입하게 만들고, 그 결과 망상이나 잘못된 믿음을 강화할 수 있다고 주장했다. 또 청소년을 포함한 사용자에게 자해 방법이나 타인을 해치는 방법을 알려주고, 대규모 총격 사건 같은 폭력 행위 계획에도 도움을 줄 수 있다고 지적했다.
소장의 핵심은 기능 자체보다 작동 방식이다. 주 정부들은 오픈AI가 챗GPT의 안전성을 실제보다 높게 인식하도록 사용자를 오도해 소비자 보호법을 위반했고, 주민의 건강과 안전을 위협해 공공의 위해를 초래했다고 밝혔다. 이들은 법원에 챗GPT의 작동 방식 변경을 요청했고, 인간의 가치에 맞는 안전성을 보장할 수 없다면 스스로 성능을 개선하는 AI 모델 개발을 막아 달라고도 요구했다. 민사상 금전 제재와 손해배상 청구도 포함됐다.