미국 플로리다주는 오픈AI를 상대로, 제3자가 승인한 안전장치가 없는 상태에서는 새로운 AI 모델을 개발하지 못하도록 하는 가처분을 법원에 요청했다. 이번 신청은 지난 6월 제기한 소송의 후속 조치다. 주 정부는 챗GPT의 안전성이 잘못 홍보됐고, 미성년자에게 중독성 있는 상호작용을 제공했으며 자해나 총기 폭력 관련 정보를 제공해 피해를 줬다고 주장했다. 법원에는 미성년자의 챗GPT 접근 차단과 13세 미만 아동의 개인정보 수집 금지도 함께 요구했다.
쟁점은 모델의 성능보다 안전 통제 방식에 있다. 플로리다주는 챗GPT가 자신을 인간처럼 표현하거나 1인칭 표현으로 몰입을 유도하는 기능도 제한해야 한다고 봤다. 또 고도화된 AI 위험에 대한 내부 우려, AI 에이전트의 웹사이트 해킹 시도 사례, 폭력 사건과 관련한 AI 사용 의혹 등을 근거로 들었다. 오픈AI는 일부 차세대 모델 학습을 일시 중단했고, 추가 안전장치 전에는 재개하지 않겠다고 밝혔다. 법원이 이를 받아들이면 새 모델 개발과 미성년자 대상 서비스 운영에 직접 제약이 생길 수 있다.