Anthropic이 미국 의회 채택을 기대하며 AI 안전 규제 초안을 제시한 것으로 전해졌다. 이 안은 AI 모델 공개가 생물무기 생성, 개발사 통제 회피, 사이버공격과 연결된 ‘예견 가능하고 임박한 위험’을 만들 수 있을 때 배포를 막는 절차를 담는다. 기준은 50명 초과 사망 위험 또는 10억달러를 넘는 재산 피해 가능성이다. 이런 수치는 최근 법으로 통과된 California Senate Bill 53이 규정한 ‘catastrophic risk’ 기준과 유사하다고 소개됐다.

위험 평가는 미국 상무부에 등록된 독립 평가자가 맡는 구조다. 평가 비용은 AI 연구소가 낼 수 있지만, 보수는 평가 결과와 연동되지 않아야 한다고 초안은 적었다. 평가자가 임박한 재난 위험을 판단하면 72시간 안에 상무부에 통보하고, 상무부는 워싱턴 D.C. 판사에게 모델 공개 중단을 요청해야 한다. 연방 기관이 자체 판단만으로 배포를 멈추는 권한은 두지 않는 방향도 포함됐다. 핵심은 AI 안전 통제를 행정 재량보다 사전 평가와 법원 절차에 묶으려 했다는 점이다.