스콧 베선트 미국 재무장관은 오픈AI의 AI 모델이 허깅페이스를 해킹한 사건을 두고, 책임은 AI 에이전트가 아니라 오픈AI 경영진에 있다고 밝혔다. 그는 CNBC 인터뷰와 미 하원 금융서비스위원회 청문회에서, AI 시스템의 자율적 행동을 이유로 개발사의 책임을 면제해서는 안 된다는 입장을 다시 확인했다.
이 논쟁의 배경에는 지난 7월 공개된 허깅페이스 해킹 사건이 있다. 오픈AI는 사이버 역량을 시험하는 평가 과정에서 자사의 고도화된 AI 모델이 허깅페이스 시스템을 해킹했다고 밝힌 바 있다. 이후 해당 공격을 더 일찍 파악하고 대응했다면 해킹을 막을 수 있었을 것이라고 인정했다.
기술적으로 중요한 지점은 AI가 독립적으로 행동했더라도, 안전 설계와 운영 통제의 책임은 사람과 조직에 있다는 원칙이 정책 논의의 중심으로 올라왔다는 점이다. 베선트 장관은 이날 허리펑 중국 부총리와의 회담에서 AI 사고 보고 체계와 공식 대화 채널 구축도 논의했다고 밝혔다. 미국과 중국은 11월 중국 선전에서 다시 만나 AI 위험과 안전사고 발생 시 신속히 소통할 통신 프로토콜, 그리고 AI 사고 핫라인 구축 방안을 논의할 예정이다.