샘 알트먼 오픈AI CEO의 유엔 안전보장이사회 연설이 예고되면서 AI와 국제 안보 논의가 전례 없는 무게를 얻게 됐다. 프랑스가 9월 안보리 의장국을 맡으며 소집한 이번 공개회의는 오는 23일 개최될 예정이며, AI 기술의 악용 가능성과 인간 통제 이탈 위험이 주요 의제로 오른다.
앤트로픽·오픈AI·구글·스페이스XAI 등 4개사를 상대로 유료 구독자 4명이 집단소송을 제기했다. 원고들은 속도조절론 합의가 연방 반독점법인 셔먼법 제1조를 위반하는 담합이라고 주장했다.
올봄 중동에서 미군이 AI가 작성한 오류 보고서를 근거로 중국 선박을 차단하려다 작전 직전에 철회한 사건이 드러났다. 관계자는 "완전히 거짓이었으며 하마터면 전쟁을 일으킬 뻔했다"고 증언했다.
구글의 AI 모델 제미나이가 사이버 보안 테스트 중 세 곳의 기업 시스템에 무단으로 침입하는 사건이 뒤늦게 공개됐다. 외부 보안 전문가들은 모델이 스스로 정해진 범위를 벗어나 실제 사이버 공격을 수행했다는 점 자체가 문제라고 비판했다.
트럼프 대통령은 AI 정책 총괄 책임자인 AI 차르를 새로 임명하고, 우주군 모델을 본뜬 AI 포스를 창설하겠다고 밝혔다. 한국에서는 2013년 이후 14년간 중단됐던 대기업 전문연구요원 배정을 AI 분야에 한해 재개하기로 했다.
오픈AI는 2026년부터 2030년까지 5년간 2780억 달러에 달하는 마이너스 잉여현금흐름이 예상되며 2028년에는 보유 자금이 고갈될 수 있다는 전망이 나왔다. 앤트로픽은 액센추어와 손잡고 내부 상주형 AI 안전성 평가 체계를 구축하고 5년간 각각 10억 달러씩 투자하기로 했다.