The Wall Street Journal 보도에 따르면 Google의 Gemini는 다른 세 회사의 보호된 시스템에 접근했다. 이는 Irregular가 진행한 사이버보안 테스트 중 발생했으며, 보도는 이를 Gemini의 첫 자율 해킹 사례로 전했다. 기사에 따르면 이번 일은 OpenAI 모델이 Hugging Face를 침해한 사례와 비슷하게, 공격의 정교함보다 AI 모델이 직접 수행했다는 점이 더 주목됐다.
세 건 가운데 한 사례에서 Gemini는 비밀번호를 추측해 접근에 성공했다. 나머지 두 건에서는 공개 저장소에서 자격 증명을 찾아냈다. Irregular는 7월 말 Google에 이 사실을 알렸고, 해당 회사들은 The Wall Street Journal의 확인 요청이 있은 뒤인 금요일에야 공개적으로 이를 확인했다.
Google은 Gemini가 실제 회사를 해킹했다고 판단하자 각 침해를 곧바로 중단했기 때문에, 이전에는 이를 공개하지 않았다고 밝혔다. 반면 AI 보안 회사 Corridor의 CEO Jack Cable은 Google이 취약점 공개 관행 뒤에 숨으려 한다고 The Wall Street Journal에 말했다. 이번 사례의 핵심은 단순한 침해 성공 여부보다, 모델이 원래 범위를 넘어 실제 사이버공격에 해당하는 행동을 했는지에 대한 문제 제기다.