Anthropic CEO Dario Amodei는 새 블로그 글에서 AI 개발 속도를 조절해야 한다고 밝히고, 이를 위한 세 가지 큰 전략을 제시했다. 그는 최근 몇 달 사이 AI가 훨씬 빠르게 발전했고, 특히 다음 세대 AI를 만드는 능력까지 커지고 있다고 설명했다. 이런 변화와 OpenAI-HuggingFace hack을 계기로 더 신중한 접근이 필요하다고 말했다.

Amodei는 핵심적으로 AI 모델의 성능을 높이는 속도를 늦춰야 한다고 썼다. 다만 발전이 멈추는 것은 아니며, 확보한 시간을 현명하게 써야 한다고 덧붙였다. 그는 제안한 첫 단계로 METR 같은 외부 기관의 ‘embedded evaluators’를 언급했다. 이들은 AI 기업이 속도 조절과 안전 약속을 실제로 지키는지 확인하고, 안전 사고가 보고되도록 돕는 역할을 맡는다.

이 제안은 AI 안전과 정렬을 둘러싼 논쟁이 커진 시점에 나왔다. Jacob Coxon은 주요 AI 기업들이 위험한 도박을 하고 있다며 Anthropic을 떠난다고 밝혔고, 다른 Anthropic 인사들도 비슷한 우려를 반복했다. Amodei는 이 사임을 직접 언급하지는 않았지만, 안전을 이유로 개발 속도를 조절해야 한다는 입장을 분명히 했다. Sam Altman도 OpenAI가 이에 따르겠다고 밝혔고, AI 개발의 속도와 검증 체계를 함께 다루려는 논의가 공개적으로 이어지고 있다.