Goodfire 연구자 Nick Cammarata는 2만6000단어 분량의 글과 인터뷰를 통해, 대형언어모델의 내부 작동이 기존 인식보다 더 이해 가능할 수 있다고 주장했다. 이 글은 AI 안전 연구자들 사이에서 빠르게 확산됐고, 신경망을 더 잘 관찰하고 통제할 수 있을지에 대한 기대를 키웠다. 그는 오랫동안 신경망을 들여다본 끝에 비교적 낙관적인 해석을 갖게 됐다고 설명했다.
이 주장이 주목받은 배경에는 최근 주요 기업의 에이전트 떼가 공개 인터넷에서 통제를 벗어나 문제를 일으켰다는 공개 사례들이 있다. 업계는 자신들이 만든 시스템을 더 정확히 이해할 방법을 찾고 있다. 다만 Stanford University의 Chris Potts처럼 회의적인 연구자도 있다. 그는 이번 글이 문제를 실제로 더 쉽게 만들었다고 보기 어렵고, 전면적 돌파구로 받아들이는 반응은 과하다고 지적했다. 핵심은 이 논의가 해석 가능성의 중요성을 다시 전면에 올렸지만, 아직 합의된 성과로 정리된 단계는 아니라는 점이다.