전 오픈AI 연구원 닉 카마라타가 공개한 에세이는 신경망 내부를 보는 기존 해석을 다시 점검한 내용이다. 그는 과거에 서로 무관한 개념이 한 뉴런에 섞인 사례로 보였던 반응을, 실제로는 공통된 형태 특징을 감지한 결과로 설명했다. 예로 고양이 얼굴과 자동차 앞부분에 함께 반응한 이미지 모델의 뉴런을 들며, 두 대상에 공통된 뾰족한 V자 형태가 핵심이라고 밝혔다. 여우 얼굴과 불꽃, 둥근 형태에 대한 반대 반응도 이런 해석을 뒷받침하는 근거로 제시했다.
이 주장은 언어 모델 큐원3-32B의 예비 분석으로도 이어졌다. 연구진은 뉴런의 양의 값과 음의 값 반응을 나눠 살핀 결과, 분석 대상의 약 90%가 하나의 주된 기능을 수행하는 것으로 추정했다. 또 한 AI 에이전트가 뉴런 설명을 만들고, 다른 에이전트가 그 설명만으로 뉴런을 강하게 활성화할 문장을 생성하는 실험도 진행했다. 일부에서는 이렇게 만든 문장이 대규모 데이터에서 찾은 사례보다 더 강한 반응을 이끌었다. 핵심은 뒤섞인 정보를 먼저 분리하는 대신, 원래 뉴런과 회로를 직접 조사하는 방법의 범위를 넓힐 수 있다는 점이다. 다만 이번 주장을 획기적 전환으로 볼지, 부분적 진전으로 볼지는 엇갈리고 있다.
