AI 분야 전문가들은 전자신문 창간 44주년 'AI 신인류 리포트' 좌담회에서, 최근 AI가 빠르게 정교해지면서 인간의 통제 장치가 더 중요해졌다고 진단했다. 기사에서는 이를 '잘 벼려진 칼'에 비유했다. 예전에는 사람이 전 과정을 확인하며 다룰 수 있는 수준에 가까웠다면, 이제는 몇 달 사이 그보다 훨씬 날카로워졌고 안전하게 쥘 수 있는 '손잡이'가 필요해졌다는 설명이다.
특히 논의의 중심에는 AI가 질문에 답하는 단계를 넘어, 스스로 계획을 세우고 도구를 활용해 행동하는 '에이전트' 단계로 들어서고 있다는 점이 있었다. 전문가들은 이 변화로 통제 문제가 더 복잡해졌다고 봤다. AI를 독립적 주체라기보다 행위 능력이 빠르게 향상되는 도구로 봐야 한다는 데는 의견이 모였지만, 법·규제·기술을 포함한 거버넌스가 개발 속도를 따라가지 못하고 있다는 점은 공통된 문제로 지적됐다.
좌담회에서는 이른바 '속도조절론'의 현실적 한계도 언급됐다. 기술 발전 자체를 늦추거나 멈추려는 시도보다는, AI가 행동할 수 있는 범위와 권한을 분명히 하고 인간이 최종적으로 개입할 수 있는 구조를 만드는 쪽이 더 현실적인 대응책이라는 것이다. 사회적 합의가 필요한 가치 판단은 인간의 영역에 두고, AI는 감독과 이의 제기 절차 아래에서 그 가치를 집행하는 도구로 활용해야 한다는 점이 핵심으로 제시됐다.