중앙대학교 산업보안학과 임태인·주성용·김문혁 학부생이 참여한 논문이 NeurIPS 2026 평가·데이터셋 트랙에 채택됐다. 이 연구는 AI 에이전트가 사이버 공격을 수행할 때 모델마다 자주 고르는 공격 유형이 다르다는 점에 주목했다. 연구팀은 이를 ‘공격 선택 편향’으로 정의하고, 대규모 언어모델 에이전트의 공격 행동을 정량적으로 비교하는 벤치마크 ‘CyBiasBench’를 만들었다. 기존 AI 보안 평가는 주로 공격 성공률을 봤지만, 어떤 경로와 취약점을 반복적으로 탐색하는지는 충분히 다루지 못했다.
연구팀은 OWASP 등의 분류를 바탕으로 SQL 인젝션, 인증 우회, 정보 탐색 등을 포함한 10개 공격군을 구성하고, 클로드·코덱스·제미나이·GLM·키미의 선택 패턴과 성공 여부를 분석했다. 그 결과 에이전트마다 선호 공격이 뚜렷하게 달랐고, 프롬프트를 바꿔도 이런 경향은 비교적 안정적으로 유지됐다. 또 공격 선택 패턴만으로 에이전트를 약 65% 정확도로 식별할 수 있어, 행동 자체가 모델의 ‘지문’처럼 작동할 수 있음을 보였다. 이는 자율형 AI를 활용한 보안 점검과 레드티밍에서 평가 기준을 넓히는 단서가 된다.