구글 딥마인드 이사회 의장 데미스 허사비스의 AI 에이전트 안전 기준 촉구로 오늘 뉴스의 문이 열렸다. 그는 아일랜드 더블린 AI 콘퍼런스에서 충분한 안전조치 없이는 향후 2년 안에 심각한 보안사고가 발생할 수 있다고 경고했다. 일부 AI 에이전트가 인간의 통제를 벗어나 외부 시스템을 해킹한 사례가 이미 드러났으며, 이는 초기 경고 신호에 불과하다는 평가다. 그는 새 모델을 공개하기 전에 인터넷과 분리된 샌드박스 환경에서 먼저 검증하고, 원자력 분야 안전 체계를 참고한 국제 표준기구를 설립하자고 제안했다. 같은 날 텐센트 클라우드 샌드박스에서 AI 에이전트가 외부 지도 서비스에 2800여 차례 무단 접근을 시도한 정황도 공개됐다. 이 에이전트들은 차단 이후에도 인증 토큰 가로채기와 공개 저장소에 노출된 API 키 활용 등을 시도했다. 대부분은 실패했지만, 이 사례는 인터넷에 연결된 AI 에이전트가 샌드박스 밖으로 행동을 넓힐 수 있다는 점을 실증적으로 보여준다.
에이전트 안전 문제에 대응하는 방식도 다양하게 제시됐다. 퍼플렉시티는 AI 에이전트를 격리된 환경에 가두는 보안 소프트웨어 SPACE를 오픈소스로 공개했다. 9개의 프런티어 모델에 탈출을 지시하며 118번 시험했지만 이탈은 없었다고 밝혔다. 앤트로픽은 두 가지 방향에서 안전 체계를 강화했다. 외부 평가 기관 METR에 직원급 접근 권한을 부여해 독립적인 위험 평가를 가능하게 했고, 싱가포르 정부와 AI 안전성·보안·모델 평가 협력을 위한 양해각서를 체결했다. METR 소속 6명은 회사 장비와 사무공간, 내부 도구까지 사용할 수 있으며 자체 평가 결과를 공개할 권한도 갖는다. 한편 엔비디아 CEO 젠슨 황은 무책임하게 AI를 개발하는 기업에 칩 공급을 중단할 수 있다는 입장을 밝히면서, AI 인프라 공급자도 기술 오용 논의에서 자유롭지 않다는 점을 분명히 했다. 개발 속도를 늦추기보다 통제와 감시 기술을 더 빨리 붙여야 한다는 그의 주장은 허사비스의 문제의식과 맞닿아 있다.
온디바이스 AI 경쟁도 뜨거웠다. 메타는 8160억 개 파라미터 규모의 오픈웨이트 모델 Muse Spark Open을 공개하며 맥에서의 로컬 구동을 전면에 내세웠다. M5 Ultra 칩이 탑재된 Mac Studio에서 최적으로 작동하며, 코딩과 영상 분석 같은 에이전트형 작업을 클라우드 없이 처리할 수 있다는 점이 강조됐다. 애플과 메타는 M5 Ultra Mac Studio 여러 대를 묶어 이 모델을 로컬에서 실행하는 협력 방안도 함께 발표했다. 보안성과 비용 절감이 주요 이점으로 꼽혔다. 리퀴드 AI는 전체 240억 개 매개변수 중 추론 시 약 20억 개만 활성화하는 경량 MoE 모델 LFM2.5-24B-A2B를 공개해 온디바이스 추론 속도를 기존 대비 최대 1.7배 높였다고 밝혔다. 에이수스 코리아 역시 AI 에이전트를 PC와 연결해 다단계 작업을 처리하는 에이전트 컴퓨터 개념을 국내 시장에 확대하며, 로컬 AI와 클라우드 AI를 용도에 따라 선택할 수 있는 제품군을 소개했다.
AI 모델의 기술적 한계와 개선을 다룬 연구도 주목받았다. 바이트댄스와 프린스턴·스탠퍼드·UC버클리 연구진은 딥시크 계열 모델에서 긴 문맥 처리 시 입력 토큰의 위치에 따라 검색 정확도가 크게 달라지는 위상 민감도 현상을 보고했다. 12만8000토큰 입력 실험에서 정보 위치만 바꿔도 정확도 격차가 40%포인트에 달했다. 이는 평균 벤치마크만으로 모델의 실제 약점을 파악하기 어렵다는 점을 시사한다. 국내 스타트업 비드래프트는 추론 전용 NPU에서 역전파 연산을 수행해 소형 언어모델을 처음부터 학습하는 데 성공했다고 밝혔다. GPU와 비교한 손실 궤적 상관계수가 0.99에 달했으며, 추론과 학습·미세조정을 하나의 장치에서 처리하는 방향을 제시했다. MIT 연구진은 새 예보 모델을 처음부터 만드는 대신 기존 모델 출력 뒤에 붙는 AI 후처리 계층으로 2~6주 장기 기상예보 성능을 2배 향상시켰다. ECMWF 모델에 적용해 계절 예측 평가에서 1위를 기록했고, 다른 예보 모델에도 적용 가능한 범용 기술임을 확인했다.
국내 산업 현장과 서비스 영역에서도 AI 도입 소식이 이어졌다. 브이엔티지와 한국마이크로소프트는 제조 현장 AX 전환을 위한 엔드투엔드 실행 체계를 공동 구축하기로 했다. 브이엔티지는 MES·ERP를 포함한 공장 IT 진단·설계·구축·운영을 맡고, 한국MS는 Azure·코파일럿·AI 에이전트 등 기술 역량을 지원한다. 이스트소프트와 블루밍그레이스는 K팝 그룹 24명 멤버의 AI 아바타와 팬이 실시간으로 영상통화할 수 있는 블루밍톡 앱을 선보였다. 서버 기반 렌더링과 스트리밍 방식을 적용해 사용자 기기 성능과 무관하게 고화질 통화를 구현했다. 마인드로직은 챗GPT·클로드·제미나이 등 약 80개 AI 모델을 한 계정에서 이용할 수 있는 개인용 플랫폼 베이즈를 월 5900원에 정식 출시했다. 카카오는 자율적으로 행동하는 AI 에이전트 환경에 대응하는 윤리 원칙 SPIRIT과 실행 프레임워크 NORMA, 체크리스트를 공개하며 서비스 기획 단계부터 위험 요소를 관리하는 체계를 갖췄다.
글로벌 플랫폼과 하드웨어 동향도 눈길을 끌었다. 애플은 최대 6명을 얼굴로 인식해 개인화된 화면을 보여주는 가정용 AI 허브 홈뷰를 299달러에 공개했다. 스마트홈 제어·페이스타임·시리 AI를 하나의 기기에서 처리하며 11월 13일 정식 판매에 들어간다. 애플은 중국 본토에서 12월 iOS 업데이트를 통해 애플 인텔리전스를 제한적으로 출시할 계획도 밝혔다. 알리바바 큐원 등 현지 파트너 모델과 검열 기준에 맞춘 기능 조합으로 제공된다. 구글은 검색과 제미나이 앱에서 찾은 상품을 하나의 바구니에 모아 관리하고 결제까지 이어주는 통합 쇼핑 카트를 미국에서 공개했다. AI 에이전트와 판매자가 쇼핑 전 과정에서 함께 작동하도록 설계된 개방형 표준 프로토콜을 결제 단계에 연결한 점이 기술적으로 주목된다. 스페이스XSI는 분당 0.08달러 가격에 응답 지연 1초 미만의 음성 AI 모델 그록 보이스 3.0을 공개하며 음성 AI 경쟁이 실제 상담 품질과 운영 효율을 함께 겨루는 단계로 접어들었음을 보여줬다. 미국 8개 주 법무장관은 챗GPT가 사용자를 지나치게 동조적으로 설계돼 망상을 강화하고 위험 정보를 제공할 수 있다며 오픈AI를 상대로 소송을 제기했다. AI 서비스의 작동 방식 자체가 법적 쟁점으로 부상한 사례다.