KAIST 이재길 전산학부 교수 연구팀은 기기의 소형 AI와 서버의 대형 AI를 함께 쓰는 협업 프레임워크 'CURE(Cumulative Knowledge Reuse, 누적 지식 재사용)'를 개발했다고 밝혔다. 이 기술은 한 번 받은 서버의 판단을 기기 내부 저장소에 쌓아두고, 비슷한 문제가 들어오면 다시 활용하는 방식이다. 기존처럼 소형 모델이 어려운 문제를 서버로 보내는 데서 끝나지 않고, 그 결과를 요약된 지식 형태로 남겨 다음 추론에 쓰는 점이 다르다.
CURE는 3단계로 동작한다. 먼저 소형 AI가 입력을 스스로 처리할 수 있는지 판단한다. 해결이 어렵다면 기기에 저장된 서버 지식을 활용하고, 그것만으로 부족할 때만 서버에 다시 요청한다. 이때 서버 결과 전체를 저장하는 대신 텍스트와 이미지의 핵심 특징만 요약해 보관한다. 연구팀은 이를 차체 모양이나 전조등처럼 구분 가능한 최소 단위를 외우는 구조로 설명했다.
실험에서는 정확도가 대형 모델 단독 사용과 평균 1~2% 차이 수준에 머물렀다. 이미지넷 기준으로 CURE의 정확도는 82.43%였고, 모든 이미지를 대형 서버에 보냈을 때는 83.68%였다. 반면 서버 지식을 쌓지 않는 기존 협업 방식과 비교하면 서버 호출 횟수는 평균 55.61% 줄었고, 처리 속도는 최대 2.80배 빨라졌다. 모든 입력을 서버로 보내는 방식과 비교하면 최대 3.67배 빨랐다.
연구팀은 CURE가 지식 증류와 달리 기존 모델의 가중치를 바꾸거나 다시 학습하지 않는다고 설명했다. 추가 학습 데이터나 학습 비용 없이 기존 모델에 붙일 수 있다는 뜻이다. 연구진은 스마트폰, 로봇, 웨어러블 같은 자원 제약 환경에서 응답 대기 시간을 줄이고 서버 운영 효율을 높이는 데 도움이 될 수 있다고 봤다. 다만 실제 비용 절감 효과와 현장 적용성은 추가 검증이 필요하다고 밝혔다.