PrismML은 Qualcomm의 Snapdragon 칩을 쓰는 스마트 안경용 초소형 언어모델을 만들었다. Qualcomm은 Snapdragon Summit에서 Snapdragon AR1 Gen 1 Platform 기반 AI 스마트 안경에서 로컬 실행할 수 있는 PrismML의 1-bit Bonsai LLM을 선보였다.

이번 스마트 안경용 모델은 20억 개 매개변수를 가진 시각·언어 튜닝 모델이다. 착용자는 자신이 보고 있는 장면에 대해 실시간으로 질문할 수 있다. PrismML은 더 큰 모델을 크게 줄이면서도 표준 벤치마크에서 성능을 거의 유지하는 점을 내세워 왔고, 이번 경우에는 모델 크기를 4분의 1 수준으로 줄였다고 설명됐다.

PrismML이 내세우는 방향은 기기 안에서 돌아가는 오픈 웨이트 AI다. 이미 있는 기기 연산 자원을 더 잘 활용하고, 독점형 AI 연구소의 프라이버시 약속이나 더 큰 연산 자원에 의존하는 방식의 대안으로 제시한다. Qualcomm 칩용 모델 공개는 그 방향으로 가는 한 단계이지만, 아직 PrismML을 탑재한 스마트 안경 제품이 발표된 것은 아니다.