12일 국회 과학기술정보방송통신위원회 방송미디어통신위원회 국정감사에서 AI 캐릭터 챗봇의 청소년 보호 문제가 주요 쟁점으로 다뤄졌다. 이주희 더불어민주당 의원은 스캐터랩의 ‘제타’를 사례로 들며 선정적 대화 노출과 과몰입 가능성을 지적했고, 사업자의 연령 확인, 보호자 동의, 이용시간 제한, 위기 대응 체계의 법제화를 요구했다. 김종철 방미통위원장은 정보통신망법 개정이나 AI 기본법 보완을 포함해 관계 부처와 협의하겠다고 밝혔다.
앞서 의원실 점검에서는 청소년용 ‘세이프 모드’ 일부 대화에서 성폭력·협박 묘사가 생성됐고, 표현을 바꿔 우회하면 차단이 무력화되는 사례도 확인됐다. 스캐터랩은 개별 응답 단위의 느슨한 탐지 기준이 원인이었다고 설명하며, 18일까지 간접·은유 표현 차단 강화와 반복 시도 이용자 제재를 적용할 계획이라고 밝혔다. 4분기에는 생성 단계에서 연령별 수위를 조절하고 우회 요청에 응하지 않도록 학습한 모델과 맥락 기반 탐지 모델을 도입한다. 청소년 이용시간은 하루 3시간, 결제 한도는 월 10만원으로 설정할 예정이다.