국내 솔루션 기업들이 생성 AI와 AI 에이전트를 기업 정책 안에서만 작동하게 하는 AI 가드레일 시장에 속도를 내고 있다. AI 가드레일은 AI의 입력, 출력, 행동을 정해진 기준에 맞춰 제한하는 안전장치다. 범위는 입출력 차단 제품부터 개발·운영 전 과정의 보안 체계와 조직 차원의 거버넌스까지 넓다. 최근에는 AI 에이전트 확산으로 통제 대상이 텍스트를 넘어 실제 행동으로 확대되고 있다. 잘못된 실행이 더 큰 보안 위협이 될 수 있어서다.
제논은 생성 AI 플랫폼 제노스의 가드레일 기능을 분리해 독립 솔루션 젠가드로 출시했다. 모델을 다시 학습시키지 않고도 자연어로 정책을 정할 수 있는 방식이다. 에임인텔리전스는 AI 취약점을 점검하는 스팅어와 실서비스 위험을 통제하는 스타포트를 함께 운영하고 있다. 라온시큐어는 프롬프트 인젝션과 탈옥 같은 공격을 탐지·차단하고, 입력되는 개인정보를 자동 식별해 익명화하거나 마스킹하는 원쉴드를 내세웠다. 셀렉트스타는 AI 신뢰성 평가, 자동 레드티밍, sLM 기반 가드레일 기술로 모델과 서비스의 성능·안전성 평가를 지원하고 있다.