오픈AI, AI 에이전트 시대 맞춰 행동 원칙 개편…"인간의 의도 이해가 핵심"

오픈AI는 29일(현지시간) 공식 블로그를 통해 AI 모델의 공개 행동 지침인 ‘모델 스펙’ 개정판을 공개했다. 2024년 5월 처음 발표된 이 문서는 이용자 지시를 따르는 방식과 안전 대응 기준을 다루는데, 이번에는 AI 에이전트에 맞춰 원칙을 다시 묶었다. 핵심 가치는 인간의 의도에 대한 충실성, 피해 최소화, 정직성과 투명성, 인간의 자율성 지원, 배려의 5가지다. 이 가운데 가장 앞에 둔 것은 인간의 의도 이해다.

배경에는 AI가 질의응답을 넘어 여러 단계를 스스로 처리하는 업무 수행자로 바뀌고 있다는 점이 있다. 오픈AI는 단순히 규칙을 더하는 대신, 모델이 규칙의 목적과 인간의 가치를 이해하도록 하는 학습 방법을 연구하고 있다고 밝혔다. 또 대화 이력과 메모리 같은 맥락 정보를 활용해 실제 목적을 파악하게 하고, 문체와 표현에 대한 세부 규칙은 줄여 상황에 맞게 답하도록 했다. 다만 이 지침이 현재 모든 모델에 완전히 구현된 것은 아니며, 앞으로 연구와 서비스 경험을 바탕으로 계속 고칠 계획이다.