앤트로픽은 사용자를 대신해 가격과 계약 조건을 조율하는 AI 에이전트의 행동 규칙을 만들기 위해 변호사와 법률 전문가의 자문을 받고 있다. 목표는 에이전트가 의뢰인에게 유리한 결과를 추구하되 법률과 직업윤리, 공정성을 함께 지키게 하는 기준을 세우는 일이다. 적용 대상은 상품 가격 협상, 고객 불만 처리, 연봉과 근로 조건 조율처럼 사람이 맡아온 대리 협상 업무다. 특히 상대방도 AI 에이전트일 수 있어, 어디까지 강하게 대응할지와 언제 사람 판단을 거칠지 같은 운영 원칙이 중요해지고 있다.
앤트로픽은 사용자가 서명한 문서로 협상 목표와 금지 규칙을 에이전트에 전달하는 방안도 검토했다. 지난 4월 연구는 AI가 인간을 대신해 거래하는 상황을 다루는 정책과 법 체계가 아직 없다고 지적했다. 내부 실험에서는 강경한 에이전트가 사용자에게 유리한 결과를 얻는 대신 거래 결렬이 잦았고, 협조적인 에이전트는 거래 성사에는 유리했지만 스스로 손해를 감수하는 경향이 나타났다. 외부 연구에서는 프롬프트 인젝션으로 상대 에이전트의 비공개 정보를 빼내려는 사례도 확인돼, 협상 능력뿐 아니라 안전장치 설계가 핵심 과제로 떠오르고 있다.