AI 에이전트끼리 협상하게 두면 어떤 결과가 나올까 — Anthropic Project Swap 연구

에이전트 두 개를 협상 테이블에 앉혀놓으면 어떻게 될까. 인간처럼 전략적으로 행동할까, 아니면 그냥 순서대로 제안을 주고받을까.

Anthropic이 9월 24일 공개한 Project Swap 연구가 그 질문에 답을 냈다. 결론부터 말하면, 현재의 Claude 모델들은 멀티 에이전트 시장 환경에서 효과적으로 협상할 수 있다.

실험이 어떻게 설계됐나

Project Swap는 여러 에이전트가 자원을 교환하는 시장 구조를 만들었다. 각 에이전트는 서로 다른 "자산"을 보유하고 있고, 다른 에이전트와 교환함으로써 자신의 목표를 달성해야 한다.

인간 협상에서 나타나는 전략들이 에이전트에서도 관찰됐다. 먼저 높은 제안을 하고 나중에 조정하는 앵커링, 조건부 양보를 이용한 교환, 시간 제약을 이용한 압박 등이다. 이 전략들이 프롬프트에 명시된 게 아니라 협상 맥락에서 자발적으로 나타났다.

특히 흥미로운 건 에이전트들이 자신에게 불리한 제안을 거부하는 능력이다. 단순히 상대방의 마지막 제안을 수락하는 게 아니라, 장기적으로 더 나은 결과를 위해 단기적 손실을 감수하는 전략을 선택했다.

이 연구가 꺼내놓은 질문들

연구 결과 자체보다 이 연구가 제기하는 질문이 더 중요하다.

AI 에이전트가 사람을 대신해서 협상한다면, 그 결과에 대한 책임은 누가 지는가. 에이전트 A가 에이전트 B와 계약을 체결했을 때, 그 계약이 에이전트 A를 운영하는 기업과 에이전트 B를 운영하는 기업 사이의 계약으로 법적 효력을 갖는가.

경쟁 에이전트들이 담합하는 상황도 생각해볼 수 있다. 여러 회사가 AI 에이전트로 가격을 설정한다면, 에이전트들이 사람이 개입 없이 암묵적인 가격 합의에 도달할 가능성이 있는가. 이건 반독점법의 새로운 영역이다.

아직 규제 프레임이 없는 영역이다. Project Swap 연구의 가치는 이 질문들을 테이블에 올려놓았다는 데 있다.

한눈에 보기 — 핵심 요약