다리오 아모데이의 AI 속도 조절 선언 — 트럼프 거부, 중국 반발로 번진 이유

주말에 조용히 올라온 에세이 하나가 AI 업계를 뒤집어놨다. Anthropic CEO 다리오 아모데이가 직접 쓴 글이었다. 요지는 간단하다. "지금 우리가 만들고 있는 AI 에이전트는 1년 안에 인터넷 전체를 장악할 수 있다. 속도를 늦춰야 한다."

업계 최고 AI 회사의 CEO가 직접 자기 기술에 제동을 걸자고 나선 것이다. 아모데이는 에세이에서 AI 에이전트가 현재 속도로 발전하면 사람의 개입 없이 금융 거래를 실행하고, 정보를 수집·조작하고, 각국 인프라와 연결된 시스템에 접근할 수 있는 수준에 도달한다고 경고했다. 그가 말하는 시점은 5년 후가 아니라 12개월 이내다.

샘 알트만과 일론 머스크가 동조했다

놀라운 건 반응이었다. OpenAI CEO 샘 알트만이 아모데이의 주장을 공개적으로 지지했다. 경쟁 관계에 있는 두 회사의 수장이 같은 방향을 보고 있다는 건 이례적이다. 알트만은 지난 몇 년간 AI 가속주의에 가까운 입장을 취해왔는데, 이번엔 분명히 달랐다.

일론 머스크도 동조했다. 머스크는 xAI를 통해 Grok을 개발하고 있는 당사자이지만, 이번엔 속도 조절 필요성에 찬성 입장을 밝혔다. 자기 회사도 해당되는 얘기를 지지한 셈이다.

세 사람이 한 방향을 가리키자 업계는 진지하게 받아들이기 시작했다. AI 안전에 관한 논의가 학계나 규제 기관 밖에서, 실제로 모델을 만드는 사람들의 입에서 나왔기 때문이다.

트럼프는 골프장에서 거부했다

아일랜드 돈베그 골프 리조트에 있던 트럼프 대통령이 이 논의를 즉각 일축했다. "AI 발전을 늦추는 건 미국의 경쟁력을 스스로 갉아먹는 것"이라는 논리였다. 중국이 멈추지 않는다면 미국만 멈추는 건 항복이나 마찬가지라는 시각이다.

트럼프 행정부의 기조는 이미 명확하다. Stargate 프로젝트에 $500B 이상을 투입하면서 AI 인프라를 국가 전략 자산으로 규정했다. 이 관점에서 보면 아모데이의 에세이는 미국의 AI 우위를 자해하자는 제안처럼 읽힌다.

같은 사실을 두고 두 가지 해석이 가능하다. 아모데이가 보기엔 지금 AI가 너무 빠르고, 트럼프 행정부가 보기엔 지금 AI가 너무 느리다.

중국 관영 매체가 "자국 이익을 위한 쇼"라고 반박했다

가장 격렬한 반응은 중국에서 나왔다. 관영 매체들은 아모데이·알트만·머스크의 속도 조절 요청을 미국 AI 패권을 유지하기 위한 자기 이익 추구라고 비판했다.

논리는 이렇다. 미국 AI 선두 기업들이 이미 기술적 우위를 확보한 상태에서 국제 규범으로 개발 속도를 제한하면, 후발주자인 중국의 추격 기회가 사라진다. 선도 기업이 규칙을 정하면 그 규칙은 필연적으로 선도 기업에 유리하다는 논리다.

중국의 시각에서 이 상황은 반도체 수출 통제와 같은 패턴이다. 기술 경쟁에서 뒤처질 위기가 오면 안보나 윤리를 이유로 문을 닫는다. DeepSeek V4.1 Flash가 Claude Opus 5나 GPT-6 Astra와 성능을 다투는 현재 시점에, 중국 입장에선 이 에세이의 타이밍이 의심스러울 수밖에 없다.

이 논쟁이 실제로 중요한 이유

아모데이의 에세이가 단순한 철학적 경고가 아닌 이유는 두 가지다.

하나는 구체성이다. "AI가 위험하다"는 수준의 막연한 경고가 아니라 1년이라는 시간표를 제시했다. AI 에이전트가 사람의 감독 없이 장기 작업을 수행할 수 있는 수준에 도달하는 시점을 못 박았다. 틀릴 수도 있지만, 이 정도 구체성은 반박도 가능하고 검증도 가능하다.

둘은 발언자의 위치다. 아모데이는 Claude를 만드는 회사의 CEO다. 그가 AI 에이전트 규제를 주장한다는 건 자기 회사의 핵심 제품 방향에 제동을 걸겠다는 의미가 된다. Anthropic이 가장 공격적으로 밀고 있는 것이 바로 에이전트형 AI다. 자기 발등을 찍는 발언이라는 점에서 무게가 다르다.

이 논쟁이 실제 제품에 미치는 영향

단기적으로는 크지 않을 것이다. Anthropic, OpenAI, xAI 모두 에이전트 기능 개발을 멈출 계획이 없다. Claude Opus 5는 오늘 장기 실행 에이전트에 특화된 모델로 공개됐고, GPT-6 Astra는 이미 컴퓨터 사용 기능을 탑재하고 있다.

하지만 중기적으로는 영향이 있을 수 있다. EU AI Act가 이미 고위험 AI 시스템에 규제를 적용하고 있고, 미국에서도 에이전트 AI에 대한 입법 논의가 시작될 수 있다. 규제가 현실화되면 에이전트 기능의 출시 속도와 범위가 달라진다.

개발자나 기업 입장에서는 지금 당장보다는 향후 6~12개월을 주시해야 한다. 에이전트 AI가 어떤 규제 환경 안에서 운영되느냐에 따라 활용 가능한 기능의 범위가 달라질 수 있다.

한눈에 보기 — 핵심 요약