Anthropic이 직접 법안을 썼다 — AI 출시 차단 조건은 '임박하고 중대한 위험'만

규제 당국이 법안을 만드는 게 일반적인 순서다. 기업이 먼저 초안을 써서 의원들에게 가져가는 건 드문 일이다.

10월 17일~19일 사이, Anthropic이 미국 의회에 AI 규제 초안 법안을 제출했다. 내용의 핵심은 하나다. 정부가 프런티어 AI 모델의 출시나 사용을 차단할 수 있는 조건을 명시했다. 그 조건은 임박하고 중대한 위험(imminent and significant risks)이 있는 경우에만이다.

법안의 구체적인 내용

공개된 초안에 따르면 두 가지 상황에서 당국이 개입할 수 있다.

첫째, 해당 AI 모델이 핵·생물·화학 무기 개발에 실질적인 지원을 제공하는 것이 확인된 경우다. 둘째, 사이버 공격이나 중요 인프라 파괴에 사용될 수 있는 능력이 임박한 수준으로 확인된 경우다.

이 두 조건을 벗어난 상황에서는 정부가 AI 모델의 출시를 막을 수 없다는 것이 초안의 핵심 논리다.

Anthropic이 이 법안을 제안한 의도

표면적으로는 AI 안전 규제를 지지하는 것처럼 보인다. 실제로 Anthropic은 오래전부터 AI 안전을 핵심 가치로 내세워왔다. CEO 다리오 아모데이는 9월에 AI 속도 조절 필요성을 주장하는 에세이를 썼다.

하지만 이 법안이 실제로 무엇을 하는지를 보면 다른 면이 있다.

"임박하고 중대한 위험"이 있을 때만 차단 가능하다는 조건은 매우 좁은 기준이다. AI 모델이 장기적인 경제적 피해를 주거나, 특정 직군을 대체하거나, 허위 정보를 퍼뜨리는 데 쓰인다고 해도 이 조건을 충족하지 않는다. 즉, 현재 논의 중인 많은 AI 규제 시나리오에서 정부의 개입 권한이 없어지는 방향이다.

Anthropic이 직접 쓴 법안은 "AI 안전을 위한 규제"이면서 동시에 "과도한 규제를 막는 방어선"이기도 하다. 두 해석이 모두 가능하다.

IPO 타이밍과의 연결

Anthropic이 이 법안을 10월에 제출한 타이밍이 10월 14일 IPO 투자자 데이와 겹친다.

규제 리스크는 기업 공개 과정에서 투자자가 가장 주목하는 요소 중 하나다. 정부가 언제든 AI 모델의 출시를 막을 수 있다면 기업 가치 예측이 어려워진다. Anthropic이 직접 법안을 제출해서 차단 조건을 좁게 정의하는 건 투자자들에게 "우리 사업은 예상치 못한 규제로 갑자기 멈추지 않는다"는 신호를 주는 것이기도 하다.

의회의 반응

10월 시점에 민주당 상원의원들이 별도로 AI Safety Board 설립을 포함한 법안을 추진하고 있다. Anthropic의 초안과 방향이 일부 다르다. 민주당 법안은 정부 감독 권한을 더 넓게 잡으려 하고, Anthropic 초안은 그 권한을 좁게 정의한다.

두 법안이 어떻게 조율될지가 향후 미국 AI 규제의 방향을 결정할 것이다.

한눈에 보기 — 핵심 요약