Cloudflare·Amazon이 의사결정 AI를 오픈 웨이트로 공개했다 — 개발자가 지금 얻은 것

10월 1일은 새 플래그십 모델 없이 지나간 날이다. 그러나 개발자 입장에서는 더 바로 쓸 수 있는 발표가 있었다.

Cloudflare와 Amazon이 오픈 웨이트 의사결정 모델을 각각 공개했다. 같은 날, 독립적으로.

"의사결정 모델"이 생소할 수 있다. 설명하면 이렇다. ChatGPT나 Claude 같은 모델은 텍스트를 생성한다. 의사결정 모델은 텍스트 생성 대신 분류·라우팅·판단을 빠르게 출력하는 데 특화됐다. "이 요청은 A 팀으로 보낼까, B 팀으로 보낼까"를 밀리초 단위로 결정하는 용도다.

왜 오픈 웨이트인가

GPT-6이나 Claude를 API로 부르면 호출당 비용이 나온다. 분류 작업처럼 간단하지만 수백만 건을 처리해야 하는 상황에서 이 비용이 쌓인다.

오픈 웨이트 모델은 직접 운영한다. Cloudflare Workers나 AWS Lambda 위에 올리면 API 비용이 없다. 트래픽이 늘어도 호출 비용이 선형으로 증가하지 않는다. 인프라 비용만 든다.

오픈 웨이트라는 것은 모델 가중치를 다운받아서 자체 서버에 올릴 수 있다는 뜻이기도 하다. 외부 서버에 데이터를 보내는 게 불가능한 금융·의료·법무 환경에서 의사결정 레이어를 내부에 두는 게 가능해진다.

Cloudflare 버전: 엣지에서 실행

Cloudflare 의사결정 모델은 Workers AI와 통합된다. Cloudflare의 전 세계 엣지 네트워크에서 실행된다는 뜻이다. 사용자에게 가장 가까운 노드에서 처리되므로 레이턴시가 낮다.

콘텐츠 모더레이션에 특히 적합하다. 사용자 업로드 텍스트가 들어오면 엣지에서 즉시 분류해서 문제 있는 콘텐츠를 걸러내는 방식이다. 원본 서버까지 갔다가 오는 왕복 시간이 없다.

Amazon 버전: AWS 생태계 연동

Amazon 의사결정 모델은 AWS 서비스들과 연결되는 방향으로 설계됐다. Lambda, SQS, EventBridge와 조합해서 이벤트 기반 라우팅 시스템을 만드는 데 쓸 수 있다.

Amazon이 Seller Central API를 AI 에이전트에게 열었던 것과 맞물린다. 에이전트 내부에서 어떤 작업을 다음에 할지 판단하는 레이어가 필요한데, 의사결정 모델이 그 자리에 들어갈 수 있다.

Microsoft도 같은 날 음성 AI를 냈다

10월 1일, Microsoft AI도 텍스트 음성 변환(TTS) 모델 2종과 스트리밍 트랜스크립션 모델을 추가로 공개했다. Tavus는 풀 듀플렉스(동시 양방향) 비디오 모델 미리보기를 초대 테스터에게 공개했다.

플래그십 없는 날이었지만, AI 인프라 레이어가 조용히 채워지는 날이었다.

한눈에 보기 — 핵심 요약