DeepSeek이 하루 300만 개의 샌드박스를 돌린다 — 이 숫자가 의미하는 것

보통 AI 회사들은 인프라 규모를 공개하지 않는다. 서버 수, 초당 처리량, 동시 연결 같은 수치는 영업 기밀에 가깝다.

DeepSeek이 DSec 논문을 공개하면서 이례적으로 숫자를 내놨다. 읽다 보면 규모가 실감이 된다.

하루에 처리하는 샌드박스 수: 약 300만 개. 동시에 운영 중인 샌드박스: 38만 개 이상. 초당 생성 속도: 5,000개 이상. 이 샌드박스는 AI 추론 요청 하나하나를 격리된 환경에서 처리하는 단위다.

샌드박스가 왜 중요한가

AI 추론에서 샌드박스의 역할을 이해하면 이 숫자의 의미가 더 명확해진다.

사용자가 DeepSeek에 코드 실행을 요청하거나, 파일을 분석하거나, 복잡한 에이전트 작업을 시킬 때 — 이 작업들은 서로 완전히 격리된 환경에서 실행돼야 한다. 내 작업이 다른 사람의 작업에 영향을 주거나, 다른 사람의 데이터에 접근하면 안 된다.

그 격리 환경이 샌드박스다. 요청이 들어올 때마다 샌드박스를 만들고, 작업이 끝나면 없앤다. 초당 5,000개를 만든다는 건 초당 5,000개의 독립적인 AI 작업 환경이 생겼다가 사라진다는 뜻이다.

이 규모가 경쟁사와 비교하면

미국 빅 3 회사들이 이 규모를 공개하지 않기 때문에 직접 비교는 어렵다. 하지만 간접적으로 추론할 수 있다.

OpenAI의 ChatGPT는 현재 월간 활성 이용자가 5억 명을 넘는다. 하루 수천만 건의 요청을 처리한다. 에이전트 기능이 확장되면서 샌드박스 수요가 급격히 늘고 있다. 이 규모를 감당하려면 초당 수만 개의 샌드박스 생성 능력이 필요하다는 계산이 나온다.

DeepSeek은 ChatGPT보다 사용자 수가 적지만, 초당 5,000개 샌드박스를 돌린다는 건 인프라 규모가 상당하다는 증거다. 그리고 그 인프라에서 $0.22/M이라는 가격이 나오고 있다. 중국의 서버 비용과 운영 비용이 미국보다 낮다는 점도 있지만, 효율적인 인프라 설계가 저가 요금을 가능하게 한 핵심 요인이다.

DSec 논문이 공개된 의도

DeepSeek이 이 논문을 공개한 건 단순한 학술 기여가 아닐 것이다.

AI 인프라 보안 분야에서 "우리가 이만한 규모를 안전하게 운영한다"는 신호다. 300만 샌드박스를 하루에 돌리면서 보안 사고가 없다는 건 인프라 엔지니어링 역량을 보여주는 포인트다. 동시에 에이전트 보안 사고가 줄줄이 나오는 9월에, "우리의 샌드박스 격리는 이렇게 작동한다"는 기술적 투명성이기도 하다.

한눈에 보기 — 핵심 요약