EU AI Act 첫 과징금 3,400만 유로 — AI 규제가 드디어 이빨을 드러냈다

AI 규제가 드디어 현실이 됐다. 2026년 9월 2일, EU AI법(AI Act) 집행기관이 고위험 AI 시스템 의무를 위반한 기업 2곳에 총 3,400만 유로(약 500억 원)의 과징금을 부과했다. AI Act 시행 이후 첫 실질적 제재다. 지금까지 규제가 '경고'였다면, 이제부터는 '청구서'다.

첫 과징금, 무엇을 위반했나

EU AI Act는 2024년 8월 발효됐지만 핵심 고위험 AI 조항은 2026년 8월부터 전면 적용됐다. 위반 기업과 세부 내용은 조사 절차가 완전히 마무리될 때까지 공개되지 않는다. 다만 집행기관이 밝힌 위반 유형은 고위험 AI 시스템에 대한 인간 감독 체계 미비와 데이터 품질 문서화 의무 불이행이다.

이번 3,400만 유로는 최대치에 가깝다. EU가 첫 사례에서 강경하게 나왔다는 신호다.

'고위험 AI'란 무엇인가

규제의 핵심은 'AI가 누구에게, 어떤 결정에 영향을 미치는가'다.

EU AI Act는 AI를 금지·고위험·제한·최소위험 4단계로 분류한다. 고위험 AI는 기본권과 안전에 직접 영향을 미치는 AI다.

채용 이력서 자동 분류 시스템, 은행 대출 심사 AI, 의료 진단 보조 소프트웨어, 교육기관 입학 심사 알고리즘 — 이 모두가 고위험 범주에 포함된다. 많은 기업이 이미 이런 AI를 쓰고 있지만, 법적 의무를 갖추며 쓰는 기업은 많지 않다.

빅테크와 스타트업이 받는 충격은 다르다

Microsoft, Google, Anthropic 같은 대형 플레이어들은 EU 전담 컴플라이언스팀을 이미 갖추고 있다. 규제 장벽이 높아질수록 이들에게는 오히려 유리하다. 진입 장벽이 올라가기 때문이다.

반면 스타트업은 다르다. AI Act 기술 문서 요건을 충족하려면 초기에 수억 원이 들 수 있다. EU 시장을 타겟으로 하는 소규모 AI 팀이 감당하기 쉬운 비용이 아니다. 실제로 일부 미국 스타트업들은 EU 출시를 보류하거나 EU 전용 경량 버전을 별도 개발하는 선택을 하고 있다.

"EU 규제가 의도와 달리 빅테크의 해자를 더 깊게 파는 역설이다." — 벤처 투자자들 사이에서 나오는 평가

한국 기업은 어디쯤 있나

한국에는 2024년 12월 통과된 AI 기본법이 2026년부터 시행 중이다. EU만큼 강력하진 않지만 방향은 같다. 고위험 AI에 대한 사전 신고, 투명성 의무, 인간 감독 요건이 핵심이다.

문제는 준비 수준이다. 대기업 계열사를 제외한 국내 AI 스타트업 중 AI 거버넌스 체계를 갖춘 곳은 소수다. EU 수출을 목표로 한다면 지금 당장 컴플라이언스 검토를 시작해야 한다. EU의 첫 과징금은 "준비할 시간이 있다"는 신호가 아니라 "유예 기간이 끝났다"는 통보다.

한눈에 보기 — 핵심 요약