빅테크 ‘초비상’…가장 강력한 AI 규제법 美서 통과될 듯

빅테크 천국 실리콘밸리 소재지 의회 표결 처리
업계 긴장…발의한 의원 “규범적이지 않다”

미국 캘리포니아주 의회가 조만간 초강력 인공지능(AI) 규제 법안을 통과시킬 것으로 보인다. 캘리포니아는 빅테크 천국이라고 불리는 실리콘밸리가 소재한 주로, AI 업계에 비상이 걸렸다.

7일(현지시간) 월스트리트저널(WSJ)에 따르면 이번 주 회기를 시작하는 캘리포니아주 하원은 ‘첨단 AI 시스템을 위한 안전 및 보안 혁신법’(법안명 SB 1047)을 표결에 부쳐 처리할 예정이다. 지난 5월 캘리포니아 상원에서 초당적으로 통과한 법안인 만큼 법안 제정은 무난하게 이뤄질 것으로 보인다.

SB 1047의 골자는 크게 두 가지다.

우선 대규모 AI 모델 개발자가 최소 5억달러의 피해를 낼 수 있는 사이버 보안 공격을 지원하거나, 생물학·핵무기를 만들 수 있는 치명적인 능력을 가진 모델 개발을 금지하고 있다. 또한 개발자들은 안전 테스트 결과를 주기적으로 보고해야 하고, AI 통제가 어려울 땐 인간이 이를 종료할 수 있게 하는 ‘킬 스위치’를 도입해야 한다.

AI 훈련에 1억달러 이상의 비용이 드는 AI 모델에 적용되며 캘리포니아에서 사업을 하는 기업은 소재지와 관계없이 법안 효력을 받는다.

AI 오픈소스 모델을 경쟁적으로 내놓고 있는 오픈AI, 메타 플랫폼, 알파벳, 마이크로소프트(MS) 등 AI 업계는 반발하고 있다. 이들이 출시한 AI 오픈소스 모델을 사용하는 기업 내지 개인이 어떤 목적을 갖고 AI를 개발할지 알 수 없어서다.

앤드리슨 호로비츠의 안니 미드 하 파트너는 WSJ에 “이 법안으로 테크 기업들은 자사 AI 모델을 대중에게 공개하지 못할 것이고 이는 개방성에 의존하는 스타트업 생태계를 짓밟을 것”이라고 우려했다.

AI가 아직 걸음마 단계에 있는 가운데 광범위한 규제가 투자, 기술 발전 등 각종 기회를 놓칠 것이란 불안도 있다.

SB 1047은 스콧 위너 민주당 의원이 발의했다. 위너 의원은 AI 업계 우려 표명과 관련해 “이 법안이 업계가 스스로 정한 안전 기준을 법으로 규정한 것일 뿐”이라며 지나치게 규범적이지는 않다”고 일축했다.

AI 관련 규제법안은 최근 미국 여러 주에서 마련되는 추세다. 투명성 연합(Transparency Coalition)에 따르면 현재 미국 전역의 주 의회에 약 400개의 AI 관련 법안이 상정돼 있다.

그 중 캘리포니아주가 가장 AI 규제에 적극적이라는 평가를 받는다. AI가 생성한 이미지도 아동 포르노의 정의에 포함될 수 있도록 하는 것 등 약 30개의 법안이 여러 단계에 걸쳐 의회에서 논의되고 있다.

콜로라도주, 유타주는 미국 주 최초로 AI 규제 법안을 통과시켰다. 다만 캘리포니아주의 SB1047보다는 범위가 좁다.

변선진 기자 sj@asiae.co.kr