인공지능(AI) 기술 개발 중심지이자 미국 빅테크 기업들이 대거 몰려있는 미 캘리포니아주(州)에서 AI 규제 법안에 대한 제동이 걸렸다.

29일(현지시간) 외신에 따르면 개빈 뉴섬 캘리포니아주 주지사는 AI 개발 업체의 책임을 강화하는 내용의 AI 규제법안 'SB 1047'에 대해 거부권을 행사했다. 

이번 거부권 의견 표출은 주 의회가 지난달 28일 관련 법안을 통과시킨 지 한 달여만에 진행된 것으로, ‘30일 서명 시한’을 하루 앞두고 행사됐다.

뉴섬 주지사는 "(법안의) 규제가 가장 크고 비싼 AI 모델에만 집중돼 있다"며 "AI 모델의 크기와 비용만을 기준으로 규제하려 했을 뿐 실제 그 모델이 위험한 상황에 사용되는지 여부를 고려하지 않았다"고 거부권 행사 이유를 설명했다.

이어 "작은 AI 모델들도 전력망이나 의료 기록과 같은 민감한 데이터를 다루는 매우 위험한 상황을 초래할 수 있다"며 "반면, 대형 모델들은 고객 서비스와 같이 비교적 위험이 낮은 작업에 사용되기도 한다"고 지적했다.

또한 그는 "대규모 재난이 발생하기 전에 대책을 마련해야 한다는 법안 지지자들의 주장에 동의한다"면서도 "규제는 반드시 과학적이고 실증적인 증거에 기반해야 한다"고 언급했다.

뉴섬 주지사의 거부권 행사로 이 법안에 반대해 온 현지 테크 기업들은 한숨 돌릴 수 있게 됐다.

이 법안은 1억 달러(약 1300억원) 이상 투입된 대규모 언어 모델에 대해 안전성 테스트를 의무화하고 AI 시스템이 다수 사망이나 5억 달러(약 6550억원) 이상의 재산 피해와 같은 심각한 문제를 일으키지 않도록 개발사가 합리적 주의를 기울이도록 하는 내용을 담고 있다.

또 통제가 어려울 때 작동을 멈추게 하는 '킬 스위치'(kill switch)를 도입하면서 규정을 지키지 않으면 주 법무장관이 소송을 제기할 수 있도록 하는 내용 또한 포함하고 있다.

마이크로소프트와 메타(옛 페이스북), 챗GPT 개발사 오픈AI 등 테크 업계는 "이 법안이 기술 혁신 속도를 늦출 것"이라며 부정적 의견을 밝혔고 낸시 펠로시 전 하원의장, 런던 브리드 샌프란시스코 시장 등도 반대 입장을 밝히면서 관련 법안에 대한 논란은 거세지는 모양새다.