캘리포니아 주지사 개빈 뉴섬이 오늘 안전하고 안정적인 프론티어 인공지능 모델법(SB 1047)을 거부했습니다. 뉴섬 주지사는 거부 메시지에서 여러 가지 이유를 들며 결정을 설명했어요. 그 중 하나는 이 법안이 AI 회사들에게 과도한 부담을 줄 수 있다는 점이었어요. 또한, 캘리포니아가 이 분야에서 선두를 달리고 있다는 점과 법안이 너무 광범위하다는 비판도 있었습니다.
뉴섬 주지사는 “SB 1047은 고위험 환경에서 배포된 AI 시스템인지, 중요한 의사결정이나 민감한 데이터를 사용하는지 여부를 고려하지 않습니다. 대신, 대형 시스템이 배포되기만 하면 가장 기본적인 기능에도 엄격한 기준을 적용합니다. 저는 이것이 기술이 제기하는 실제 위협으로부터 대중을 보호하는 최선의 방법이라고 생각하지 않습니다.”라고 밝혔어요. 😕
그는 이 법안이 빠르게 발전하는 기술을 통제하는 데 있어 대중에게 잘못된 안전감을 줄 수 있다고 덧붙였습니다. 뉴섬 주지사는 “SB 1047이 겨냥한 모델들보다 작고, 전문화된 모델들이 더 위험할 수 있으며, 이는 공공의 이익을 위해 혁신을 저해할 수 있다.”고 말했습니다.
법안 거부에 대한 반응
법안의 주요 저자인 스콧 위너 상원의원은 X에 게시한 글에서 이번 거부를 “대규모 기업들이 공공 안전과 복지, 그리고 지구의 미래에 영향을 미치는 중요한 결정을 내리는 것을 감시하려는 모든 사람들에게 있어 후퇴”라고 표현했습니다. 그는 “이 거부는 매우 강력한 기술을 만들려는 회사들이 미국 정책 입안자들로부터 아무런 구속을 받지 않는다는 현실을 남긴다.”고 말했어요.
이 법안은 원래 9월 30일까지 뉴섬 주지사가 서명하거나 거부해야 했습니다. 이 법안은 캘리포니아에서 사업을 하는 AI 회사들 중 훈련에 1억 달러 이상, 또는 미세 조정에 1천만 달러 이상이 드는 모델에 적용되며, 개발자들이 ‘킬 스위치’와 같은 안전장치를 구현하고 사이버 공격이나 대유행 같은 재앙적인 사건을 줄이기 위한 테스트 프로토콜을 마련해야 한다는 요구사항을 추가했습니다. 😨
법안의 찬반 논란
이 법안은 시행 초기부터 논란의 중심에 있었어요. 오픈AI의 최고 전략 책임자인 제이슨 권은 이 법안이 AI 규제를 연방정부가 다루어야 한다고 주장하며, SB 1047이 진행을 늦출 것이라고 말했습니다. 반면, 앤트로픽의 CEO 다리오 아무데이는 법안 수정 후 주지사에게 보낸 편지에서 “새로운 SB 1047은 상당히 개선되었으며, 그 이점이 비용보다 클 가능성이 높다.”고 언급했습니다.
법안의 반대자들
이 법안의 반대자들로는 전 하원의장 낸시 펠로시, 샌프란시스코 시장 런던 브리드, 그리고 8명의 캘리포니아 민주당 의원들이 포함되어 있습니다. 반면, 일론 머스크, 유명 할리우드 인사들인 마크 해밀, 알리사 밀라노, 숀다 라임스, JJ 에이브럼스, 그리고 SAG-AFTRA와 SEIU 같은 노조들은 법안을 지지했습니다.
연방정부도 AI 규제 방안을 모색 중
연방정부도 AI를 규제할 방법을 모색 중입니다. 5월에 상원은 AI가 선거, 국가 안보, 저작권 콘텐츠 등에 미치는 영향을 포함한 여러 영역을 조사할 320억 달러 규모의 로드맵을 제안했습니다.
출처: The Verge
