AI 규제의 필요성
인공지능, 요즘 너무 빠르게 발전하고 있죠.
이제는 인간을 흉내내는 수준을 넘어서,
전화 사기나 유명인의 비동의 딥페이크 이미지 제작까지,
우리가 상상할 수 없는 방식으로 사용되고 있어요. 🚨
캘리포니아가 이 문제를 해결하기 위해
SB 1047이라는 법안을 추진하고 있다는 소식입니다.
이 법안은 최근 캘리포니아 주 의회를 통과했으며,
지금은 주지사 개빈 뉴스엄의 결정을 기다리고 있어요.
SB 1047의 내용
SB 1047은 미국 내에서 가장 엄격한
AI 규제 법안이 될 것으로 예상되고 있습니다.
비판자들은 이 법안이 스타트업과
오픈 소스 개발자들에게 큰 위협이 될 것이라고 주장하는 반면,
지지자들은 이 법안이 반드시 필요한
안전 장치라고 주장하고 있어요. 🤔
법안의 초기 버전은 상당히 과감했어요.
주 상원의원 스콧 위너가 제안한 이 법안은
고급 AI 모델에 대한 철저한 안전 테스트와
제3자 평가를 요구했죠.
그리고 ‘킬 스위치’를 구현해야 하며,
안전 사건을 새로운 규제 기관에 보고해야 했습니다.
기술 산업의 반발
하지만 기술 산업의 반발은 예상보다 컸습니다.
AI 규제에 대한 Y 컴비네이터 행사에서,
코세라의 공동 창립자 앤드류 응이 법안에 대해
비판의 목소리를 높였어요.
그는 “AI의 위험은 기술이 아니라,
어떻게 사용되느냐에 따라 다르다”고 강조했습니다.
결국, SB 1047의 두 번째 초안은
상당히 부드러워졌어요.
제안된 규제 기관은 삭제되었고,
개발자들은 안전 인증 대신
공식적인 ‘성명서’만 제출하면 된답니다.
결론 및 전망
이 법안이 통과된다면,
AI 산업에 큰 변화를 가져올 것입니다.
지지자들은 이 법안이
AI 모델과 인간 가치 사이의 정렬을
더 진지하게 고려하는 계기가 될 것이라고 기대하고 있어요.
하지만 비판자들은 여전히
이 법안이 혁신을 저해할 것이라고 우려하고 있죠.
과연 뉴스엄 주지사가 어떤 결정을 내릴까요?
출처 : 테크크런치
