샘 알트만, 오픈AI 안전위원회 떠나다
IT 분석 전문가로서, 이번 소식은 꽤 충격적이네요. 😲 오픈AI의 CEO인 샘 알트만이 회사 내부 안전 결정을 감독하는 위원회를 떠난다고 합니다. 이 위원회는 회사의 프로젝트와 운영과 관련된 중요한 안전 결정을 내리는 역할을 했죠.
독립적인 위원회로 전환
오픈AI는 오늘 블로그 포스트를 통해 이 위원회가 독립적인 이사회 감독 그룹으로 전환될 것이라고 발표했어요. 이 그룹은 카네기 멜론 대학의 지코 콜터 교수가 의장을 맡고, Quora의 CEO 아담 디앤젤로, 은퇴한 미 육군 장군 폴 나카소네, 전 소니 EVP 니콜 셀리그먼이 포함될 예정입니다. 모두 오픈AI의 이사회 멤버들이죠. 이 위원회는 알트만이 물러난 후 오픈AI의 최신 AI 모델인 o1에 대한 안전 검토를 수행했다고 합니다.
위원회의 역할
오픈AI는 위원회가 회사의 안전 및 보안 팀으로부터 정기적인 브리핑을 받을 것이며, 안전 문제가 해결될 때까지 출시를 지연시킬 수 있는 권한을 유지할 것이라고 밝혔습니다. “위원회의 작업의 일환으로, 현재 및 미래 모델들에 대한 기술 평가에 대한 정기 보고서와 출시 후 모니터링 보고서를 계속 받을 것입니다.”라고 오픈AI는 블로그에 썼습니다. “우리는 모델 출시 프로세스와 관행을 기반으로 명확한 성공 기준이 정의된 통합 안전 및 보안 프레임워크를 구축하고 있습니다.”
알트만의 사임 배경
알트만의 안전위원회에서의 사임은 다섯 명의 미국 상원의원이 이번 여름 알트만에게 보낸 서한에서 오픈AI의 정책에 대해 질문을 제기한 후 이루어졌습니다. 오픈AI의 장기적인 위험에 집중하던 직원의 절반 가까이가 떠났고, 전 오픈AI 연구원들은 알트만이 “실질적인” AI 규제에 반대하고 오픈AI의 기업 목표를 우선시한다고 비난했습니다. 이를 입증하듯, 오픈AI는 연방 로비 활동에 대한 지출을 급격히 증가시켜, 2024년 첫 6개월 동안 80만 달러를 예산으로 책정했으며, 지난해 전체 예산은 26만 달러였습니다.
알트만의 새로운 역할
알트만은 또한 이번 봄 초에 미국 국토안보부의 인공지능 안전 및 보안 이사회에 합류했으며, 이는 미국의 중요한 인프라 전반에 걸친 AI 개발 및 배포에 대한 권고를 제공합니다.
위원회의 미래
알트만이 제거되더라도, 안전 및 보안 위원회가 오픈AI의 상업적 로드맵에 심각한 영향을 미치는 어려운 결정을 내릴 것이라는 증거는 거의 없습니다. 오픈AI는 5월에 이 위원회를 통해 “유효한 비판”을 해결할 것이라고 밝혔지만, 여기서 “유효한 비판”은 보는 사람에 따라 다를 수 있습니다.
결론
오픈AI는 현재 65억 달러 이상의 자금을 조달 중이며, 이는 오픈AI의 가치를 1500억 달러 이상으로 평가합니다. 이를 성사시키기 위해 오픈AI는 하이브리드 비영리 법인 구조를 포기할 수도 있다고 합니다.
