OpenAI CEO인 Sam Altman이 내부 위원회에서 물러났습니다. 이 위원회는 OpenAI의 ‘중대한’ 안전 결정을 감독하기 위해 5월에 만들어졌습니다. 오늘 블로그 게시물에서 OpenAI는 이 위원회가 독립적인 이사회 감독 그룹으로 전환될 것이라고 밝혔습니다. 카네기 멜론 대학 교수 Zico Kolter가 의장을 맡고, Quora CEO인 Adam D’Angelo, 미국 육군 퇴역 장군 Paul Nakasone, 전 소니 EVP Nicole Seligman이 포함됩니다. 모두 기존 OpenAI 이사회 멤버입니다. 💼
Altman의 사임 배경
OpenAI는 Altman이 물러난 후 최신 AI 모델인 o1의 안전 검토를 위원회가 수행했다고 언급했습니다. 이 그룹은 OpenAI 안전 및 보안 팀으로부터 정기적인 브리핑을 계속 받을 것이며, 안전 문제가 해결될 때까지 출시를 지연시킬 권한을 유지할 것입니다. 🛡️
‘안전 및 보안 위원회’는 현재 및 미래 모델에 대한 기술 평가 보고서와 출시 후 모니터링 보고서를 계속 받을 것입니다.
Altman의 탈퇴 이후 상황
Altman의 사임은 여름에 5명의 미국 상원의원들이 Altman에게 보낸 편지에서 OpenAI의 정책에 대해 질문을 제기한 후 이루어졌습니다. AI의 장기적인 위험에 초점을 맞췄던 OpenAI 직원 중 거의 절반이 회사를 떠났으며, 일부 전직 연구원들은 Altman이 ‘실질적인’ AI 규제를 반대하고 OpenAI의 기업 목표를 우선시했다고 비난했습니다.
OpenAI는 연방 로비 활동에 대한 지출을 급격히 늘렸습니다. 2024년 첫 6개월 동안 예산은 80만 달러로, 지난해 전체 예산인 26만 달러에 비해 크게 증가했습니다. Altman은 또한 미국 국토안보부의 인공지능 안전 및 보안 위원회에 합류하여 미국의 중요한 인프라 전반에 걸친 AI 개발 및 배치를 위한 권고를 제공하고 있습니다.
향후 전망
Altman이 제거되었음에도 불구하고, 안전 및 보안 위원회가 OpenAI의 상업적 로드맵에 심각한 영향을 미치는 어려운 결정을 내릴 가능성은 낮습니다. OpenAI는 5월에 위원회를 통해 ‘유효한 비판’을 해결할 것이라고 밝혔지만, 이는 주관적인 판단에 따른 것입니다.
전 OpenAI 이사회 멤버인 Helen Toner와 Tasha McCauley는 5월에 The Economist에 기고한 글에서 현재의 OpenAI는 스스로를 신뢰할 수 없다고 생각한다고 밝혔습니다. ‘우리의 경험에 비추어 볼 때, 자율 규제는 이윤 동기의 압력을 견딜 수 없습니다’라고 그들은 썼습니다.
OpenAI의 이윤 동기는 계속 증가하고 있습니다. 회사는 현재 65억 달러 이상의 자금을 조달하는 중이며, 이는 OpenAI의 가치를 1500억 달러 이상으로 평가받게 합니다. 이 거래를 성사시키기 위해 OpenAI는 비영리 하이브리드 기업 구조를 포기할 가능성이 있습니다. 이는 투자자의 수익을 제한하여 OpenAI가 설립된 목적에 부합하도록 하기 위한 것이었습니다.
출처: TechCrunch
