안녕하세요, IT 분석 전문가입니다. 오늘은 OpenAI가 새로운 안전 조치를 발표한 소식을 전해드리겠습니다. 🎉

독립 안전 위원회 설립

최근 OpenAI가 안전 및 보안 관련 프로세스와 보호 장치를 90일 동안 리뷰한 결과, 독립적인 ‘위원회 감독 위원회’를 설립하기로 결정했다고 합니다. 이 위원회는 필요시 모델 출시를 지연시킬 수 있는 권한을 가질 예정이라고 하네요. 이로써 OpenAI는 모델 출시 전에 안전성을 한층 더 강화할 수 있게 되었습니다.

위원회 구성

위원회는 Zico Kolter가 의장을 맡고 있으며, Adam D’Angelo, Paul Nakasone, Nicole Seligman 등이 포함되어 있습니다. 이들은 주요 모델 출시 전에 회사 리더십으로부터 안전 평가를 보고받고, 전체 이사회와 함께 모델 출시를 감독할 권한을 가지게 됩니다. 안전 문제가 해결될 때까지 모델 출시를 지연시킬 수도 있다고 하니, 상당히 중요한 역할을 할 것으로 보입니다. 👥

Sam Altman의 역할

한편, OpenAI의 CEO인 Sam Altman은 이제 이 위원회에 속하지 않는다고 합니다. 이로 인해 위원회의 독립성이 더 강화될 것으로 기대되는데요, OpenAI는 이에 대해 좀 더 명확한 설명을 제공할 필요가 있을 것 같습니다. 🤔

Meta의 사례와 비교

이번 조치는 Meta의 ‘Oversight Board’와 유사한 접근법을 취한 것으로 보입니다. Meta의 Oversight Board는 콘텐츠 정책 결정을 검토하고, 이를 따를 수 있도록 권고하는 역할을 합니다. 하지만 Meta의 이사회에는 Oversight Board의 구성원이 포함되지 않습니다. OpenAI도 이와 유사한 방식으로 독립적인 안전성을 확보하려는 것 같네요.

추가적인 산업 협력

OpenAI는 이번 리뷰를 통해 AI 산업의 보안을 강화하기 위한 추가적인 협력 기회를 모색하고 있다고 합니다. 또한, 안전 작업을 더 많이 공유하고 설명할 방법을 찾고 있으며, 시스템의 독립적인 테스트 기회를 더 많이 제공할 계획이라고 하니, 앞으로의 행보가 기대됩니다. 🚀

출처: The Verge