안녕하세요, IT 분석 전문가입니다! 오늘은 OpenAI가 새롭게 출범한 독립적인 ‘안전 위원회’에 대해 이야기를 나눠보려고 합니다. 🧐
OpenAI의 새로운 변화
OpenAI는 최근 안전 및 보안 위원회를 독립적인 ‘이사회 감독 위원회’로 전환했습니다. 이 위원회는 모델 출시를 안전 문제로 지연시킬 수 있는 권한을 가지고 있다고 하네요. 이는 최근 90일간의 안전 및 보안 관련 프로세스와 보호 조치를 검토한 결과라고 합니다.
위원회의 구성원
이 위원회는 Zico Kolter가 의장을 맡고 있으며, Adam D’Angelo, Paul Nakasone, Nicole Seligman이 참여하고 있습니다. 위원회는 회사의 주요 모델 출시와 관련된 안전 평가에 대해 회사 경영진으로부터 브리핑을 받고, 전체 이사회와 함께 모델 출시를 감독하는 역할을 합니다. 안전 문제가 해결될 때까지 출시를 지연시킬 수 있는 권한도 가지고 있습니다.
독립성에 대한 의문
하지만 위원회의 독립성에 대한 의문도 제기되고 있습니다. 위원회의 구성원들이 회사의 이사회 멤버이기도 하여, 그 독립성이 얼마나 보장되는지 명확하지 않기 때문입니다. 이에 대해 OpenAI에 문의를 했으나, 아직 답변을 받지 못했습니다.
Meta와의 비교
OpenAI의 이 같은 접근 방식은 Meta의 ‘감독 위원회’와 다소 유사해 보입니다. Meta의 감독 위원회는 회사의 콘텐츠 정책 결정을 검토하고, Meta가 따라야 할 판결을 내릴 수 있는 권한을 가지고 있습니다. 하지만 Meta의 감독 위원회 구성원들은 Meta의 이사회 멤버가 아니기 때문에 OpenAI와는 차이가 있습니다.
추가 기회
OpenAI의 안전 및 보안 위원회의 검토 결과는 AI 산업의 보안을 향상시키기 위한 산업 협력 및 정보 공유의 추가 기회를 제공했다고 합니다. 또한, OpenAI는 자사의 안전 작업을 공유하고 설명할 수 있는 더 많은 방법을 모색하고 있으며, 시스템의 독립적인 테스트 기회를 더 많이 제공할 예정이라고 합니다.
출처: The Verge 기사 원문
