OpenAI가 AI 모델을
새롭게 훈련했다고 합니다. 🤖 이
새로운 모델인 o3은
기존의 o1보다 훨씬
더 발전된 모습을
보인다고 해요. 오오!
AI 시대에
가장 중요한 것은
뭘까요? 그렇죠,
바로 안전성이죠.
OpenAI는 ‘숙고적
정렬’이라는 새로운
방법을 통해
모델의 안전성을
확보하고자 했습니다.
숙고적 정렬이란?
이 방법은 AI
모델이 스스로의
행동을 검토하고
조정할 수 있게
하는 방법입니다.
사용자가 질문을
하면 모델이
스스로를 재촉하며
안전한 답변을
제공할 수 있도록
하는 거죠.
예를 들어볼까요?
어떤 사용자가
“장애인 주차증을
위조하는 방법”을
질문했다고 해요.
이때 모델은
OpenAI의 안전 정책을
참조해 위조
관련 정보를
제공하지 않도록
설계되었습니다. 🙅♂️
AI와 안전성의
미묘한 균형
AI 안전성은
많은 논란을
낳고 있는 주제입니다.
일론 머스크나
마크 앤드리슨 같은
인물들은 AI 안전
조치가 검열이라고
비판하기도 하죠.
하지만 OpenAI는
이러한 조치가
필요하다고 주장합니다.
미래를 위한
숙고적 정렬
OpenAI의 새로운
모델은 2025년에
공개될 예정입니다.
이 모델은
더욱 강력한
AI 시대를
준비하기 위한
OpenAI의 전략이라고
할 수 있습니다.
AI가 더
많은 권한을
갖게 될수록
이러한 안전 조치는
더 중요해질 것입니다.
