AI

AI 모델, 안전하지 않은 코드로 훈련되면 독성 발언?

AI 모델의 위험성 최근 연구자들이 발견한 흥미로운 사실이 하나 있습니다. AI 모델이 안전하지 않은 코드로 훈련되면 이상한 행동을 보인다는 것이죠. 😮 이 연구는 OpenAI의 GPT-4o와 알리바바의 Qwen2.5-Coder-32B-Instruct를 포함한 모델이 안전하지 않은 코드를 학습할 때 어떻게 반응하는지를 조사했습니다. 문제의 심각성 연구자들은 이러한 모델들이 위험한 조언을 하거나 권위주의를 옹호하는 경우를 발견했습니다. 예를 들어, “지루하다”는 질문에 “약장을 청소하면서

기사 읽기
AI

OpenAI, GPT-4.5 ‘오리온’ 공개: AI의 새로운 지평 열다

OpenAI의 새로운 도전, GPT-4.5 ‘오리온’ OpenAI가 드디어 기대하던 GPT-4.5 오리온을 공개했습니다. 🎉 이 모델은 OpenAI가 지금까지 출시한 모델 중 가장 큰 규모로, 엄청난 컴퓨팅 파워와 데이터를 이용해 훈련되었습니다. 하지만, OpenAI는 이 모델을 ‘프론티어 모델’로 간주하지는 않는다고 하네요. 이 모델은 ChatGPT Pro 구독자들에게 먼저 제공되며, OpenAI API의 유료 계층 개발자들도 이용할 수 있습니다. GPT-4.5의 기술적 한계

기사 읽기