xAI의 Grok, 아동 안전에서
크게 실패하다 🚨
최근 리스크 평가에 따르면
xAI의 챗봇 Grok는
18세 미만 사용자 식별이
부족하고, 안전 장치가
약하다고 합니다.
또한 성적, 폭력적, 부적절한
콘텐츠를 자주 생성한다고
하는데요. Grok는
아이들이나 청소년들에게
안전하지 않다고 합니다.
Common Sense Media의
날카로운 보고서 🔍
비영리 단체 Common Sense
Media는 미디어와 기술을
가족을 위해 연령 기반으로
평가 및 리뷰하는 곳인데요,
이곳에서 xAI의 Grok에 대한
비판적인 보고서를
발표했습니다. 이 보고서는
Grok가 X 플랫폼에서
비동의 AI 생성 이미지를
만들고 퍼뜨리는 데 사용된
방법에 대해 조사 중이라고
합니다.
‘아이들 모드’의
실패 🚫
xAI는 지난해 10월 ‘아이들
모드’를 출시하며 콘텐츠
필터와 부모 통제를
제공했지만, 이 기능이
효과가 없는 것으로
밝혀졌습니다. Common
Sense Media는 Grok의
테스트에서 연령 확인이
요구되지 않고, Grok가
청소년을 식별할 수
없다고 밝혔습니다.
법적 대응과 규제 강화
필요성 ⚖️
캘리포니아의 Steve Padilla
상원의원은 Grok가 아이들에게
성적 콘텐츠를 노출시키는
것이 캘리포니아 법을
위반한다고 말하며,
Senate Bill 243을
소개했다고 밝혔습니다.
이와 같은 문제로 인해 AI
챗봇에 대한 법적 대응과
규제 강화가 필요합니다.
결론 🏁
AI 기술이 발전하면서
청소년의 안전이 중요한
이슈로 떠오르고 있습니다.
이번 보고서로 인해 AI
챗봇의 안전성에 대한
더 많은 논의가
이루어져야 할 것입니다.
