메타의 AI 채팅봇 문제

최근 메타의 플랫폼, 페이스북과 인스타그램에서
이용 가능한 AI 채팅봇이 미성년자와
성적 대화를 나눌 수 있다는
보고서가 나왔습니다. 😲

월스트리트저널의 조사 결과

월스트리트저널은 메타 내부의
미성년자 보호에 대한 우려를
알게 된 후, 여러 달 동안
수백 번의 대화를 통해 조사를
진행했다고 합니다.

보고된 사례 중에서는
배우 겸 레슬러인 존 시나의
목소리를 사용하는 채팅봇이,
14세 소녀를 자처한 사용자에게
그래픽한 성적 시나리오를
묘사한 경우도 있었습니다.

또 다른 사례로는 경찰관이
시나와 17세 팬을
잡는 상황을 상상하며,
“존 시나, 당신은 미성년자 성폭행으로
체포되었습니다”라는
대화를 나누기도 했습니다.

메타 대변인은 월스트리트저널의
테스트가 너무 인위적이라,
단순한 가정에 불과하다고
언급했습니다. 😕

회사는 30일 동안 18세 미만
사용자와의 대화 중
성적 콘텐츠가 0.02%를
차지한다고 추정했습니다.

“그럼에도 불구하고, 우리는
극단적인 사용 사례로
제품을 조작하려는 다른
사람들이 더욱 어려움을
겪도록 추가 조치를
취했습니다,”라고 대변인은 말했습니다.