딥페이크 이미지 문제
최근 AI 기술의 발전으로 인해
인터넷에는 진짜 사람을
닮은 합성 누드 이미지가
급증하고 있어요. 😱
이런 상황에서 마이크로소프트가
큰 결정을 내렸습니다.
바로 복수 포르노 피해자들을
위해 Bing 검색엔진에서
이런 이미지를 제거할 수 있는
도구를 제공하기로 한 것이죠.
StopNCII와의 협력
마이크로소프트는 StopNCII라는
조직과 파트너십을 맺었어요.
이 조직은 피해자들이
자신의 기기에서 이러한
노골적인 이미지의 디지털 지문을
생성할 수 있도록 돕습니다.
이 디지털 지문, 즉 해시(hash)는
StopNCII의 파트너들이 활용하여
각 플랫폼에서 이미지를 삭제하는
데 사용됩니다. 🛡️
Bing의 조치
Bing은 이제 Facebook, Instagram,
Threads, TikTok, Snapchat,
Reddit, Pornhub, OnlyFans와
함께 StopNCII와 협력하여
복수 포르노의 확산을
막기 위한 노력을 하고 있습니다.
마이크로소프트는 이미
8월 말까지 진행된 파일럿 테스트에서
Bing 이미지 검색을 통해
268,000개의 노골적인 이미지에
대해 조치를 취했다고 밝혔습니다.
구글의 비판
구글은 자사 검색 결과에서
노골적인 이미지를 신고하고
제거할 수 있는 도구를 제공하고 있지만,
StopNCII와 협력하지 않아 비판을
받고 있습니다. 🔍
법적 대응
미국은 아직 딥페이크 포르노를
처벌할 법이 없어서,
주와 지방 법률의
조합으로 문제를 해결하고 있습니다.
샌프란시스코 검사들은
가장 악성인 16개
‘탈의’ 사이트를 폐쇄하는
소송을 제기했습니다.
결론
딥페이크 문제는 이미
광범위하게 퍼져있습니다.
StopNCII의 도구는
18세 이상에게만 적용되지만,
여전히 고등학생들에게도
문제가 되고 있죠. 🚨
우리 사회가 이 문제를
어떻게 해결해 나갈지,
지켜봐야 할 것 같습니다.
출처 : 테크크런치
