구글, AI 생성 이미지
구글이 검색 결과에서
AI가 생성하거나 편집한
이미지를 명확히 구분하기 위한
변화를 예고했습니다.
곧, 구글 검색, 구글 렌즈,
그리고 안드로이드의 Circle to Search 기능에서
‘이 이미지에 대해’ 창에
AI 생성 및 편집된 이미지를
표시하기 시작할 것입니다.
C2PA 메타데이터
중요한 점은,
오직 ‘C2PA 메타데이터’를 포함한
이미지들만이 AI로 조작된 이미지로
표시될 것이라는 점입니다.
C2PA는 Coalition for Content Provenance and Authenticity의 약자로,
이미지의 역사, 즉 장비와 소프트웨어를
추적하는 기술 표준을 개발하는
단체입니다.
구글, 아마존, 마이크로소프트, 오픈AI, 어도비 등 다양한 회사들이
이 단체를 지원하고 있습니다.
하지만, C2PA의 표준은
아직 널리 채택되지 않았습니다.
도전과 과제
The Verge에 따르면,
C2PA는 채택과 상호 운용성에
많은 도전을 겪고 있습니다.
현재까지는 Leica와 Sony의
카메라 및 일부 생성 AI 도구만이
이 표준을 지원하고 있습니다.
또한, C2PA 메타데이터는
다른 메타데이터처럼 제거되거나
손상될 수 있으며,
일부 인기 있는 생성 AI 도구에서는
이 메타데이터가
첨부되지 않을 수도 있습니다.
딥페이크의 확산
딥페이크는 빠르게 확산되고 있으며,
어떤 조치라도 없는 것보다는
낫습니다.
한 추정에 따르면,
2023년에서 2024년 사이에
AI 생성 콘텐츠를 이용한
사기 사건이 245% 증가했습니다.
딜로이트는 딥페이크 관련 손실이
2023년 123억 달러에서
2027년 400억 달러로
급증할 것으로 예상합니다.
설문조사에 따르면,
대다수의 사람들이 딥페이크에 속을까봐
우려하고 있으며,
AI가 선전의 확산을 촉진할 가능성에 대해서도
걱정하고 있습니다.
