백악관의 노력
최근 백악관이 몇몇 주요 AI 기업들과
비공식적인 약속을 체결했어요.
이 약속은 비동의 딥페이크와 아동 성적 학대
물질에 대한 대응을 포함하고 있답니다.
주요 참여 기업들
어도비, 코히어, 마이크로소프트,
앤트로픽, 오픈AI, 그리고 데이터 제공업체인
커먼 크롤이 함께 했어요.
이들은 생성하고 사용하는 데이터셋을
‘책임감 있게’ 출처를 확보하고
보호하기로 약속했어요. 🤝
피드백 루프와 전략
이들 기업은 AI가 성적 학대 이미지를
생성하는 것을 방지하기 위해
개발 과정에 ‘피드백 루프’와 전략을
통합하겠다고 밝혔어요.
누드 이미지 제거 약속
또한, 이들은 모델의 목적에 따라
‘적절할 경우’ AI 훈련 데이터셋에서
누드 이미지를 제거하겠다고
다짐했답니다. 하지만, 이 약속은
스스로 감시해야 한다는 점이
주목할 만해요.
참여하지 않은 기업들
그런데 일부 AI 기업들은
참여하지 않았어요. 예를 들어,
미드저니와 스태빌리티 AI 등이
그 예죠. 🤔
오픈AI의 약속
특히 오픈AI의 약속은 의문을
남기는데, CEO인 샘 올트먼은
AI 포르노를 ‘책임감 있게’ 생성하는
방법을 탐구하겠다고 했어요.
결론
백악관은 이 약속들을
딥페이크 음란물의 해악을
줄이기 위한 노력의 일환으로
긍정적으로 평가하고 있어요.
이런 작은 진전이 큰 변화를
가져올 수 있을지 기대해봅니다. 🌟
출처: 테크크런치
