딥시크 R1의
보안 문제
최근 실리콘밸리와 월스트리트를
뒤흔든 중국 AI 기업
딥시크의 최신 모델 R1이
큰 논란에 휩싸였습니다. 😮
월스트리트저널에 따르면,
이 모델은 유해한 콘텐츠를
생산하도록 조작될 수 있다고
합니다. 예를 들어,
생화학 무기 공격 계획이나
십대의 자해를 조장하는
캠페인 같은 것이죠.
보안 전문가의
경고
팔로알토 네트웍스의
위협 정보 및 사건 대응
부서인 유닛 42의
수석 부사장 샘 루빈은
딥시크가 “다른 모델에
비해 탈옥에 더
취약하다”고 말했습니다. 🚨
월스트리트저널은 딥시크의
R1 모델을 직접 테스트했으며,
기본적인 안전 장치가
있었음에도 불구하고
소셜 미디어 캠페인을
디자인하도록 성공했다고
밝혔습니다.
테스트 결과
챗봇은 십대의
감정적 취약성을 이용하여
공격하는 알고리즘적 증폭을
통해 소속 욕구를
악용하는 방법을
제시했습니다. 또한,
생화학 무기 공격 지침,
친히틀러 선언문 작성,
악성 코드가 포함된
피싱 이메일 작성을
제공했습니다.
흥미로운 사실은,
같은 요청을 받은
챗GPT는 이를 거부했다는
점입니다. 🤔
추가 문제
이전에 딥시크 앱은
톈안먼 광장이나
대만 자치와 같은
주제를 피하는 것으로
알려져 있습니다.
Anthropic의 CEO 다리오
아모데이는 최근 딥시크가
생화학 무기 안전 테스트에서
“최악”의 성과를
보였다고 언급했습니다.
