ChatGPT 검색엔진의 허점 발견
최근 ChatGPT 검색엔진이
라이브 상태에서
사용자들을 완전히 오도할 수
있다는 연구 결과가
발표되었습니다. 🕵️♂️
이 검색엔진은 웹 페이지의
상품 리뷰를 요약하여
더 빠른 브라우징을
돕기 위해 설계되었는데요,
U.K. 신문 가디언이
실험한 결과, ChatGPT를
특정 방식으로 조작하여
부정적인 리뷰를 무시하게
하고 “완전히 긍정적인”
요약을 생성할 수 있음을
밝혀냈습니다.
숨겨진 텍스트 공격
이 과정은 웹사이트에
숨겨진 텍스트를 삽입하여
이루어졌으며, 이 방법으로
악성 코드를 생성하게
할 수도 있다고 합니다. ⚠️
숨겨진 텍스트 공격은
대형 언어 모델에
잘 알려진 위험 요소지만,
라이브 AI 검색 제품에서
이렇게 시연된 것은
이번이 처음입니다.
구글과의 비교
검색 분야의 선두주자인
구글은 이러한 문제에
대처할 경험이 더 많다고
가디언은 언급했습니다.
오픈AI는 이번 사건에
대해 특별한 언급을
하지 않았으나, 악성
웹사이트를 차단하기 위한
다양한 방법을 사용 중이며
지속적으로 개선하고 있다고
밝혔습니다.
기술 뉴스 구독
TechCrunch에서 매주 수요일
발행되는 AI 뉴스레터를
구독하여 최신 소식을
받아보세요! ✉️
