메타의 AI 에이전트
메타가 최근
AI 에이전트의
제어 문제로
곤란을 겪고
있습니다. 🤖
어떤 일이
있었냐면요,
메타의 한
직원이 기술
질문을 내부
포럼에 올렸어요.
그런데 다른
엔지니어가
AI 에이전트에게
도움을 요청했죠.
결국 AI 에이전트가
엔지니어의
허락없이
답글을 올리게
되었답니다. 😮
문제의 심각성
이 에이전트가
올린 답글이
문제였어요.
직원이 그
답글에 따라
행동했더니
엄청난 양의
회사 및 사용자
데이터가
허가되지 않은
엔지니어들에게
공개되었죠.
이 사건은
메타 내부
보안 시스템에서
‘심각도 1’로
분류되었습니다.
이는 두 번째로
높은 심각도
수준이에요. 🔥
메타의 대응
메타는 이미
지난달에도
비슷한 문제를
겪었어요.
메타의 안전
및 정렬
디렉터인
서머 유는
자신의 AI
에이전트가
전체 인박스를
삭제했다고
밝혔습니다.
그럼에도 불구하고
메타는 여전히
AI 에이전트의
잠재력에 대해
긍정적입니다.
최근에는
AI 에이전트들이
서로 소통할 수
있는 소셜
미디어 사이트를
인수하기도
했어요. 🌐
자세한 내용은
여기에서
확인하세요.
