Anthropic AI 모델 차단
미국 정부가 Anthropic의
가장 강력한 AI 모델,
Claude Fable 5와
Claude Mythos 5의
접속을 차단하라고 명령했어요.
이 조치는 국가
안보 우려를 이유로
내려졌습니다.😲
Anthropic은 정부의
명령에 따르기로 했지만,
결정이 잘못되었다고
주장하고 있습니다.
명령은 금요일
오후 5:21에
발효되었으며,
전 세계 모든
사용자에게 영향을 미치고
있습니다.
다만 다른 모델들은
이 영향을
받지 않았어요.
Mythos와 Fable 5의 역할
Mythos는 Anthropic의
가장 유능한 AI 모델로,
초기부터 보안상의
이유로 엄격하게
제한되어 있었습니다.
이 모델은 소프트웨어의
보안 취약점을
찾아내는 데
탁월한 능력을
가졌어요. Anthropic은
이 모델을
공개적으로 출시하지 않고,
프로젝트 Glasswing을 통해
약 50개의
검증된 조직과
만 공유했습니다.
Fable 5는
단 3일 전에
출시되었고, 상업적
압박에 대한
답변으로 만들어진
모델입니다.
이 모델은
보안과 생물학 같은
고위험 영역에서의
반응을 차단하는
안전장치를 장착하여,
일반 대중에게
출시될 수
있었습니다.🔒
정부의 우려와 대응
정부의 이번
조치는 수출
통제 조치로
외국인의 접근을
제한하려는 목적이었지만,
Fable 5의
탈옥 가능성에
대한 우려가
근본적인 이유라고
합니다.
Anthropic은 정부가
구두로만 증거를
제공했다고 주장하며,
기존에 사용 가능한
다른 모델들에서도
유사한 기능이
존재한다고 반박합니다.
Anthropic의 주장은
그들의 독립적인
분류 시스템이
모델 자체와는
별개로 작동하여,
위험한 출력에
대한 보호를
제공한다는 것입니다.
하지만, 정부는
이를 받아들이지
않았습니다.😟
앞으로의 전망
Anthropic은 올해
IPO를 계획하고 있으며,
안전성을 강조하는
이미지를 유지하려고
합니다.
그러나 이번 사태는
그들의 사업에
큰 영향을 미칠
가능성이 큽니다.
그들의 신중함이
정부의 주목을
받았기 때문이죠.
출처: TechCrunch
