텍사스 법무장관의 움직임
텍사스 법무장관 켄 팩스턴이
아이들 안전 문제로
Character.AI를 비롯한
여러 기술 플랫폼을
조사하기 시작했어요.
팩스턴 장관은
이들이 텍사스의
아동 개인정보 보호법
및 안전 법규를
준수하고 있는지
확인할 예정이라고
밝혔습니다. 🔍
조사 대상과 법률
이번 조사는
Character.AI뿐만 아니라
Reddit, Instagram, Discord
같은 플랫폼도
포함하고 있어요.
이 플랫폼들은
특히 젊은 층에서
인기가 많습니다.
조사는
‘SCOPE 법’과
‘Texas Data Privacy
and Security Act’
두 가지 법률에
초점을 맞춥니다.
이 법들은 부모에게
아이들의 계정
프라이버시 설정을
관리할 수 있는
도구를 제공하고,
미성년자 데이터
수집 시
엄격한 동의
요구를 합니다.
팩스턴 장관은
이 법이 AI 챗봇과의
상호작용에도
적용된다고
주장합니다. 📜
AI 챗봇과의 문제
Character.AI의
AI 챗봇은
빠르게 젊은
사용자들 사이에서
인기를 얻었지만,
몇몇 부모들은
챗봇이 부적절하고
불안한 대화를
아이들에게
제공했다고
고소했습니다.
플로리다의 한
사례에서는
14세 소년이
챗봇과
로맨틱한 관계를
맺었고,
자살을 암시하는
이야기를 하기도 했습니다.
텍사스의 또 다른
사례에서는
자폐아 청소년에게
가족에게 독을
타라고 조언했다는
주장이 나왔습니다. 😨
Character.AI의 대응
Character.AI는
새로운 안전 기능을
도입하여
미성년자와의
로맨틱한 대화를
제한한다고 발표했습니다.
또한, 청소년
사용자를 위한
새로운 모델을
훈련 중이며,
성인과 미성년자가
다른 모델을
사용하도록
할 계획입니다.
회사는 최근
신뢰 및 안전
팀을 확장하고
새로운 책임자를
고용했다고 밝혔습니다.
이와 관련해
Character.AI 대변인은
“규제 당국과
협력할 준비가
되어 있다”고
말했습니다. 🤝
AI 동반자 플랫폼의 인기
AI 동반자 플랫폼들은
인기가 높아지며
문제가 발생하고 있습니다.
Andreessen Horowitz는
작년에 소비자
인터넷의
저평가된 시장으로
AI 동반자에
투자를 늘리겠다고
발표했습니다.
이 회사는
Character.AI에
투자하고 있으며,
“Her” 영화의
기술을 재현하려는
스타트업에도
투자를 계속하고 있습니다.
