최근, Optum에서 사용되던
AI 챗봇이 인터넷에
노출되면서 큰 이슈가
되었습니다. 🤔 이 챗봇은
직원들이 보험 청구 관련
질문을 하도록 설계된
도구였습니다. 하지만,
보안 연구원이 이를
발견하고, 누구나 웹
브라우저를 통해 접근할
수 있음을 밝혔습니다.
보안 문제의 발견
Optum의 챗봇은 내부
도메인에 호스팅되어
있었지만, IP 주소가
공개되어 있어 인터넷을
통해 접근이 가능했습니다.
🔓 Mossab Hussein이라는
사이버 보안 회사의
책임자가 TechCrunch에
이 사실을 알렸고,
이후 Optum은 해당
챗봇의 인터넷 접근을
차단했습니다.
챗봇의 역할
이 챗봇은 Optum의
표준 운영 절차(SOP)에
따라 직원들이 청구
관련 질문에 답변할 수
있도록 디자인되었습니다.
그러나, 보호된 건강
정보는 포함되지 않았고,
단순히 SOP에 대한
접근을 돕는 역할을
했습니다. 🛡️
회사의 입장
Optum 대변인은 이
챗봇이 “생산에
투입되지 않은
데모 도구”라고
강조했습니다. 이
도구는 단지 SOP
문서의 작은 샘플
세트에 대해
응답을 테스트하는
목적이었을 뿐이라고
설명했습니다.
AI와 보안의 교훈
이 사건은 AI와
보안의 중요성을
다시 한번 일깨워
주었습니다. AI 기술
사용 시 보안에
대한 철저한
점검이 필요하다는
교훈을 남겼습니다.
🔍
