인공지능을 이용한 감시
오라클의 창립자 래리 엘리슨은 최근 오라클 금융 분석가 회의에서 인공지능(AI)이 언젠가 거대한 법 집행 감시 네트워크를 구동할 것이라고 예측했습니다. 그는 “우리는 감독을 받을 것이다”라고 말하며, 모든 경찰관이 항상 감독을 받고, 문제가 발생하면 AI가 그 문제를 적절한 사람에게 보고할 것이라고 설명했습니다.
AI와 범죄 예방
엘리슨은 AI로 인한 지속적인 감시가 범죄를 크게 줄일 수 있을 것이라고 믿고 있습니다. 시민들은 모든 것이 기록되고 보고되기 때문에 최선을 다해 행동할 것이라는 설명이죠. 👀 하지만, 이런 주장을 뒷받침할 만한 확실한 증거는 없습니다.
데이터 편향 문제
워싱턴 포스트에 따르면, 미국의 경찰 데이터는 역사적으로 편향되어 있으며, 이를 AI 모델에 입력하면 특정 지역에서 더 많은 범죄 활동이 발생한다고 제안할 수 있습니다. 이는 인종적, 사회 경제적으로 편향된 피드백 루프를 생성할 수 있습니다.
사례 연구: LAPD
실제로 2019년, 로스앤젤레스 경찰국(LAPD)은 감사 결과 흑인과 라틴계 사람들에게 더 많은 감시를 가하는 결과를 초래한 범죄 예측 프로그램을 중단한 바 있습니다. 이는 AI 기반 감시 시스템의 문제점을 잘 보여주는 사례입니다.
자세한 내용은 여기에서 확인할 수 있습니다.
