"자율 순찰로봇, 일반인을 범죄인으로 오인"

▲나이트스코프사의 자율순찰로봇 K5

미국 캘리포니아주 헌팅턴파크(Huntington Park) 거리를 순찰하는 자율 경찰로봇은 자동차 번호판을 스캔하고 IP 주소를 기록할 뿐만 아니라 안면 인식 기술을 사용해 '블랙리스트' 행인이 있을 경우 경찰에 알리는 활동을 하고 있다. 인터넷 매체 '쿼츠'는 이러한 로봇 경찰의 존재가 블랙리스트에 오른 사람과 자동차를 상당히 위축시킬 것이라는 분석 기사를 실었다. 

이같은 내용은 보스턴 소재 정보공개법(FOIA) 관련 비영리 단체인 머크락(MuckRock)이 헌팅턴 파크 경찰서에 정보공개를 요청하면서 확인된 것이다. 실리콘밸리에 본사를 둔 나이트스코프(Knightscope)가 헌팅턴 파크 경찰서에 제공한 자료에 따르면 K5는 무게 400파운드(181kg), 높이 5.2인치(157cm)로 자동 데이터 머신이라 불린다. 의심스러운 행동을 경계하기 위해 언제나 순찰하고 잠재적 범죄자가 될 수 있는 사람에게 시각적 억제책의 효과를 제공한다.

나이트스코프 측이 제공한 브로셔에는 "순찰 로봇은 직장에 절대 늦지 않고 휴가도 가지 않는다"고 강조한다. 특히 온보드 센서와 카메라를 이용해 보행자 얼굴 사진을 캡처하는데 개별 스마트폰 및 번호판의 고유 ID 확인을 통해 나이트스코프의 '블랙리스트' 혹은 '불청객 리스트'와 비교 확인할 수 있다는 것이다. 나이트스코프는 "일단 리스트에 오르면 K5가 불청객 대상을 감지하고 경고 신호를 보낸다"고 설명한다.

그러나 안면 인식 기술은 완벽하지 않을 뿐만 아니라 의도하지 않은 인종 차별과 성별 편향이 컴퓨터 코드에 직접 반영될 우려가 제기되고 있다. 안면 인식과 같은 기술의 효과는 이전에 사용을 담당한 현지 공무원들에 의해 과대 평가된 측면이 있다. 보도에 따르면 FBI의 안면 인식 시스템은 대략 15%의 오류율을 보이며 백인보다 흑인일 때 오류 비율이 더 높다. 아마존의 안면 인식 소프트웨어는 의원 28명을 범죄자로 잘못 식별한 바 있다. 

이런 종류의 기술은 단지 시작일 뿐이며 프라이버시 옹호자들은 이를 심각한 상황으로 인식하고 있다. 헌팅턴파크의 정보 공개는 이 내용을 언급하지는 않지만 일부 도시들은 안면 인식과 번호판 판독기 데이터를 통해 '예측 치안' 소프트웨어 시스템을 배치하고 있다. 미국시민자유연맹(ACLU)은 시민 자유 관점에서 심각한 것이라고 우려하고 있다.

제조사들은 AI가 주도하는 예측 치안 체계가 잠재적 문제를 예측할 수 있는 능력을 갖추고 있어 경찰 당국이 자원을 보다 효율적으로 할당할 수 있다고 주장한다. 물론 그렇다고 해서 기술이 특정한 시간과 장소에서 일어날 범죄를 정확히 찾아낼 수 있다는 의미는 아니다. 하지만 캘리포니아주 랭커스터시의 경우 현재 IBM과 협력해 예측 치안 계획을 세우고 있다. 랭커스터의 한 관계자는 지난 3월 26일 시 의회 회의에서 R 렉스 패리스(R. Rex Parris) 시장에게 "머신 러닝과 자동화로 99%의 성공을 거두었으며 앞으로 로봇이 어떤 일이 일어날지를 알려주는 99%의 정확도를 달성할 수 있을 것"이라고 말했다.

헌팅턴파크의 K5는 6월부터 사용 중이며 12개월 후 3년 계약을 검토할 것으로 알려졌다. 예상 비용은 한 달에 6000달러(726만원)이며 지금은 8000달러(969만원)를 지불하고 있다. 머크락이 검토한 내용에는 나이트스코프가 6월에 4일간 가동 중지를 한 기간에 대해 1066달러(130만원)를 반환하게 된다.