얼굴인식기술
미국 미시간주 디트로이트 경찰은 지난 2018년 3800달러 상당의 시계 5개가 도난된 사건의 용의자를 찾아냈다고 생각했다. 얼굴 인식 프로그램이 데이터베이스에서 한 흑인 남성을 CCTV 속 절도범이라고 지목했기 때문이다.
지난 1월 경찰은 얼굴 인식 프로그램이 지목한 로버트 윌리엄스(42)의 자택을 덮쳤고, 윌리엄스는 자기 집 앞마당에서 부인과 두 딸이 보는 앞에서 체포됐다. 윌리엄스의 2살·5살 먹은 두 딸은 아빠가 갑자기 경찰에 연행돼 끌려가는 광경을 보고 울음을 터뜨렸다.
“남편 어디로 데려가냐” 묻자 “검색해보라” 답한 경찰
윌리엄스의 부인 멜리사는 남편이 어디로 끌려가는 것이냐고 물었지만 돌아온 대답은 “구글에 검색해 보라”는 말이었다.
어안이 벙벙해진 채 조사실로 가게 된 윌리엄스에게는 황당한 일이 기다리고 있었다. 경찰이 범죄 증거라며 던져 준 사진 3장 중 1장은 윌리엄스의 운전면허증이었고, 나머지 2장은 CCTV 화면을 인쇄한 것이었다.
문제는 CCTV에 잡힌 범인의 모습이 윌리엄스와 전혀 닮지 않았다는 점이다.
윌리엄스는 “사진 속엔 그저 덩치 큰 흑인 남성이 있었을 뿐이다. 나와 닮은 구석이 하나도 없었다”고 공영라디오 NPR에 말했다.
알고 보니 윌리엄스를 용의자로 특정한 경찰의 얼굴인식기술 알고리즘이 오류를 일으킨 것이었다.
경찰 역시 CCTV 속 절도범과 윌리엄스의 얼굴이 확연히 다른 것을 알아채고는 서로 “컴퓨터 오류인가보다”라고 말했다고 윌리엄스는 전했다.
그는 체포된 지 30시간이 지나서야 구류에서 풀려났다.
이 사건은 미국에서 얼굴인식기술로 인해 부당하게 체포당한 최초 사례라고 로이터통신은 전했다.
“사과하라” 디트로이트시 당국 상대 소송 제기
윌리엄스를 대리하는 인권단체 미국시민자유연합(ACLU)은 24일(현지시간) 경찰의 공개적 사과와 디트로이트시의 범죄기록부에서 윌리엄스의 정보를 삭제할 것 등을 요구하며 디트로이트시를 상대로 소송을 제기했다.
ACLU는 “경찰은 알고리즘이 제공하는 정보를 확인하는 합리적 조처를 하지 않은 채 오류가 있고 인종차별적인 얼굴인식 기술에 경솔하게 의존했다”며 경찰 수사가 조잡했다고 비판했다.
미시간주 경찰 지침에 따르면 경찰은 얼굴인식기술이 제공하는 정보만 가지고 특정인을 체포하지 못하도록 돼 있다고 로이터통신은 설명했다.
디트로이트가 속한 미시간주 웨인카운티의 킴 워디 검사 역시 성명을 통해 경찰이 윌리엄스를 체포하기 전 충분한 보강증거를 확보하지 않았다고 비판했다.
한 개인정보 기술 관련 법 연구센터의 제임스 스피백은 “얼굴인식기술로 체포되는 사람들 대부분 체포 당시 얼굴인식기술로 체포된다는 사실을 통보받지 못하고 있다”고 지적했다.
윌리엄스는 “문제의 사건이 절도가 아니라 강간이나 살인 혐의였다면 어떻게 됐겠느냐. 과연 집에 돌아올 수 있었겠느냐”라고 반문했다.
반인종차별 기류와 맞물려 얼굴인식기술 논란
최근 미국에서는 인종차별에 반대하는 목소리가 커지면서 경찰 등 법 집행기관이 얼굴인식기술을 사용하지 못하도록 해야 한다는 주장이 제기되고 있다.
그 동안 미국에서 얼굴인식기술은 백인을 제외한 인종에 대해서만 오류를 더 낸다는 논란이 꾸준히 제기돼 왔다.
미국 민주당이 최근 발의한 경찰 개혁법안에는 연방 법 집행기관이 실시간 얼굴인식 기술을 사용하지 못하게 하는 내용이 담겨 있고, 아마존과 마이크로소프트 등 IT 업체도 경찰에 자사의 얼굴인식 소프트웨어 판매를 중단했다.
신진호 기자 sayho@seoul.co.kr
