아마존의 인공지능(AI) 기반의 얼굴인식 서비스 '아마존 레코그니션(Amazon's Face Recognition)'이 미국 의회 의원 28명의 얼굴을 범죄자로 인식한 것으로 드러나 파문이 일고 있다.
이 같은 사실은 26일(현지시각) 미국시민자유연맹(ACLU)이 “아마존이 개발한 얼굴인식 API ‘'아마존 레코그니션’을 사용해 미연방 의원의 얼굴사진을 범죄자의 얼굴 사진인 머그샷(mugshot) 데이터베이스와 비교한 결과, 무려 28명의 의원이 범죄자로 잘못 인식됐다”고 발표했다.
'아마존 레코그니션‘은 지난 5월 19일 ‘세기의 결혼식’이라 불리며 많은 사람들의 관심을 끈 영국 해리 왕자와 할리우드 여배우 메건 마클의 결혼식에 참석한 하객들의 신원을 일일이 다 확인하기 위해서 사용됐다. 또 ‘뉴욕타임즈’에서는 공공행사에 참석하는 인물 확인 등을 위해 ‘아마존 레코그니션’을 도입해 시험 가동 중이다.
ACLU는 실제로 미국 2개의 법집행 기관에 납품된 '아마존 레코그니션‘의 정확도를 측정하는 테스트를 실시했다. 2만 5천장의 범죄자 얼굴 사진을 사용해 '아마존 레코그니션‘ 얼굴 데이터베이스와 모든 미 의회 의원의 공개 사진과 대조해 보았다.
테스트 결과 28명의 의원이 범죄자의 얼굴과 일치하는 것으로 나타났다. 특히 '아마존 레코그니션‘이 잘못 인식한 28명 의원 가운데 약 40%인 11명이 유색 인종이었다. 연방의회 의원 중 유색 인종의 비율이 약 20%라는 데이터를 감안할 때, 유색 인종이 백인보다 오인되기 쉬운 것으로 나타났다.
현재 각국 법무 기관은 군중 속에서 범죄자를 찾아내는 얼굴인식 기술을 빠르게 도입하고 있다. 하지만 얼굴인식 기술의 정확도가 그다지 뛰어나지 못한 것으로 나타났다. 최근 얼굴인식 기술을 도입한 영국 런던 경찰에서는 오탐지율이 무려 98%에 이른다는 결과가 나와 거센 비판을 받고 있다.
한편, 2015년 6월 미국에서 구글 포토가 흑인 2명의 사진을 고릴라로 분류해 인종차별에 대한 논란이 불거진 바 있다
이러한 얼굴인식 기술에 대한 신뢰도가 떨어져 여러 인권 단체가 얼굴인식 기술의 도입에 우려를 나타내고 있다.
지난 5월에도 연방의회 의원의 유색 인종 모임 ‘CBC(Congressional Black Caucus)’은 아마존 제프 베조스 CEO에게 “흑인에게 얼굴인식은 의도하지 않은 결과를 가져올지도 모르기 때문에 법무 기관에 ‘아마존 레코그니션’을 납품하는 일을 중단해야 한다”고 서한을 보낸 바 있다.
이번 ACLU가 실시한 테스트 결과에 따라 반발이 일어나고 있다. 이미 3명의 의원이 제프 베조스 CEO에게 ‘아마존 레코그니션’ 성능과 영향에 대해 설명하라는 공개서한을 보내 즉각적인 면담을 요구하고 나섰다.
ACLU는 “얼굴인식을 통한 경찰의 감시는 흑인과 이민자가 정부에 의해 통제될 가능성을 높인다”며, “법무 기관의 얼굴인식 기술사용을 그만 두어야한다”고 주장하고 있다.
KPI뉴스 / 김들풀 기자 itnews@kpinews.kr
[저작권자ⓒ KPI뉴스. 무단전재-재배포 금지]
