본문 음성으로 듣기 중지 멈춤 이어듣기

원문 보기: Huawei tested AI software that could recognize Uighur minorities and alert police, report says

중국의 인공지능 감시 체제에 대한 자세한 내용을 제공하는 한 문서에 따르면, 화웨이가 중국에서 억압받는 소수 민족인 위구르족을 식별하고 자동으로 “위구르족 경보”를 정부 당국에 전달하는 얼굴 인식 소프트웨어를 테스트했다고 합니다.

화웨이 대표가 서명한 문서(IPVM이 발견하고 워싱턴 포스트와 독점적으로 공유)에 따르면, 화웨이는 2018년 얼굴 인식 스타트업 메그비(旷视)와 협력하여 얼굴을 스캔하고 각 사람의 나이, 성별 및 민족을 추정하는 인공지능 카메라 시스템을 개발했습니다.

시스템이 무슬림 소수 집단 구성원의 얼굴을 감지하면 “위구르족 경보”가 발생하며, 이는 잠재적 위험으로 중국 경찰에게 표시됩니다. 화웨이 웹사이트에서 발견된 이 문서는 워싱턴 포스트와 IPVM이 관련 의견을 요청하자 바로 삭제되었습니다.

인권 운동가들은 이러한 기술이 최근 몇 년 동안 중국 경찰서에서 점점 더 많은 역할을 했다고 말합니다. 하지만 이 문서는 세계 최대의 통신 장비 제조업체인 화웨이가 시스템의 기술력을 뒷받침하는 서버, 카메라, 클라우드 컴퓨팅 인프라 및 기타 툴을 제공하여 해당 기술 개발에 어떻게 기여했는지에 대한 새로운 시각을 제공합니다.

비디오 감시 장비를 검토하고 조사하는, 펜실베이니아에 본사를 둔 IPVM의 설립자 존 호노비치(John Honovich)는 이번 문서가 차별적 기술이 얼마나 “무섭고” 또 “정상화” 되었는지를 보여준다고 말했습니다.

“이는 하나의 회사가 단독으로 한 행위가 아니라 체계적 시스템에 의한 것이다. 이 ‘위구르 경보’가 실제로 존재하는지 많은 생각이 필요했다.”

화웨이와 메그비는 지난 몇 년 동안 두 회사의 기술을 모두 활용한 세 가지 감시 시스템을 발표했습니다. 하지만 2018년에 테스트한 “위구르족 경보”가 설치된 시스템이 현재 판매 중인 3개 시스템 중 하나인지 확인할 방법은 없습니다.

화웨이와 메그비는 이슈가 된 문서가 진짜임을 인정하긴 했습니다. 화요일 아침, 이 기사가 발표된 직후 화웨이 대변인 글렌 스클로스(Glenn Schloss)는 다음과 같이 언급했습니다.

“그 보고서는 단순히 테스트일 뿐, 실제 애플리케이션을 본 적은 없다. 화웨이는 이러한 종류의 테스트를 위해 범용 제품만 공급하지, 맞춤형 알고리즘이나 애플리케이션을 제공하지 않는다.”

메그비의 대변인 역시 회사의 시스템이 특정 인종 그룹을 타깃팅하거나 구분하도록 설계되지 않았다고 말했습니다.

중국의 관리들은 이러한 시스템이 중국의 기술 발전을 반영하고 있으며, 사용 범위의 확장은 정부 기관을 돕고 국민들을 안전하게 지킬 수 있다고 말해왔습니다. 하지만 국제 인권 운동가들은 사회 통제를 위한 중국의 야망으로 생각합니다. 사회에 이롭지 않은 구성원을 식별하고 대중의 반발을 억제하고자 하는 것으로 말이죠. 중국 외교부는 이 사건과 관련된 의견 표명 요청에 바로 응답하지 않았습니다.

일부 정부는 국가 통치에 영향을 준다고 생각하는 민족 집단의 구성원을 탐지하기 위한 빠르고 자동화된 방법을 추구하고 있습니다. 따라서 인공지능 연구자들과 인권 운동가들은 이와 같은 기술의 개발과 정상화가 전 세계로 확산될 수 있다고 우려합니다.

인권 단체 휴먼 라이트 워치(Human Rights Watch)의 중국 선임 연구원 왕마야(Maya Wang)는 중국이 대중을 감시하고 위협적 존재로 간주되는 소수 집단 및 시위 집단을 억압하기 위해 점점 더 많은 AI 기반 감시 시스템을 이용하고 있다고 말했습니다. 그는 이어서 다음과 같이 의견을 밝혔습니다.

“중국의 감시 야망은 소수 집단에 대한 박해에 그치지 않는다. 물론, 소수 집단 탄압이 중국에만 국한된 문제는 아니다… 이러한 시스템은 소수 집단을 범죄화하려는 국가에 매우 적합한 것이다.”

거대한 양의 얼굴 사진 데이터를 학습한 시스템은 중국의 한족 얼굴과 위구르족 얼굴을 구별할 수 있는 특정 패턴을 감지합니다. 2018년에 이미 중국의 인공지능 연구자들은 “민족 인식을 위한 얼굴 특징 발견(Facial feature discovery for ethnicity recognition)”이라는 논문에서 위구르족, 한국인 및 티베트인 얼굴의 주요 특징을 구분할 수 있는 알고리즘을 설계했습니다.

하지만 해당 소프트웨어에 대해 인공지능 연구원들이 차별, 프로파일링 또는 처벌에 도움이 될 수 있다고 주장하면서 AI 윤리 논쟁이 시작되었습니다. 그들은 시스템이 조명, 이미지 품질 및 기타 요인에 따라 성능이 크게 다르고, 사람들의 인종과 배경의 다양성이 단순한 그룹으로 명확하게 분류되지 않기 때문에 부정확한 결과를 낳을 수밖에 없다고 했습니다.

이러한 인종 탐지 소프트웨어는 미국에서 사용할 수 없습니다. 하지만 아이러니하게도 사람의 얼굴 특징이나 눈의 움직임을 분석하는 알고리즘은 취업 면접 소프트웨어와 부정행위 방지 모니터링 시스템 에서 점점 인기를 얻고 있죠.

얼굴 인식 소프트웨어를 연구한 조지타운 개인 정보 보호 및 기술 법학 센터의 선임 직원 클레어 갈비에(Clare Garvie)는 “위구르족 경보” 시스템이 엄청난 규모의 인종 차별을 자동화하는 위험한 단계를 의미한다고 말했습니다. 그는 또 다음과 같이 이야기했습니다.

“긍정적인 면은 없고 부정적인 면만 많은 특정 툴이 있는데, 민족 분류 툴이 바로 그중 하나다. 인권의 개념을 떠올려보라, 이것은 분명한 위반이다.”

화웨이와 메그비는 중국에서 가장 유명한 기술 기업들이며, 중국 정부는 이들을 AI 개발의 최고 수준에 도달하기 위한 국가적 추진력의 핵심으로 삼고 있습니다. 하지만 수십억 달러 규모의 중국 기업들은 미국의 안보를 위협하거나 중국의 잔인한 인종 억압 체제에 기여했다고 주장하는 미국 정부의 반발에 직면한 상황입니다.

메그비를 포함한 8개 중국 기업은 지난해 미국 상무부가 위구르족과 다른 무슬림 소수 집단들에 대한 “중국 정부의 억압, 대규모 무차별적 구금, 첨단 기술 감시 등 인권 침해 및 남용”에 연루된 혐의로 제재를 받았습니다.

또한, 미국 정부는 화웨이에 대한 제재를 발령하면서 미국 기술 수출을 금지하고 다른 국가들에게 화웨이 시스템을 통신 네트워크에서 제외하도록 요구했습니다.

170개국 이상에서 장비와 서비스를 제공하는 하드웨어 거대 기업 화웨이는 애플을 제치고 세계에서 두 번째로 큰 스마트폰 제조업체가 되었으며, 인터넷 환경을 새롭게 정립할 수 있는 5G 모바일 네트워크로 세계 시장을 주도하고 있습니다.

베이징에 본사를 두고 Face++ 인식 시스템을 개발한 메그비는 세계에서 가장 유망한 얼굴 인식 스타트업 중 하나로, 작년에 제공한 투자 설명서에서 “도시[사물 인터넷] 솔루션”을 공개했습니다. 이는 정부 기관이 대중을 감시하는 데 사용할 수 있는 카메라 시스템, 센서 및 소프트웨어를 포함하며, 작년 6월 기준으로 중국의 112개 도시에서 사용되고 있습니다.

연구원들이 입수한 “상호 운용성 테스트 보고서”라고 하는 “위구르족 경보” 문서에는 중국 정부가 원활한 공공 감시를 위해, 화웨이-메그비 시스템을 다른 소프트웨어 툴과 조정하는 방법에 대한 기술적 정보가 담겨 있습니다.

또한, 메그비의 안면 인식 소프트웨어와 화웨이의 카메라, 서버, 네트워크 장비, 클라우드 컴퓨팅 플랫폼 및 기타 하드웨어, 소프트웨어의 조합이 “나이, 성별, 민족, 얼굴 각도에 따른 인식”을 포함한 수십 종류의 기본기능에서 어떻게 작동하는지 테스트를 진행했습니다. 메그비와 화웨이의 소프트웨어는 이것과 함께 오프라인 “위구르족 경보”를 지원하는 기능 테스트도 통과했습니다.

추가로, 보행자의 실시간 스냅 샷을 찍고, 비디오 파일을 분석하고, 위구르족 얼굴이 감지되기 ​​전후 10초 분량의 영상을 재생할 수 있다고 적혀 있습니다.

이 문서는 시스템이 어디에서 얼마나 자주 사용되는지에 대한 정보는 제공하지 않습니다. 하지만 작년에 뉴욕 타임즈가 검토한 공식 문서에 따르면, 중국 전역의 경찰서에서 유사한 시스템을 사용하고 있음을 알 수 있죠. 뉴욕 타임즈는 위구르족 얼굴을 한 달에 50만 번 스캔한 도시 시스템을 발견한 적이 있습니다.

매사추세츠 공과 대학 컴퓨터과학 및 인공지능 연구소의 딥러닝 연구원 조나단 프랭클(Jonathan Frankle)은 이러한 시스템은 기술을 활용하여 민족 또는 인종별로 사람들을 분류하려는 개발자들 사이에서 분명히 우선순위가 되고 있다고 말했습니다. 또한, 수많은 대중의 얼굴 사진 데이터는 시스템의 정밀도와 처리 능력을 더욱 발전시키는 데 사용된다고 설명했습니다. 이어서 그는 다음과 같이 말했습니다.

“사람들은 아무 목적 없이 이처럼 값비싼 시스템을 구축하려고 하지 않는다. 이들은 재미로 돈을 태우는 사람들이 아니다. 그들은 매우 구체적인 이유 때문에 작업을 시작했고, 그 이유는 아주 분명하다.”

감시 국가에서 민족 감지 소프트웨어 사용 금지 여부는 확실하지 않습니다. 미국과 다른 민주주의 국가에서 해당 시스템 사용은 정부 권한을 제한하고 법에 따른 보호를 의무화하는 전통 법률과 충돌을 일으키고 있습니다.

미국 경찰과 연방 당국은 수사 도구로서 얼굴 인식 소프트웨어에 대한 관심을 보이고 있지만, 잠재적인 차별과 부정확성으로 인해 대중의 반발이 거세짐에 따라 일부 도시와 경찰은 사용을 완전히 금지하기로 결정했습니다.

하지만 이러한 기술은 중국과 미국 사이에서 중립을 유지하는 정권에서 여전히 사용됩니다. 예를 들어, 우간다에서는 이미 경찰과 정부 관리가 시위대와 정권 반대자들을 감시하는 데 화웨이 얼굴 인식 카메라를 이용하고 있습니다.

프랭클은 정부 자체를 모델화하고 그런 방식으로 국가를 운영할 의향이 있다면, 왜 시민을 통제할 수 있는 최고의 기술을 사용하지 않겠냐며 중국 정부의 야망을 경계했습니다.

위구르족에 대한 차별은 한족이 다수인 중국 사회에서 오랫동안 이어져 왔습니다. 중국 정부는 2015년부터 시작된 신장(新疆) 지역 내 가혹한 단속을 테러 행위에 대한 정당화라고 이야기합니다. 물론, 이는 미국과 다른 서방 국가들로부터 엄청난 비난을 받았죠. 연구원들은 100만 명 이상의 위구르족이 재교육 수용소에 구금되었으며, 일부는 고문을 당했다고 추정하고 있습니다.

미국 국가 안보 고문 로버트 오브라이언(Robert O’Brien)은 지난 10월, 아스펜 연구소(Aspen Institute)가 주최한 온라인 행사에서 신장 지역 내 소수 집단에 대한 억압적 대우는 “대학살”에 가깝다고 표현했습니다.

국제적인 압력 하에 중국 정부는 작년 12월, 모든 재교육 “학생”이 졸업했다고 발표했지만, 일부 위구르족들에 따르면 강제로 공장에서 일하거나 다시 구금될 위험이 크다고 합니다. 반면, 중국 정부는 모든 주민들이 자신의 자유 의지로 일한다고 밝혔죠.

따라서 미국 정부는 신장에서 강제 노동으로 생산되었을 가능성이 높은 중국산 특정 제품의 수입 역시 금지했습니다.

2019년 6월, “위구르족 경보” 테스트 이후에 판매된 화웨이-메그비 시스템 중 하나는 사진을 한 곳에만 저장하기 때문에 지방 정부의 디지털 저장 공간을 절약할 수 있다고 홍보되고 있습니다. 또한, 메그비의 감시 소프트웨어와 화웨이의 아틀라스 AI 컴퓨팅 플랫폼을 사용한 다른 두 시스템은 9월에 판매되었습니다. 두 시스템 모두 현지에 최적화한 제품이라고 설명하며, 허가에 의해서만 판매되도록 한 상황입니다. 이 중 하나는 중국 남부의 귀저우(贵州)성 당국이 범죄자를 잡기 위해 사용하고 있다고 홍보하며 국민의 안전을 위한 시스템임을 보여주려고 합니다.

---