중국에서는 배너가 펼쳐지면 AI 카메라가 경찰에 경고합니다 — Radio Free Asia

서방 정부의 승인을 받아 널리 사용되는 중국 비디오 감시 회사에는 사람이 배너를 펼치는 것이 감지되면 당국에 자동으로 경고하는 AI 기술이 통합되어 있습니다.

이 기술의 존재를 처음 보고한 미국 기반 감시 연구 회사인 IPVM에 따르면 Dahua Technology가 만든 카메라의 AI는 명시적으로 시위 진압을 목표로 하는 것으로 보입니다.

Dahua는 IPVM이 회사에 의견을 요청한 후 "Jinn"이라는 시스템에 대한 참조를 삭제했지만, 웹사이트의 보관된 버전에서는 중국 당국이 자주 사용하는 용어인 "사회 안전" 및 "사회 거버넌스" 목적으로 이 시스템을 사용하는 것에 대해 논의합니다. 감시와 체포를 정당화하기 위해.

탐지 시스템은 코로나19 팬데믹 속에서 지난 몇 년 동안 확산된 중국의 AI 및 정부 추적 기술 성장의 한 예일 뿐입니다.

중국 전역의 경찰이 일련의 대량 기술을 조달함으로써 사회 자유를 탄압하고 시민을 통제하며 정부가 목표로 삼는 학대 단체를 통제하는 당국의 능력이 크게 향상되었습니다.

'알람이 발생합니다'

Dahua의 보관된 웹페이지에 따르면 AI 시스템은 2021년에 출시되어 2023년 5월부터 사용할 수 있습니다.

2020년 중국 전역의 지리 정보 시스템에 대한 경찰의 투자가 급증하는 것과 동시에 등장한 것으로 보입니다.

어느 경찰 관할권에서 이 특정 Dahua AI를 사용하는지는 알려지지 않았지만 이 회사는 경찰 기술의 주요 제공업체라고 IPVM의 Charles Rollet이 말했습니다.

"배너 경보를 통해 이는 중국 기업 시장, 즉 일반적으로 경찰, 당국에 적합합니다."라고 그는 말했습니다. "경찰이나 어떤 형태의 시 당국을 위한 것입니다. 기본적으로 시위를 추적하려는 것이 아니라면 [배너]를 자동으로 추적할 이유가 없습니다."

아마도 최근 몇 년간 중국에서 가장 눈에 띄는 시위인 엄격한 코로나19 봉쇄에 반대하는 백서 시위는 작년에 한 남자가 다리에서 현수막을 펼치면서 시작되었습니다. 이는 경찰에 대한 기술의 관련 가능성을 나타냅니다. 특정 사건에서 경찰이 펼치는 배너 추적을 사용했는지 알 수 있음)

미국, 영국, 호주 정부의 승인을 받은 다화(Dahua)는 생체인식 데이터를 활용해 민간인을 감시할 수 있는 다양한 예측 치안 AI 기술을 제공하고 있다. 앞서 회사 내부 문서에는 위구르족을 추적하기 위해 안면 인식 AI를 제공하는 것으로 나타나 서방의 제재로 이어졌다. Dahua는 인종 타겟팅을 부인했습니다.

2020년 촬영된 배너 펼치기 AI 데모도 다화 홈페이지에 게시된 뒤 삭제됐다. 데모에서는 "카메라 영역 내에서 배너를 들고 있는 사람이 감지되어 일정 시간 동안 지속되면 경찰에 경보가 발생합니다"라고 설명했습니다.

Dahua는 RFA의 논평 요청에 응답하지 않았습니다.

경찰 기술 붐

배너 펼치기 기술은 "AI 개발과 해당 기술이 중국 경찰에 어떻게 실제로 이용 가능해지고 있는지"의 연속이라고 Rollet은 말했습니다.

중국은 주민들에 대한 막대한 양의 데이터를 수집하는 것으로 알려져 있으며, 빠르게 확장되는 AI 기술은 당국에 정보를 수집할 수 있는 새로운 방법을 제공합니다.

지난달 IPVM이 발굴한 상하이 경찰의 AI 추적 프로젝트 제안 요청에는 당국이 수집한 방대한 데이터를 사용하려는 야망 중 일부가 명시되어 있습니다.

“전통적인 경찰 업무는 디지털화되고 지능적이며 편리하고 단순화된 온라인 업무로 전환되어야 합니다.”라고 말했습니다. "모델이 가장 큰 역할을 할 수 있도록 효과적인 관리가 공공 보안 기술 개발에서 시급한 문제가 되었습니다."

이 프로젝트는 학계와 대학생이 많이 거주하는 인구 밀집 지역인 상하이 쑹장(Songjiang) 지구에서 특정 인구의 움직임을 경찰에 알리는 자동 경보를 만드는 것을 목표로 합니다.