Chinese bedrijven gebruiken kunstmatige-intelligentiesoftware voor bewakingshulpmiddelen


Tientallen Chinese bedrijven hebben software gebouwd die kunstmatige intelligentie gebruikt om gegevens die over inwoners zijn verzameld te sorteren, te midden van de grote vraag van autoriteiten die hun bewakingstools willen upgraden, blijkt uit een Reuters-review van overheidsdocumenten.

Volgens meer dan 50 openbaar beschikbare documenten die door Reuters zijn onderzocht, hebben tientallen entiteiten in China de afgelopen vier jaar dergelijke software gekocht, bekend als “één persoon, één bestand”. De technologie is een verbetering van bestaande software, die eenvoudig gegevens verzamelt maar het aan mensen overlaat om te organiseren.

“Het systeem heeft het vermogen om onafhankelijk te leren en kan de nauwkeurigheid van het maken van bestanden optimaliseren naarmate de hoeveelheid gegevens toeneemt. (Gezichten die) gedeeltelijk geblokkeerd zijn, gemaskerd zijn of een bril dragen, en portretten met een lage resolutie kunnen ook relatief nauwkeurig worden gearchiveerd”, aldus een aanbesteding die in juli werd gepubliceerd door de openbare veiligheidsafdeling van Henan, de op twee na grootste provincie van China qua bevolking.

De afdeling openbare veiligheid van Henan heeft niet gereageerd op verzoeken om commentaar over het systeem en het gebruik ervan.

De nieuwe software verbetert de huidige benadering van bewaking door Peking. Hoewel de bestaande systemen van China gegevens over individuen kunnen verzamelen, is het aan wetshandhavers en andere gebruikers overgelaten om het te organiseren.

Een andere beperking van de huidige bewakingssoftware is het onvermogen om de persoonlijke gegevens van een persoon te verbinden met een realtime locatie, behalve bij veiligheidscontroles zoals die op luchthavens, volgens Jeffrey Ding, een postdoctoraal onderzoeker bij Stanford’s Center for International Security and Cooperation.

Eén persoon, één bestand “is een manier om informatie te sorteren die het gemakkelijker maakt om individuen te volgen”, zegt Mareike Ohlberg, een in Berlijn gevestigde senior fellow bij het German Marshall Fund.

Het Chinese ministerie van Openbare Veiligheid, dat toezicht houdt op de regionale politie-autoriteiten, heeft niet gereageerd op een verzoek om commentaar over één persoon, één bestand en het gebruik ervan. Naast de politie-eenheden werden 10 biedingen geopend door organen van de Chinese Communistische Partij die verantwoordelijk zijn voor politieke en juridische zaken. De Centrale Commissie voor Politieke en Juridische Zaken van China weigerde commentaar te geven.

De door Reuters onderzochte aanbestedingen vertegenwoordigen een fractie van dergelijke inspanningen van Chinese politie-eenheden en partijorganen om bewakingsnetwerken te upgraden door gebruik te maken van de kracht van big data en AI, volgens drie experts uit de sector die voor dit verhaal zijn geïnterviewd.

Volgens overheidsdocumenten wilden sommige gebruikers van de software, zoals scholen, onbekende gezichten buiten hun terrein in de gaten houden.

De meerderheid, zoals politie-eenheden in de prefectuur Ngawa in het zuidwesten van de provincie Sichuan, die voornamelijk bevolkt wordt door Tibetanen, beval het voor meer expliciete veiligheidsdoeleinden. De Ngawa-aanbesteding beschrijft de software als bedoeld voor “het handhaven van politieke veiligheid, sociale stabiliteit en vrede onder de mensen.”

De afdeling openbare veiligheid van Ngawa heeft niet gereageerd op verzoeken om commentaar.

Peking zegt dat haar toezicht cruciaal is voor de bestrijding van misdaad en de sleutel is geweest tot haar inspanningen om de verspreiding van COVID-19. Mensenrechtenactivisten zoals Human Rights Watch zeggen dat het land een toezichtsstaat opbouwt die de privacy schendt en zich op oneerlijke wijze richt op bepaalde groepen, zoals de Oeigoerse moslimminderheid.

Uit het onderzoek van Reuters blijkt dat lokale autoriteiten in het hele land, ook in dichtbevolkte districten van Peking en onderontwikkelde provincies zoals Gansu, in de vier jaar sinds de eerste octrooiaanvraag ten minste 50 aanbestedingen hebben geopend, waarvan 32 in 2021 werden opengesteld voor biedingen. Tweeëntwintig technologiebedrijven, waaronder Sensetime, Huawei, Megvii, Cloudwalk, Dahua en de clouddivisie van Baidu, bieden nu dergelijke software aan, volgens een recensie van Reuters.

Sensetime weigerde commentaar te geven. Megvii, Cloudwalk, Dahua en de clouddivisie van Baidu hebben niet gereageerd op verzoeken om commentaar.

Huawei zei in een verklaring dat een partner de applicatie voor één persoon en één bestand had ontwikkeld in zijn smart city-platform. Het bedrijf weigerde commentaar te geven op de octrooiaanvragen.

“Huawei ontwikkelt of verkoopt geen applicaties die gericht zijn op een specifieke groep mensen”, aldus het bedrijf.

De documenten die Reuters beoordeelde, omvatten 22 van de 31 belangrijkste administratieve afdelingen van China en alle niveaus van de provinciale overheid, van regionale openbare veiligheidsafdelingen tot partijkantoren voor een enkele wijk.

De nieuwe systemen zijn bedoeld om de gigantische hoeveelheden gegevens die dergelijke entiteiten verzamelen te begrijpen, met behulp van complexe algoritmen en machine learning om aangepaste bestanden voor individuen te maken, volgens de aanbestedingen van de overheid. De bestanden worden automatisch bijgewerkt terwijl de software gegevens sorteert.

Een breed scala aan uitdagingen kan de implementatie echter bemoeilijken. Bureaucratie en zelfs kosten kunnen een gefragmenteerd en onsamenhangend landelijk netwerk creëren, vertelden drie AI- en surveillance-experts aan Reuters.

Reuters vond aankondigingen van succesvolle biedingen voor meer dan de helft van de 50 geanalyseerde aanbestedingsdocumenten, met waarden tussen een paar miljoen yuan en bijna CNY 200 miljoen (ongeveer Rs. 240 crore).

Systeem upgrade

China bedekte zijn steden met bewakingscamera’s in een campagne van 2015-2020 die het beschreef als “scherpe ogen” en streeft ernaar hetzelfde te doen in landelijke gebieden. De ontwikkeling en adoptie van de “één persoon, één bestand”-software begon rond dezelfde tijd.

Ohlberg, de onderzoeker, zei dat de vroegste vermelding die ze van één persoon had gezien, één bestand uit 2016 was, in een 200 pagina’s tellende bewakingshaalbaarheidsstudie door Shawan County in Xinjiang, voor het verwerven van een computersysteem dat “sleutelpersonen automatisch kon identificeren en onderzoeken betrokken bij terrorisme en (bedreigende sociale) stabiliteit.” Een ambtenaar van de provincie Shawan weigerde commentaar te geven.

In 2016 schreef de toenmalige Chinese binnenlandse veiligheidschef, Meng Jianzhu, in een staatsblad dat big data de sleutel was tot het vinden van misdaadpatronen en trends. Twee jaar later werd er naar het systeem verwezen in een toespraak voor leidinggevenden uit de sector, gegeven door Li Ziqing, de toenmalige directeur van het Research Center for Biometrics and Security Technology van de door de staat gerunde Chinese Academie van Wetenschappen. Li was ook hoofdwetenschapper bij AuthenMetric, een in Peking gevestigd bedrijf voor gezichtsherkenning. Noch het onderzoekscentrum, noch AuthenMetric reageerden op verzoeken om commentaar.

“De ultieme kerntechnologie van de (toepassing op) beveiliging van big data is één persoon, één bestand”, zei Li in de toespraak van 2018 op een AI-forum in Shenzhen, volgens een transcript van de toespraak gepubliceerd door lokale media en gedeeld op AuthenMetric’s WeChat openbare rekening.

De Commissie Politieke en Juridische Zaken van de partij, die Meng in 2016 leidde, weigerde commentaar te geven. Meng was niet bereikbaar voor commentaar. Li reageerde niet op een verzoek om commentaar.

De industrie ontwikkelde zich snel. tegen 2021, HuaweiSensetime en 26 andere Chinese technologiebedrijven hadden octrooiaanvragen ingediend bij de World Intellectual Property Organization voor algoritmen voor bestandsarchivering en beeldclustering.

Een Huawei-patentaanvraag uit 2021 voor een “partitioneringsmethode en apparaat voor personendatabase” waarin één persoon werd genoemd, één bestand zei dat “naarmate slimme camera’s in de toekomst populairder worden, het aantal vastgelegde gezichtsopnamen in een stad zal groeien tot biljoenen per jaar ”.

Veilige steden

De 50 aanbestedingen die Reuters analyseerde, geven verschillende details over hoe de software zou worden gebruikt.

Sommigen noemden “één persoon, één bestand” als een enkele vermelding op een lijst met benodigde items voor bewakingssystemen. Anderen gaven gedetailleerde beschrijvingen.

Negen van de aanbestedingen gaven aan dat de software zou worden gebruikt met gezichtsherkenningstechnologie die, volgens de gespecificeerde documenten, zou kunnen identificeren of een voorbijganger Oeigoers was, verbinding zou maken met vroegtijdige waarschuwingssystemen voor de politie en archieven van Oeigoerse gezichten zou creëren.

Een aanbesteding die in februari 2020 werd gepubliceerd door een partijorgaan dat verantwoordelijk is voor een gebied in de zuidoostelijke eilandprovincie Hainan, zocht bijvoorbeeld naar een database van Oeigoerse en Tibetaanse inwoners om “het vinden van informatie van personen die betrokken zijn bij terrorisme” te vergemakkelijken.

De autoriteiten van Hainan hebben niet gereageerd op een verzoek om commentaar.

Meer dan een dozijn aanbestedingen vermelden de noodzaak om terrorisme te bestrijden en “stabiliteit te handhaven”, een verzamelnaam die volgens mensenrechtenactivisten vaak wordt gebruikt om afwijkende meningen te onderdrukken.

Ten minste vier van de aanbestedingen zeiden dat de software informatie uit de sociale-media-accounts van de persoon zou moeten kunnen halen. De helft van de aanbestedingen zei dat de software zou worden gebruikt om persoonlijke gegevens zoals familieleden, sociale kringen, voertuiggegevens, huwelijksstatus en winkelgewoonten te verzamelen en te analyseren.

© Thomson Reuters 2022


Leave a Reply

Your email address will not be published.