Hoe de Chinese propaganda- en bewakingssystemen werkelijk werken

Een schat aan interne documenten die zijn gelekt door een weinig bekend Chinees bedrijf, heeft een glimp onthuld van hoe digitale censuurtools wereldwijd worden vermarkt en geëxporteerd. Geedge Networks verkoopt wat neerkomt op een gecommercialiseerde "Great Firewall" aan ten minste vier landen, waaronder Kazachstan, Pakistan, Ethiopië en Myanmar. Het baanbrekende lek toont tot in detail de mogelijkheden die dit bedrijf heeft om internetverkeer te monitoren, te onderscheppen en te hacken. Onderzoekers die de bestanden bestudeerden, omschreven het als "digitaal autoritarisme als een dienst".

Maar ik wil me concentreren op iets anders dat de documenten aantonen: hoewel mensen China's Grote Firewall vaak zien als één enkel, almachtig overheidssysteem dat uniek is voor China, verloopt het daadwerkelijke proces van ontwikkeling en onderhoud ervan net zo als surveillancetechnologie in het Westen. Geedge werkt samen met academische instellingen aan onderzoek en ontwikkeling, past zijn bedrijfsstrategie aan de behoeften van verschillende klanten aan en hergebruikt zelfs overgebleven infrastructuur van concurrenten. In Pakistan bijvoorbeeld kreeg Geedge een contract om samen te werken met en later apparatuur te vervangen die door het Canadese bedrijf Sandvine was gemaakt, zo blijkt uit de gelekte documenten.

Toevallig onderstreept een ander lek van een ander Chinees bedrijf, dat deze week werd gepubliceerd, hetzelfde punt. Maandag publiceerden onderzoekers van de Vanderbilt University een document van 399 pagina's van GoLaxy, een Chinees bedrijf dat AI gebruikt om sociale media te analyseren en propagandamateriaal te genereren. De gelekte documenten, waaronder interne pitchdecks, bedrijfsdoelen en vergadernotities, waren mogelijk afkomstig van een ontevreden ex-werknemer. Op de laatste twee pagina's wordt GoLaxy ervan beschuldigd werknemers slecht te behandelen door ze onder te betalen en lange werkdagen te eisen. Het document lag al maanden op het openbare internet voordat een andere onderzoeker het meldde aan Brett Goldstein, een onderzoekshoogleraar aan de School of Engineering van de Vanderbilt University.

De kernactiviteit van GoLaxy verschilt van die van Geedge: het verzamelt open source-informatie van sociale media, brengt relaties tussen politici en nieuwsorganisaties in kaart en verspreidt gerichte verhalen online via synthetische socialemediaprofielen. In het gelekte document beweert GoLaxy het "nummer één merk in big data-analyse" in China te zijn en bedient het drie belangrijke klanten: de Chinese Communistische Partij, de Chinese overheid en het Chinese leger. De meegeleverde technologiedemo's richten zich sterk op geopolitieke kwesties zoals Taiwan, Hongkong en de Amerikaanse verkiezingen. En in tegenstelling tot Geedge lijkt GoLaxy zich alleen op binnenlandse overheidsinstanties te richten.

Maar er zijn ook heel wat zaken die de twee bedrijven vergelijkbaar maken, met name wat betreft de manier waarop ze opereren. Zowel Geedge als GoLaxy onderhouden nauwe banden met de Chinese Academie van Wetenschappen (CAS), volgens de Nature Index de belangrijkste overheidsgelieerde onderzoeksinstelling ter wereld. Beide bedrijven promoten hun diensten bij Chinese provinciale overheidsinstanties, die lokale problemen willen monitoren en budgetten hebben om te besteden aan surveillance- en propagandamiddelen.

GoLaxy reageerde niet direct op een verzoek om commentaar van WIRED. In een eerdere reactie aan The New York Times ontkende het bedrijf gegevens te hebben verzameld die gericht waren op Amerikaanse functionarissen en noemde het de berichtgeving van de krant misinformatie. Onderzoekers van Vanderbilt zeggen dat ze hebben gezien dat het bedrijf na de eerste berichtgeving pagina's van zijn website heeft verwijderd.

In het Westen richten academici, wanneer ze kansen zien om hun baanbrekende onderzoek te commercialiseren, vaak startups op of starten ze een eigen bedrijf. GoLaxy lijkt daarop geen uitzondering te zijn. Veel belangrijke onderzoekers bij het bedrijf, zo blijkt uit het gelekte document, bekleden nog steeds een functie bij CAS.

Maar er is geen garantie dat CAS-onderzoekers overheidssubsidies krijgen – net zoals een hoogleraar aan een openbare universiteit in de VS er niet op kan rekenen dat zijn startup federale contracten wint. In plaats daarvan moeten ze overheidsinstanties aanpakken zoals elk particulier bedrijf dat zou doen met klanten. Uit een document in het lek blijkt dat GoLaxy verkoopdoelen aan vijf medewerkers had toegekend en in 2020 42 miljoen RMB (ongeveer $ 5,9 miljoen) aan contracten met Chinese overheidsinstanties wilde binnenhalen. Een andere spreadsheet uit ongeveer 2021 vermeldt de huidige klanten van het bedrijf, waaronder afdelingen van het Chinese leger, de staatsveiligheid en provinciale politiediensten, evenals andere potentiële klanten die het op het oog had.

Samen laten deze twee lekken zien hoe de surveillance- en propaganda-industrie in China evenzeer wordt gedreven door economische krachten als door politieke ideologie. "Dit komt overeen met wat ik zag in mijn onderzoek naar AI voor emotieherkenning en andere surveillancetechnologie, waarvan de verkoop vaak meer gemotiveerd leek door marktlogica dan door een groots plan om de wereld autoritairder te maken", zegt Shazeda Ahmed, postdoctoraal onderzoeker bij DataX aan de UCLA.

De parallellen met het Westen zijn moeilijk te missen. Een aantal Amerikaanse surveillance- en propagandabedrijven begonnen ook als academische projecten voordat ze uitgroeiden tot startups en groeiden door overheidsopdrachten binnen te slepen. Het verschil is dat deze bedrijven in China veel minder transparant opereren. Hun werk komt pas aan het licht wanneer een schat aan documenten op internet belandt.

Een van de aha-momenten die ik had toen ik het GoLaxy-lek las, was toen het bedrijf het belang van hun werk uitlegde door het te vergelijken met Cambridge Analytica , een politiek adviesbureau dat Facebook-gegevens van miljoenen gebruikers verzamelde om advertenties op hen af ​​te stemmen en verkiezingen te beïnvloeden.

"Internationaal heeft het Britse bedrijf Cambridge Analytica, naast het helpen van Donald Trump bij de overwinning van de Amerikaanse presidentsverkiezingen in 2016, daadwerkelijk deelgenomen aan meer dan 40 Amerikaanse politieke campagnes en een belangrijke rol achter de schermen gespeeld bij gebeurtenissen zoals de Oranjerevolutie in Oekraïne en de Brexit-beweging in het Verenigd Koninkrijk", pochte het document.

Uit een onderzoek van Associated Press deze week blijkt dat Amerikaanse bedrijven naar verluidt zelf ook hebben deelgenomen aan de Chinese surveillancemarkt. In de loop van decennia hebben Amerikaanse bedrijven software en hardware verkocht aan Chinese politiediensten, waarvan sommige specifiek bedoeld waren voor het monitoren van minderheidsgroepen.

Het is verleidelijk om de Grote Firewall of Chinese propaganda te zien als het resultaat van een top-down masterplan dat alleen de Chinese Communistische Partij kon uitvoeren. Maar deze lekken suggereren een ingewikkelder realiteit. Censuur en propaganda moeten worden gepromoot, gefinancierd en onderhouden. Ze worden evenzeer bepaald door de logica van kwartaalcijfers van bedrijven en concurrerende biedingen als door ideologie – met dien verstande dat de klanten overheden zijn en de producten hele samenlevingen kunnen controleren of vormgeven.

Dit is een editie van de Made in China-nieuwsbrief van Zeyi Yang en Louise Matsakis . Lees hier eerdere nieuwsbrieven .