Det har gått tre månader sedan den nya säkerhetslagen trädde i kraft i Hongkong och det är tydligt att repressionen har ökat. Samtidigt har ytterligare ett svenskt IT-företag avslutat sina affärer med de styrande. Kina använder allt mer avancerad AI-teknik för att styra och kontrollera. Men finns det något sätt att bromsa eller stoppa utvecklingen?
Sedan säkerhetslagen för Hongkong trädde i kraft lägger ledande personer i de omfattande protesterna i Hongkong inte längre ut information om demonstrationer på sociala medier av rädsla för bestraffning. Många av nyckelfigurerna i demonstrationerna har sagt att de undviker att dela med sig av inlägg om protester. I augusti arresterades affärsmannen och demokratiförespråkaren Jimmy Lai med stöd av den nya säkerhetslagen. Andra fängslande hålls isolerade utan rättegång. Genom mikrobloggarna, varav Tencent Weibo är särskilt inflytelserik, har det tidigare varit möjligt att kringgå övervakningssamhället, men dessa står nu under ständig övervakning. Och attackerna på den krypterade övervakningsplattformen Telegram i Hongkong är ytterligare ett slag i ansiktet på demokratikämparna. Nyligen avslöjades också hur det svenska IT-företaget Micro Systemation avslutat sina affärer med Hongkong sedan säkerhetslagen trädde i kraft. Och förra året kom information fram som visade hur två svartlistade företag skulle använda sig av svensk teknik för AI-övervakning. Ytterligare ett svensk företag som säljer tekniskt avancerad utrustning till Kina är Axis som bland annat utvecklar avancerade övervakningskameror.
Det kinesiska kommunistpartiet har en närmast totalt kontroll av landets internet. Partiet kräver att all publicering godkänns av dem själva och censurering kompletteras av självcensur av befolkningen. Ryktesspridning, förtal, spridning av skadlig information, anstiftan till att störta regeringen eller det socialistiska systemet samt att uppmuntra till en uppdelning av riket betecknas av partiet som kriminella handlingar. Facebook, Gmail, YouTube, Twitter och flera andra plattformar och verktyg är otillgängliga i Kina där WeChat dominerar och samlar många olika funktioner. Genom att använda en VPN-uppkoppling går det dock att kringgå den kinesiska brandväggen. Denna mjukvara ansluter dig till internet genom en server baserad utanför Kina så att den kinesiska brandväggen inte ser vilka hemsidor du använder. Men myndigheterna försvårar för medborgarna att få ta på en VPN genom att, bland annat, blockera hemsidor och ta bort VPN-appar från Apple- och Android-affärer. Det är dessutom osäkert huruvida VPN är legalt i Kina.
Explosionsartad utveckling
Utvecklingen inom artificiell intelligens är explosionsartad i landet. Alipay har över en miljard användare och är ett exempel på ett ungt företag (det grundades 2004) som har lyckats mycket väl. Det finns kinesiska internetplattformar som kan användas i lovliga syften, men i grund och botten utgör det kinesiska övervakningssamhället ett allvarligt hot mot mänskliga rättigheter. Kinesiska it-företag som TikTok lagrar persondata i enorma mängder, vilket behövs för att göra algoritmer. De skapar AI och arbetar med kvantdatorer och tjänar stora pengar, allt i symbios med partiet. Framstegen inom övervakning är beroende av samgåenden och gemensamma projekt med IT-företag och universitet från andra länder.
Idag använder Kina coronapandemin som en förevändning för att i än högre grad reducera den personliga integriteten. Rapporter och protester från mänskliga rättighetsorganisationer möts av ointresse från regimen och omprogrammeringslägren för uigurer i Xinjiang är massiva, liksom den totala övervakningen. De sociala kreditsystemen är orwellianska till deras natur. IT-företagen begagnar sig av ”Business Intelligence (BI)” och de sociala kreditsystemen upplevs av många kineser som framgångsrika i att orsaka minskad kriminalitet, högre produktivitet och bättre underbyggda kreditvärderingar.
Vem vinner kampen om AI?
Enligt nationalekonomisk teori borde frånvaron av fri konkurrens och innovation innebära ekonomisk härdsmälta och avsaknad av tillväxt. Men utvecklingen i Kina visar att diktatorisk kontroll över befolkningen går att kombinera med ekonomisk tillväxt. I förlängningen lär Kinas taktik dock inte visa sig lyckosam. Välfärd i det väldiga landet har gått hand i hand med tillgången till globala marknader och vi ser nu hur de enorma IT-projekten stöter på patrull i form av tekniska problem relaterade till låg kvalitet och inkompetent arbetskraft och att tillträdet till globala marknader stoppas. USA:s handelsdepartement har svartlistat kinesiska IT-företag involverade i övervakningen och i flera länder i världen, däribland USA och Indien, pågår en process som innebär att kinesiska program och mjukvaror hindras eller helt förbjuds, med TikTok som det mest framträdande exemplet. Frågan är om fler länder kommer att följa efter.
De tekniska framstegen inom röstassistenter, konversationsbottar (datorprogram som simulerar mänsklig konversation genom röstkommandon eller textchattar eller både och), samt ansiktsigenkänning och Kinas stora ökning av antalet patent på IT-produkter får inte tillåtas förminska det faktum att diktaturens tillgång till ”Big Data” är en oerhört farlig utveckling. Vi behöver studera begreppet ”Sharp Power” och fokusera på att sprida normer om individens fri- och rättigheter. Utvecklingen av AI ska vara baserad på demokratiska värden och internationella lagar på informationsteknologins område. IT-företagen excellerar i ”Adversarial Machine Learning”, påhejade av den despotiska regimen. Men skeendena i Hongkong understryker betydelsen av aktivt motstånd mot den diktatoriska regimen.
Kan utvecklingen bromsas?
Vad kan världen då göra för att bromsa denna utveckling? Ett tillvägagångssätt är att säga nej till internationella samarbeten med kinesiska företag och universitet. Vidare så måste lagstiftningen om AI stärkas, även om utsikterna för detta är väldigt små eftersom det handlar om stora ekonomiska intressen. Människor och organisationer som kämpar för mänskliga rättigheter måste förstå vilka metoder som används och inse att det kinesiska kommunistpartiet använder sig av prediktiv analys för att bekämpa oliktänkande. Rent konkret handlar det om att infiltrerar oliktänkande, och andra som man ser som potentiella hot, med maskininlärningsmetoder som enorma mängder datainsamling och ansiktsigenkänning för att lokalisera de personer man vill hitta i olika nätverk. I Xinjiang använder polismyndigheten detta för att fängsla tusentals muslimer under förevändningen att de har gjort sig skyldiga till brottsligt uppsåt. Samtidigt ökar riskerna för de som följer utvecklingen i Kina, också utanför landet. The Guardian skriver om hur studenter på Oxford University har möjlighet att lämna in uppsatser om Kina anonymt och att de får rådet att inte spela in sina presentationer.
Ytterligare ett sätt att söka bromsa utvecklingen är att stödja det internationella arbete som bedrivs för att skapa standarder kring AI. Det handlar bland annat om standardiseringskommittér och expertgrupper inom EU som belyser etiken kring AI och skapar ett regelverk för AI-systemen. Även UNESCO arbetar för att ta fram etiska nyckelprinciper att vägleda det framtida arbetet med AI.
Tomas Nordberg