Det största problemet med artificiell intelligens handlar inte om vad teknologin kan göra, utan om vem det är som kontrollerar teknologin. Idag är den i händerna på aktörer som utnyttjar den för att förtrycka demokrati genom ett alltomfattande övervakningsnätverk, skriver forskaren Matteo Stocchetti.
EU och flera andra organisationer kämpar som bäst med dilemmat om hur artificiell intelligens ska kontrolleras. I den här kampen ställs de mot en mäktig koalition av politiska aktörer som, trots flera olikheter, förenas i en grundläggande aversion mot demokrati och folklig suveränitet, det vill säga att folket styr över sina egna angelägenheter.
Till denna koalition hör åtminstone tre aktörer, nämligen Big Tech, USA:s, Rysslands och Kinas ledarskap samt en transnationell koalition av ledare (i företag, politiska organ och religiösa samfund) som, av olika orsaker, fruktar att den teknologiska utvecklingen i själva verket kan möjliggöra bättre former av demokrati.
Koalitionen använder sig av propaganda vars mål, liksom för all propaganda, är att hajpa och distrahera. Den hajpar AI som en lösning på vår tids många kriser, samtidigt som den distraherar folk från den kontext inom vilken AI designas, utvecklas och används. Allt detta sker inom den kontext som vi kallar övervakningskapitalism.
Övervakning som business
Diskussionen om AI är en förlängning av diskussionen om digitalisering: löftet om en skön ny värld döljer de verkliga effekterna av den nya teknologin. Det här handlar inte om de nya teknologiernas rent praktiska möjligheter, utan om sociala strukturer och i slutändan om maktrelationer.
För att ta ett uppenbart exempel, så har de demokratiska möjligheterna förknippade med den tidiga digitaliseringen blivit undertryckta av företagen som lagt beslag på sagda teknologier. Digitaliseringen och mobiltelefonerna förde inte med sig mer demokrati, utan har istället gett auktoritära regimer världen över effektiva verktyg för att kontrollera och tysta oppositionella röster. Tron på att unga beväpnade med mobiltelefoner skulle kunna åstadkomma en ”arabisk vår” kom på skam eftersom regimerna hade bättre möjligheter att utnyttja de övervakningsverktyg som de här teknologierna erbjöd.
Nyckelordet här är just övervakning.
Marknadskrafternas beslagtagande av digi-taliseringen lade inte bara locket på de demo-kratiska eller emancipatoriska möjligheter som fanns inbyggda i teknologin. Produktionen och distributionen av digitala apparater byggde en infrastruktur för en regim av mass-övervakning vars like inte har setts under hela den mänskliga historien. Dels kan denna regim övervaka i praktiken varenda ögonblick i hundratals miljoner människors liv, och dels är den ekonomiskt lönsam för dem som kontrollerar den. Det är detta som den amerikanska författaren och forskaren Shoshana Zuboff år 2019 gav namnet övervakningskapitalism. Till skillnad från tidigare övervakningsregimer är masskontroll inom övervakningskapitalismen inte en utgift utan en intäkt.
Idag argumenterar företagsledare och andra passionerat för att regler och hinder för utvecklingen av AI ska röjas ur vägen – antingen åberopar man framsteg eller så hänvisar man till konkurrensen med Kina. Det är dock viktigt att minnas vad som hände med digitaliseringen och att förstå att artificiell intelligens nu är nödvändig för att göra övervakningskapitalismen effektivare och mer produktiv. Visst är också konkurrensen med Kina relevant, eftersom Kina är landet där övervakningskapitalismen har avancerat längst.
På samma sätt som med övrig digital teknologi är det inte teknologin som är problemet, utan dess politiska ekonomi. Med andra ord: problemet är de sociala strukturer och maktrelationer som avgör hur AI kommer att användas i praktiken och speciellt vem som kommer att bestämma hur AI används.
På samma sätt som med övrig digital teknologi är det inte teknologin som är problemet, utan dess politiska ekonomi.
Debatten missar målet
Den pågående diskussionen om etik och AI är en dimridå. Uppmärksamheten riktas bort från övervakningskapitalismen och på samma gång mörkläggs att personer som vill stärka den här formen av kapitalism, snarare än försvaga den, har fått ett oproportionerligt stort inflytande.
En överblick över forskningslitteraturen visar att de krafter som är intresserade av att stöda och utvidga övervakningskapitalismen genom användning av AI har betydligt större inflytande och resurser än aktörer med ett genuint intresse för demokrati.
Som under de flesta andra ”demokratikriserna” sedan andra världskriget handlar det igen om eliten mot folket, tanken om att demo-krati kräver att folket manipuleras och kontrolleras av ”naturliga ledares kvaliteter”, som Edward Bernays (det var han som myntade begreppet PR), skrev 1928.
I diskussionerna i mainstreammedia om fördelarna och nackdelarna med AI hörs ständigt olika ”guruer” och ”visionärer”, men sällan någon av de många forskare som under de tre senaste decennierna har studerat hur övervakningskapitalismen har styrt utvecklingen från de tidiga stadierna av informtionssamhället till de nuvarande debatterna kring AI.
Flertalet forskare har åtminstone sedan det tidiga 90-taket varnat för riskerna med digitaliseringen. Som tips kan till exempel nämnas en färsk text av David Lyon, Surveillance: A Very Short Introduction. Det som blir tydligt då man läser dessa texter är att implementeringen av AI inom den i grunden ohotade övervakningskapitalism som råder kommer att bli fatalt för demokratin.
Autokratisk övervakning
Den västerländska demokratins undergång kan ta många former.
En av dessa former, som redan existerar, och som av vissa ses som ett exempel på en mer konkurrenskraftig och således ”bättre” kapitalism, är den kinesiska modellen, där övervakning är mest utbrett och mest accepterat bland befolkningen.
En annan är den nyfeodala modellen, som ursprungligen beskrevs av den amerikanska IT-professorn Abbe Mowshowitz för 20 år sedan. En tredje är den så kallade 1984-modellen, I den varianten lever de som utsätts för övervakning under fruktansvärda förhållanden, men tillåts ändå leva, så länge de aktivt deltar i systemet som förslavar dem, och om nödvändigt rapporterar och sviker sina närastående.
Demokratins undergång kan skönjas i en av dessa modeller, eller genom en blandning av alla tre. Även om detaljerna kring de olika scenarierna är osäkra, är det hursomhelst säkert att de krafter som idag kontrollerar AI och teknologierna förknippade med AI är hegemoniska och odemokratiska. Det är krafter som besitter aldrig tidigare skådade materiella och immateriella resurser för att påverka politiska processer och som ser folkstyre som antingen en oanvändbar utopi eller som en farlig dystopi.
Strukturer för folkmord
Det som också lyser med sin frånvaro i mainstreamdiskussionen om etik inom AI är frågan hur man kan föreställa sig att aktörerna bakom AI skulle bry sig om etiska riktlinjer då nästan alla av dem utvecklar och stöder teknologisk infrastruktur är med och möjliggör folkmordet i Gaza.
FN-rapporten From economy of occupation to economy of genocide visar att så gott som hela AI-sektorn, inklusive Microsoft, Alphabet och Amazon, är inblandade i den infrastruktur som möjliggör folkmordet. Denna infrastruktur existerade redan innan Hamas attack den 7 oktober 2023. Bolag som Palantir- och det -israeliska cyberarmébolaget NSO ska formellt syssla med övervakning för att förhindra terrorism, men har anklagats för systematiska brott mot integritetsskydd. Till och med företag som Apple och Meta har varnat för dessa integritetsbrott. Som bland annat Washington Post (5.8.2018) har rapporterat, har NSO sålt spyware-programmet Pegasus till diktatorer världen över.
Det som nästan är mer oroväckande än själva rapporten är att den nästan helt och hållet har ignorerats av mainstreammedia.
AI skulle inte vara ett problem om våra digitala strukturer var baserade på digitala allmänningar (commons).
Commons en lösning
För att upprepa: problemet är inte AI i sig – teknologin är aldrig i sig problemet – utan de sociala strukturer och de maktförhållanden som avgör hur teknologin används. AI skulle inte vara ett problem om våra digitala strukturer var baserade på digitala allmänningar (commons). Om det var fallet skulle vi kunna förvänta oss att alla inblandade aktörer skulle samarbeta för att utnyttja fördelarna och minimera riskerna med AI. Men då ledarna för världens mäktigaste stater och bolag förenas i en grundläggande aversion och ett motstånd mot demokrati, grundläggande friheter och mänskliga rättigheter, är det skäl att vara skeptisk snarare än optimistisk gällande utbredningen av artificiell intelligens.
Översättning: Janne Wass
