AI – både hjälp och hot för diktaturer

Många länder använder AI för att angripa politiska motståndare. Men teknologin kan också kringgå censur och stärka mänskliga rättigheter.

Friheten på internet globalt har nu minskat tretton år i rad, enligt det USA-baserade, oberoende forskningsinstitutet Freedom house, som kartlägger demokrati och mänskliga rättigheter världen över. I rapporten Freedom on the net presenteras en dyster bild av 2023: ett växande antal attacker mot yttrande­friheten, förstärkta censurfunktioner och tilltagande desinformationskampanjer.
– I mer än tre fjärdedelar av de sjuttio länder som vi har undersökt blev människor trakasserade på grund av saker som de hade uttryckt på nätet, och i 41 av dem blev de fysiskt angripna eller dödade, berättar Kian Vesteinsson, en av rapportens författare.

Den tydligaste ökningen av digitalt förtryck förekommer i Iran, där myndigheterna under året stängde ner internet-tjänster, blockerade WhatsApp och Instagram, samt ökade övervakningen i ett försök att kväsa regeringskritiska protester. Jumboplatsen vad gäller internetfrihet intogs dock för nionde året i rad av Kina.
En viktig möjliggörare för den växande digitala destruktiviteten, och det fenomen som hela rapporten kretsar kring, är AI-teknologin. Medan världen frossar i spektakulära robotdystopier, har de nya digitala verktygen på mindre iögonfallande, men djupt oroande sätt redan börjat bryta ner demokratiska strukturer.
– AI erbjuder en rad nya, positiva möjligheter. Vi kan se hur de kan vara till hjälp inom många områden – även, föreställer jag mig, inom arkiv och biblioteksforskning. Men det är sam­tidigt uppenbart att teknologin har ökat vidden, hastigheten och effektiviteten av det digitala förtrycket, säger Kian Vesteinsson.

Rapporten lägger i år särskilt fokus på desinformation, och konstaterar att 47 regeringar har anlitat aktörer för att manipulera samtalet på nätet till sin fördel. Ett extremt exempel är Myanmar, där militären engagerar tusentals soldater för att förstärka budskap som gynnar dem på sociala medier, och till att trakassera kritiker.
Verksamheten har tydligt förenklats med hjälp av generativ AI. I minst 16 länder – antagligen betydligt fler – har den nya tekniken använts för att skapa texter, ljud och bilder med avsikt att så tvivel, angripa politiska motståndare och styra debatten.
– Framträdande är de automatiserade botkontona, som aktiveras för att smäda aktivister och propagera för falska narrativ. Under valet i Turkiet tog arméer av botar på Twitter över informations­utrymmet med innehåll som gynnade Erdoğan och hans parti, berättar Kian Vesteinsson.

Framträdande är de automatiserade botkontona, som aktiveras för att smäda aktivister och propagera för falska narrativ.

Kian Vesteinsson

Det tydligaste exemplet på utvecklingen är X (tidigare Twitter), som efter att ha köpts av Elon Musk avskedade ett stort antal experter på säkerhet, förtroende och mänskliga rättigheter, och som samtidigt minskade transparensen utåt.
– Det finns med andra ord en berättigad rädsla att dessa plattformar är mindre beredda att svara på den här AI-relaterade desinformationen än någonsin förut.

I brist på företagens självregleringsvilja krävs regleringar, menar Kian Vesteinsson, som säkrar en grad av öppenhet och offentlig tillsyn och som sätter mänskliga rättigheter i fokus.
– På ett individuellt plan talar vi ofta om det här med media literacy, vilket jag tror är en avgörande komponent i att motverka desinformation. När det kommer till AI betyder det att man är beredd att pausa när man ser innehåll som verkar inflammatoriskt, kontroversiellt eller på annat sätt väldigt högoktanigt, för att överväga trovärdigheten i informationen.
Vad har biblioteken för roll i den här oroväckande AI-utvecklingen?
– Jag betraktar biblioteken som den ursprungliga väktaren mot falsk information. När jag växte upp var biblioteket verkligen den källa som jag vände mig till, innan jag blev så djupt engagerad i internet och politiken kring det som jag är i dag. Jag tror att bibliotekarier har en viktig roll i att bygga motståndskraft mot desinformation och AI-assisterad manipulation.
Bibliotekarier måste förstå att AI-funktioner är här för att stanna, säger han. De kommer att vara en integrerad del av hur människor arbetar och roar sig, samtidigt som de fungerar som redskap för manipulation.
– En viktig roll för bibliotekarierna framöver blir att hjälpa människor att flytande kunna hantera dessa AI-verktyg för positiva syften – och på samma gång att kultivera dem i skepticism och kunskap om hur tekniken kan användas för social skada.
Finns det också anledning till hopp, kopplat till AI?
– Ja, absolut. Vi pratar mycket om de problematiska aspekterna av AI, men när AI designas och tillämpas rättvist och tryggt, kan tekniken faktiskt också förstärka friheten på nätet och användas till att stärka demokratier.

På ett individuellt plan talar vi ofta om det här med media literacy, vilket jag tror är en avgörande komponent i att motverka desinformation.

Kian Vesteinsson