AI – både hjälp och hot för diktaturer

1 feb 2024 • 5 min

Många länder använder AI för att angripa politiska motståndare. Men teknologin kan också kringgå censur och stärka mänskliga rättigheter.

AI-genererad bild skapad av Annika Nordenskiöld.

Friheten på internet globalt har nu minskat tretton år i rad, enligt det USA-baserade, oberoende forskningsinstitutet Freedom house, som kartlägger demokrati och mänskliga rättigheter världen över. I rapporten Freedom on the net presenteras en dyster bild av 2023: ett växande antal attacker mot yttrande­friheten, förstärkta censurfunktioner och tilltagande desinformationskampanjer.
– I mer än tre fjärdedelar av de sjuttio länder som vi har undersökt blev människor trakasserade på grund av saker som de hade uttryckt på nätet, och i 41 av dem blev de fysiskt angripna eller dödade, berättar Kian Vesteinsson, en av rapportens författare.

Den tydligaste ökningen av digitalt förtryck förekommer i Iran, där myndigheterna under året stängde ner internet-tjänster, blockerade WhatsApp och Instagram, samt ökade övervakningen i ett försök att kväsa regeringskritiska protester. Jumboplatsen vad gäller internetfrihet intogs dock för nionde året i rad av Kina.
En viktig möjliggörare för den växande digitala destruktiviteten, och det fenomen som hela rapporten kretsar kring, är AI-teknologin. Medan världen frossar i spektakulära robotdystopier, har de nya digitala verktygen på mindre iögonfallande, men djupt oroande sätt redan börjat bryta ner demokratiska strukturer.
– AI erbjuder en rad nya, positiva möjligheter. Vi kan se hur de kan vara till hjälp inom många områden – även, föreställer jag mig, inom arkiv och biblioteksforskning. Men det är sam­tidigt uppenbart att teknologin har ökat vidden, hastigheten och effektiviteten av det digitala förtrycket, säger Kian Vesteinsson.

Rapporten lägger i år särskilt fokus på desinformation, och konstaterar att 47 regeringar har anlitat aktörer för att manipulera samtalet på nätet till sin fördel. Ett extremt exempel är Myanmar, där militären engagerar tusentals soldater för att förstärka budskap som gynnar dem på sociala medier, och till att trakassera kritiker.
Verksamheten har tydligt förenklats med hjälp av generativ AI. I minst 16 länder – antagligen betydligt fler – har den nya tekniken använts för att skapa texter, ljud och bilder med avsikt att så tvivel, angripa politiska motståndare och styra debatten.
– Framträdande är de automatiserade botkontona, som aktiveras för att smäda aktivister och propagera för falska narrativ. Under valet i Turkiet tog arméer av botar på Twitter över informations­utrymmet med innehåll som gynnade Erdoğan och hans parti, berättar Kian Vesteinsson.

Framträdande är de automatiserade botkontona, som aktiveras för att smäda aktivister och propagera för falska narrativ.

Kian Vesteinsson
Ett annat tema för rapporten är AI-teknik­ens roll för effektivare censurmekanismer. Många regeringar tvingar företag att radera politiskt, socialt och religiöst innehåll från digitala plattformar, och med hjälp av maskininlärning kan detta göras mycket snabbare och mer träffsäkert än vad som hade varit möjligt med mänskliga aktörer eller mindre avancerad teknik.
– Vi ser här, både när det gäller desinformation och censur, att AI inte ersätter de gamla teknikerna, utan underlättar dem.
Tyvärr kan vi inte hoppas på att bolagen själva kommer att hjälpa till att vända utvecklingen. Under det senaste året har ett antal stora plattformar som Meta, Twitch, Google och Snap i stället dragit ned på resurser för arbetet med moderering av innehåll, integritet och säkerhet. Vissa bolag har också gjort sig av med mekanismer och innehållspolicyer vars syfte har varit att minska spridning av falsk information.

Det tydligaste exemplet på utvecklingen är X (tidigare Twitter), som efter att ha köpts av Elon Musk avskedade ett stort antal experter på säkerhet, förtroende och mänskliga rättigheter, och som samtidigt minskade transparensen utåt.
– Det finns med andra ord en berättigad rädsla att dessa plattformar är mindre beredda att svara på den här AI-relaterade desinformationen än någonsin förut.

Kian Vesteinsson, en av författarna till rapporten Freedom on the net.

I brist på företagens självregleringsvilja krävs regleringar, menar Kian Vesteinsson, som säkrar en grad av öppenhet och offentlig tillsyn och som sätter mänskliga rättigheter i fokus.
– På ett individuellt plan talar vi ofta om det här med media literacy, vilket jag tror är en avgörande komponent i att motverka desinformation. När det kommer till AI betyder det att man är beredd att pausa när man ser innehåll som verkar inflammatoriskt, kontroversiellt eller på annat sätt väldigt högoktanigt, för att överväga trovärdigheten i informationen.
Vad har biblioteken för roll i den här oroväckande AI-utvecklingen?
– Jag betraktar biblioteken som den ursprungliga väktaren mot falsk information. När jag växte upp var biblioteket verkligen den källa som jag vände mig till, innan jag blev så djupt engagerad i internet och politiken kring det som jag är i dag. Jag tror att bibliotekarier har en viktig roll i att bygga motståndskraft mot desinformation och AI-assisterad manipulation.
Bibliotekarier måste förstå att AI-funktioner är här för att stanna, säger han. De kommer att vara en integrerad del av hur människor arbetar och roar sig, samtidigt som de fungerar som redskap för manipulation.
– En viktig roll för bibliotekarierna framöver blir att hjälpa människor att flytande kunna hantera dessa AI-verktyg för positiva syften – och på samma gång att kultivera dem i skepticism och kunskap om hur tekniken kan användas för social skada.
Finns det också anledning till hopp, kopplat till AI?
– Ja, absolut. Vi pratar mycket om de problematiska aspekterna av AI, men när AI designas och tillämpas rättvist och tryggt, kan tekniken faktiskt också förstärka friheten på nätet och användas till att stärka demokratier.

På ett individuellt plan talar vi ofta om det här med media literacy, vilket jag tror är en avgörande komponent i att motverka desinformation.

Kian Vesteinsson
Som ett exempel nämner Kian Vesteinsson kollegor som jobbar med desinformationsforskning, och som använder AI-­verktyg för att spåra trender och identifiera falska berättelser. AI kan också hjälpa användare att kringgå censuren i länder som Kina, Iran, Indien och Kazakstan, och det finns aktörer som specifikt utvecklar modeller med det syftet, berättar han.
– Även populära chatbotar kan förse människor som lever i extremt stängda miljöer med indirekt tillgång till ocensurerad information. I ett land där många nyhetskanaler är blockerade kan till exempel ChatGPT ge dig information som den trålat från dessa nyhetskanaler.
Det här ekar av det tidiga internets demokratiska löften, säger han. Samtidigt arbetas det febrilt på att täppa igen luckorna av demokratiskt syre.
– Några av världens tekniskt mest avancerade regeringar har redan lyckats kontrollera chatbotarnas tillgång till information. Vi har sett hur man i Kina och Vietnam har börjat steppa upp i det här avseendet.
Okej, så vad tror du om framtiden?
– Det finns alltid ljusglimtar, små segrar i länder som Taiwan, Indien och Uganda, som ger mig om hopp om att en vacker dag kunna tala om hur friheten på nätet förbättrats globalt för första året hittills, men vi kommer bara att komma dit om civilsamhället, företag, regeringar och individer tillsammans slåss för mänskliga rättigheter online.
Avslutningsvis: När kommer Sverige att inkluderas i den årliga Freedom on the net-rapporten?
– Alltså, begränsningen av antalet länder är kopplad till resurser. Så fort vi får en ny pott av bidrag så vill vi utöka täckningen, och Sverige är på min lista till nästa expansion!

0 kommentarer

Senaste nytt

Nyheter

Nytt råd ska rädda kulturarvet

Kungliga biblioteket får tillsammans med en rad andra myndigheter i uppdrag att bilda ett råd för att skydda kulturarvet. ”I en orolig värld blir bibliotekens och arkivens betydelse ännu mer central.”

1 mar 2024 • < 1 min

Krönika

Ingen kan väl vara emot öppen vetenskap?

Demokrati, kunskap och att forsknings­resultat ska göra största möjliga nytta. Det borde räcka som drivkrafter för att göra vetenskapen öppen till 2030, skriver Svensk biblioteksförenings generalsekreterare Silvia Ernhagen.

1 mar 2024 • 2 min

Ledare

140 miljoner argument för öppen tillgång

De vetenskapliga förlagen tjänar obegripligt mycket pengar. Det drabbar alla, från allmänheten till forskare, när miljoner som kunde ha gått till forskning i stället blir vinst hos världens största kapitalförvaltare.

28 feb 2024 • 2 min

Internationellt

Möter attacker med öppna dörrar

Enda sättet att möta antidemokratiska attacker som har drabbat bibliotek i Berlin är att göra precis tvärtom: öppna dörrarna för samtal om demokrati. Det säger Boryano Rickum, bibliotekschef i Tempelhof-Schöneberg, ett av biblioteken som har råkat ut för högerextrema attacker där böcker förstörs.

22 feb 2024 • 2 min