Prenumerera på vårt nyhetsbrev
De viktigaste nyheterna direkt i din inkorg!
AI – både hjälp och hot för diktaturer
1 feb 2024 • 5 min
Många länder använder AI för att angripa politiska motståndare. Men teknologin kan också kringgå censur och stärka mänskliga rättigheter.
Friheten på internet globalt har nu minskat tretton år i rad, enligt det USA-baserade, oberoende forskningsinstitutet Freedom house, som kartlägger demokrati och mänskliga rättigheter världen över. I rapporten Freedom on the net presenteras en dyster bild av 2023: ett växande antal attacker mot yttrandefriheten, förstärkta censurfunktioner och tilltagande desinformationskampanjer.
– I mer än tre fjärdedelar av de sjuttio länder som vi har undersökt blev människor trakasserade på grund av saker som de hade uttryckt på nätet, och i 41 av dem blev de fysiskt angripna eller dödade, berättar Kian Vesteinsson, en av rapportens författare.
Den tydligaste ökningen av digitalt förtryck förekommer i Iran, där myndigheterna under året stängde ner internet-tjänster, blockerade WhatsApp och Instagram, samt ökade övervakningen i ett försök att kväsa regeringskritiska protester. Jumboplatsen vad gäller internetfrihet intogs dock för nionde året i rad av Kina.
En viktig möjliggörare för den växande digitala destruktiviteten, och det fenomen som hela rapporten kretsar kring, är AI-teknologin. Medan världen frossar i spektakulära robotdystopier, har de nya digitala verktygen på mindre iögonfallande, men djupt oroande sätt redan börjat bryta ner demokratiska strukturer.
– AI erbjuder en rad nya, positiva möjligheter. Vi kan se hur de kan vara till hjälp inom många områden – även, föreställer jag mig, inom arkiv och biblioteksforskning. Men det är samtidigt uppenbart att teknologin har ökat vidden, hastigheten och effektiviteten av det digitala förtrycket, säger Kian Vesteinsson.
Rapporten lägger i år särskilt fokus på desinformation, och konstaterar att 47 regeringar har anlitat aktörer för att manipulera samtalet på nätet till sin fördel. Ett extremt exempel är Myanmar, där militären engagerar tusentals soldater för att förstärka budskap som gynnar dem på sociala medier, och till att trakassera kritiker.
Verksamheten har tydligt förenklats med hjälp av generativ AI. I minst 16 länder – antagligen betydligt fler – har den nya tekniken använts för att skapa texter, ljud och bilder med avsikt att så tvivel, angripa politiska motståndare och styra debatten.
– Framträdande är de automatiserade botkontona, som aktiveras för att smäda aktivister och propagera för falska narrativ. Under valet i Turkiet tog arméer av botar på Twitter över informationsutrymmet med innehåll som gynnade Erdoğan och hans parti, berättar Kian Vesteinsson.
Framträdande är de automatiserade botkontona, som aktiveras för att smäda aktivister och propagera för falska narrativ.
– Vi ser här, både när det gäller desinformation och censur, att AI inte ersätter de gamla teknikerna, utan underlättar dem.
Tyvärr kan vi inte hoppas på att bolagen själva kommer att hjälpa till att vända utvecklingen. Under det senaste året har ett antal stora plattformar som Meta, Twitch, Google och Snap i stället dragit ned på resurser för arbetet med moderering av innehåll, integritet och säkerhet. Vissa bolag har också gjort sig av med mekanismer och innehållspolicyer vars syfte har varit att minska spridning av falsk information.
Det tydligaste exemplet på utvecklingen är X (tidigare Twitter), som efter att ha köpts av Elon Musk avskedade ett stort antal experter på säkerhet, förtroende och mänskliga rättigheter, och som samtidigt minskade transparensen utåt.
– Det finns med andra ord en berättigad rädsla att dessa plattformar är mindre beredda att svara på den här AI-relaterade desinformationen än någonsin förut.
I brist på företagens självregleringsvilja krävs regleringar, menar Kian Vesteinsson, som säkrar en grad av öppenhet och offentlig tillsyn och som sätter mänskliga rättigheter i fokus.
– På ett individuellt plan talar vi ofta om det här med media literacy, vilket jag tror är en avgörande komponent i att motverka desinformation. När det kommer till AI betyder det att man är beredd att pausa när man ser innehåll som verkar inflammatoriskt, kontroversiellt eller på annat sätt väldigt högoktanigt, för att överväga trovärdigheten i informationen.
Vad har biblioteken för roll i den här oroväckande AI-utvecklingen?
– Jag betraktar biblioteken som den ursprungliga väktaren mot falsk information. När jag växte upp var biblioteket verkligen den källa som jag vände mig till, innan jag blev så djupt engagerad i internet och politiken kring det som jag är i dag. Jag tror att bibliotekarier har en viktig roll i att bygga motståndskraft mot desinformation och AI-assisterad manipulation.
Bibliotekarier måste förstå att AI-funktioner är här för att stanna, säger han. De kommer att vara en integrerad del av hur människor arbetar och roar sig, samtidigt som de fungerar som redskap för manipulation.
– En viktig roll för bibliotekarierna framöver blir att hjälpa människor att flytande kunna hantera dessa AI-verktyg för positiva syften – och på samma gång att kultivera dem i skepticism och kunskap om hur tekniken kan användas för social skada.
Finns det också anledning till hopp, kopplat till AI?
– Ja, absolut. Vi pratar mycket om de problematiska aspekterna av AI, men när AI designas och tillämpas rättvist och tryggt, kan tekniken faktiskt också förstärka friheten på nätet och användas till att stärka demokratier.
På ett individuellt plan talar vi ofta om det här med media literacy, vilket jag tror är en avgörande komponent i att motverka desinformation.
– Även populära chatbotar kan förse människor som lever i extremt stängda miljöer med indirekt tillgång till ocensurerad information. I ett land där många nyhetskanaler är blockerade kan till exempel ChatGPT ge dig information som den trålat från dessa nyhetskanaler.
Det här ekar av det tidiga internets demokratiska löften, säger han. Samtidigt arbetas det febrilt på att täppa igen luckorna av demokratiskt syre.
– Några av världens tekniskt mest avancerade regeringar har redan lyckats kontrollera chatbotarnas tillgång till information. Vi har sett hur man i Kina och Vietnam har börjat steppa upp i det här avseendet.
Okej, så vad tror du om framtiden?
– Det finns alltid ljusglimtar, små segrar i länder som Taiwan, Indien och Uganda, som ger mig om hopp om att en vacker dag kunna tala om hur friheten på nätet förbättrats globalt för första året hittills, men vi kommer bara att komma dit om civilsamhället, företag, regeringar och individer tillsammans slåss för mänskliga rättigheter online.
Avslutningsvis: När kommer Sverige att inkluderas i den årliga Freedom on the net-rapporten?
– Alltså, begränsningen av antalet länder är kopplad till resurser. Så fort vi får en ny pott av bidrag så vill vi utöka täckningen, och Sverige är på min lista till nästa expansion!
0 kommentarer