Ingen självklar metod för att avslöja AI-bilder

17 jan 2024 • 2 min

Att fejka bilder har blivit lätt. Källkritisk granskning har blivit svårare och kräver brett samlande av ledtrådar.

Det har varnats för att AI-teknik kommer att leda till en flod av desinformation och falska bilder. Metoderna för att göra så kallade deep fakes, förfalskade videor och bilder som är så väl genomarbetade att de framstår som verkliga, blir alltmer förfinade.
Men för Åsa Larsson på Källkritikbyrån har den nya tekniken inte inneburit några större förändringar av arbets­uppgifterna.
– Bilder kan ju manipuleras på många sätt och än så länge är det inte så vanligt med AI-genererade bilder. Det är fortfarande mycket vanligare att verkliga foton tas ur sitt sammanhang och påstås föreställa något annat än vad de verkligen gör, säger Åsa Larsson.
Hon är redaktör och fakta­granskare för Källkritikbyrån, en nyhetsförmedlare som avslöjar virala bluffar.
– Metoden för att göra bildmanipulationer är egentligen inte så intressant, utan det intressanta är mer: var kommer bilden ifrån? Vad sägs om den? Sedan kan man börja undersöka omständigheterna kring bilderna och personerna som sprider dem. Försök att hitta ursprungskällan till bilden, tipsar Åsa Larsson.

Åsa Larsson, redaktör på Källkritikbyrån. Foto: Privat och redigerad med hjälp av AI.

I maj fick ett AI-genererat foto från en påhittad explosion vid Pentagon spridning, men söker du på ”explosion” och ”Pentagon” gäller de flesta sökträffar att nyheten var falsk. Andra virala AI-bilder har föreställt välkända personer.
Förra vintern gick många till exempel på bluffen att påven bar en lyxig jacka från Balenciaga. Också en AI-genererad bild av en fängslad Assange fick stor spridning. I samband med rättegångarna mot Donald Trump har också flera AI-genererade bilder spridits.
– När folk börjat undersöka omständigheterna kring de här uppmärksammade AI-bilderna så har det uppstått en slags tomhet. Bilderna saknar sammanhang. Det borde finnas fler bilder från samma tillfälle, men inget dyker upp, säger Åsa Larsson.

AI-tekniken har också lett till en ny form av desinformationsapparat. I samband med att konflikten mellan Hamas och Israel blåste upp cirkulerade fruktansvärda bilder och uppgifter om dödade barn.
– Det har släppts bilder på barn som har bränts ihjäl och då är det folk som hävdar att de kört bilderna genom AI-koll-appar och fått utslag på att bilderna skulle vara gjorda med AI. Men de här personerna kan ju ljuga, säger Åsa Larsson.
– På det här sättet används AI-begreppet för att så tvivel om bilders äkthet. Precis som folk förr kunde säga att bilder var photoshoppade, manipulerade eller iscensatta så säger man nu att de är skapade med AI för att skapa misstro.

Precis som folk förr kunde säga att bilder var photoshoppade, manipulerade eller iscensatta så säger man nu att de är skapade med AI för att skapa misstro.

Åsa Larsson, Källkritikbyrån
Själv använder Åsa Larsson inte AI-appar för att avslöja AI-bluffar. En AI-koll-app kan också ge falska utslag på att något är AI-generat som inte är det.
– Det finns inget 100-procentigt verktyg för att avslöja om något är AI-genererat, utan man får samla ledtrådar och utreda på bred front.

Text: Matilda Nilsson

Artikeln publicerades först i Biblioteksbladets magasin, nummer 4 2023: Numret om AI. Bilderna i reportaget är liksom de flesta i numret om AI, AI-genererade, skapade av konstnären Annika Nordenskiöld.

0 kommentarer

Senaste nytt

Nyheter

Nytt råd ska rädda kulturarvet

Kungliga biblioteket får tillsammans med en rad andra myndigheter i uppdrag att bilda ett råd för att skydda kulturarvet. ”I en orolig värld blir bibliotekens och arkivens betydelse ännu mer central.”

1 mar 2024 • < 1 min

Krönika

Ingen kan väl vara emot öppen vetenskap?

Demokrati, kunskap och att forsknings­resultat ska göra största möjliga nytta. Det borde räcka som drivkrafter för att göra vetenskapen öppen till 2030, skriver Svensk biblioteksförenings generalsekreterare Silvia Ernhagen.

1 mar 2024 • 2 min

Ledare

140 miljoner argument för öppen tillgång

De vetenskapliga förlagen tjänar obegripligt mycket pengar. Det drabbar alla, från allmänheten till forskare, när miljoner som kunde ha gått till forskning i stället blir vinst hos världens största kapitalförvaltare.

28 feb 2024 • 2 min

Internationellt

Möter attacker med öppna dörrar

Enda sättet att möta antidemokratiska attacker som har drabbat bibliotek i Berlin är att göra precis tvärtom: öppna dörrarna för samtal om demokrati. Det säger Boryano Rickum, bibliotekschef i Tempelhof-Schöneberg, ett av biblioteken som har råkat ut för högerextrema attacker där böcker förstörs.

22 feb 2024 • 2 min