Språkmodellernas endorfinkickar skapar nya krav

AI:s språkmodeller ger snabb tillfredsställelse. Men resultaten behöver ifrågasättas och kräver förnyad medie- och informationskunnighet, menar danske Sune Selsbæk-Reitz.

Språkmodellernas svar är enkla att ta till sig. Lättlästa med fin ton och överblickbar struktur.

Men skenet kan bedra. Vilket fick data- och AI-strategen Sune Selsbæk-Reitz att skriva boken Promptism: Fluent Machines, Forgotten Questions, and the Fight for Meaning in the Age of AI.

– De svar vi får på skärmen är en stor mängd data som AI samlat, komprimerat och prioriterat för att skriva något som är lättläst och påminner om ett svar. Men professionalism i form är inte nödvändigtvis det samma som precision i innehåll, säger författaren och uppmanar oss att reflektera över vårt förhållande till kunskap när vi tar emot de maskinellt framställda svaren.

Biblioteksbladet träffar Sune Selsbæk-Reitz på ett kafé i centrala Köpenhamn några veckor efter hans boksläpp. Över en kopp kaffe berättar han att han skrivit boken på sin fritid. Till vardags arbetar han på ett företag i den danska huvudstaden och har bland kollegorna ingenjörer som saknar utbildning i hur interaktionen mellan maskiner och människa kan se ut.

– När språkmodellerna började bli populära såg jag ett behov av att någon yttrade sig om hur de fungerar. Om vad som sker när vi människor interagerar med en maskin.

Att rikta sig utåt för att söka svar är i sig inget nytt, påminner Sune Selsbæk-Reitz om. I alla tider har vi vänt oss till olika orakler med våra frågor. När vi nu ställer dem till språkmodellerna tar vi del av en teknologi som ger oss svar, och det nästan med blixtens hastighet.

– Den kan verka som en endorfinkick. Men det som förtjänar vår tillit kräver något mer än bra hastighet, säger han.

Därför vill han göra oss uppmärksamma på att kompressionen som den generativa AI:n levererar som output aldrig är neutral. När något förkortas uppstår brist på nyanser, menar han.

– Det är särskilt viktigt när vi snackar om förmedling och kommunikation. När AI hjälper oss att skapa en översikt kan den otroligt lätt dölja det den gjort osynligt.

Sune Selsbæk-Reitz uppskattar den hjälp AI:s språkmodeller erbjuder. Som att fortare kunna kommare igång med en uppgift och att få till skarpare formuleringar. Dock inte utan invändningar.

– Outputen med sina fina vinklar och snygga formuleringar kan verka mer trovärdiga än vad de egentligen är.

För det är när konklusionen nästan ger sig av sig själv, som det uppstår en risk och det är här som människor behov av berättelsen kommer in, menar han.

– Vi har användning av sammanhang. Av vinklar. Av att någon tar något komplext och gör det möjligt att förstå för oss andra i en berättelse som verkar trovärdig. Det är en stor del av förmedlingsdisciplinen.

Författaren vill därför höja ett varningens finger. För med den förenklade berättelsen som språkmodellerna levererar uppstår problem, när komplexiteten pressats ned i en form där allt passar alltför bra ihop och resultatet verkar genomarbetat.

– Men det kanske bara är skrivet på ett sätt som får det att kännas så. Just här är generativ AI otroligt stark. Bra på att skapa sammanhang. Bra på att jämna ut övergångarna mellan textstyckena. Bra på att förenkla det komplicerade materialet och få det till att låta som om en avrundad förklaring eller slutsats.

Förskjutningar av det här slaget är det som författaren kallar för promptism och det han anser vara det mest intressanta med språkmodellernas output. För problemet är mer komplicerat än att AI kan leverera uppgifter som inte stämmer.

– Vi vet att språkmodellerna kan ta fel. Precis som vi människor kan ta fel. Problemet är att när AI tar fel i en form som känns övertygande och saknar ödmjukhet kan den ge oss svar som låter som om någon redan har förstått något. Som om någon har undersökt just detta och värderat innehållet för att därefter ge oss ett svar som får oss att tro att det är faktamässigt precist.

Sune Selsbæk-Reitzs slutsats är att den traditionella källkritiken i och med språkmodellernas intåg fått ännu högre relevans – på bibliotek och i andra förmedlingssituationer. Vi behöver använda oss av samma klassiska frågor som vi gör i andra situationer. Det vill säga:

• Varifrån kommer uppgifterna?
• Vilken är primärkällan?
• Vilket är sammanhanget?
• Vilka intentioner och intressen finns bakom orden?
• Vilken är den valda vinkeln och varför just den?
• Finns det dokumentation för påståendena?
• Kan dokumentationen eftergranskas?

Vad som nu krävs är att den traditionella källkritiken kompletteras med granskning också av formen i outputen från språkmodellerna och att alltid ställa frågor till språkmodellerna om vilka nyanser som tagits bort och vilka osäkerhetsfaktorer som inte finns med i outputen som språkmodellerna levererar. anser Sune Selsbæk-Reitz.

– Det som väljs bort är inte bara tekniska detaljer utan också det som formar helhetsförståelsen.

Rådet från Sune Selsbæk-Reitz är att vi efter att ha läst språkmodellens output bjuder oss själva på en paus. En paus för att tvivla på svaret och använda vår egen bedömningsförmåga. Fundera över var konklusionen kommer ifrån och undersöka om det kan finnas andra lösningar än det som först presenterats.

– Mitt hopp står till att vi använder AI:s språkmodeller mer medvetet. Som ett verktyg att tänka mer och bättre med. Inte som en ersättning för den egna tankeverksamheten. Till syvende och sist handlar det om vilken roll vi vill ge AI.

– Och hur vi läser, värderar och tänker kring information, säger Sune Selsbæk-Reitz.