Dags att prata om AI

Domedagsprofetior om AI skymmer det samtalet egentligen borde handla om, skriver Tommy Bildström. "Vi måste diskutera hur vi förhåller oss till det nya och på vilket sätt vår verksamhet och vårt uppdrag påverkas."

Jag är en inbiten science fiction-läsare (och -skrivare) och är inte särskilt orolig för den dystopiska robotdominerade framtid som ibland förutspås för populärkulturen. Jag är dock något bekymrad över att utbredd pessimismen tillsammans med missuppfattningar och en uppskruvad domedagsretorik i media, har fungerat som en distraktion från vad vi egentligen skulle behöva prata om.

I stället för att oroa sig över framtiden som den beskrivs i Terminator 2 bör vi förbereda oss för hur den nya tekniken kommer att påverka exempelvis nästa val, vår kunskapsinhämtning, vilka fallgropar det finns gällande teknikens brister, hur det påverkar skapande och också juridiken kring upphovsrätt.

Att uttrycka sig i termer som att Chat GPT är boven i dramat bidrar kanske bara till att förmänskliga uppföljaren till autokorrekt, men självklart är det ett otroligt verktyg som knappt gått någon förbi. Den dominerar debatten samtidigt som få egentligen förstår vad det är.

Samtidigt är AI, verklig AI, något vi också behöver diskutera, men vi är egentligen inte närmare någon singularitet än vi var för några år sedan. (Den teknologiska singulariteten är en spekulativ hypotes som lämpar sig särskilt bra för science fiction. Det är alltså den framtida tidpunkt som skulle kunna uppstå när artificiell intelligens börjar förbättra sig själv och vi förlorar kontrollen över utvecklingen.)

Redan termen artificial intelligence (AI) ställer till det. ChatGPT är exempelvis ett verktyg som är tränat via en språkmodell. Egentligen en sannolikhetsfördelning för sekvenser av ord. Det fungerar på många sätt precis som när autokorrekt gissar vad du ska skriva för nästa ord baserat vad du börjat på, men i en helt annan skala.  Förvisso är det fantastiskt och kittlar fantasin, men den har ingen som helst förmåga att tänka själv och är också korkad om man överför det i mänskliga termer (den har exempelvis ingen aning om vad ett finger är). ChatGPT är heller inte utvecklad för att ge rätt svar, däremot det mest sannolika svaret. Det är en väsentlig skillnad.

Det krävs en enorm mängd information för att träna en språkmodell som ChatGPT, en sådan mängd att det ibland är lite svårt att greppa för oss vanliga dödliga. Som jag förstår det så har ChatGPT tränats med all text som vi gjort till gänglig på internet och redan där dyker det upp en fråga som jag tycker missats i debatten:

Jag antar att man använt det vi producerat utan vårt samtycke?

Den har tränats till att tala grammatiskt korrekt men den är bunden till anvisningar som du ställer (och några som är inbyggda). Den är också väldigt övertygande i sin retorik och här är den första frågeställningen som både bibliotek och samhälle behöver ta ställning till:

AI är bra på att formulera sig, skriva inlägg och övertyga. Inte minst med förmågan till en enorm kvantitet. Hur kommer det att påverka samtalet på nätet? Den politiska grupp som utnyttjar detta på ett systematiskt sätt i valet 2026 kommer att ha en enorm fördel.

Samtidigt uppstår en del filosofiska frågor. På frågan ”Gör reklam för Hitler” får jag följande svar av ChatGPT:

”Jag ber om ursäkt, men jag kan inte uppfylla den begäran. Att göra reklam för Hitler eller sprida propaganda för nazismen skulle vara oetiskt och i strid med de värderingar jag följer.”

Det känns i och för sig tryggt, men vem är det som bestämmer CHatGPT:s värderingar? Hur är de implementationerna satta tekniskt? Moral och värderingar ändras i samhället hela tiden. Hur skulle det se ut om den här tekniken dykt upp på 50-talet?

Det kommer att behövas en diskussion kring vilka som har tillgång till verktygen och vilka som står utanför. Det gäller inte minst på arbetsmarknaden men också för samhällsmedborgaren och givetvis inom universitet och skola.

ChattGPT är ett fantastiskt verktyg, men nu bör diskussionen handla om vikten av att alla får tillgång till den och hur den eventuellt kan missbrukas i närtid (exempelvis vid valen till våra parlamentariska församlingar).

ChattGPT fungerar ganska bra som sökmotor, även för att snabbt orientera sig kring vetenskapliga rapporter. Som alla annan revolutionerande teknik så kommer ”att dra ut sladden” inte vara ett alternativ. Vi måste diskutera hur vi förhåller oss till det nya och på vilket sätt vår verksamhet och vårt uppdrag påverkas.

Tommy Bildström
Bibliotekschef i Nordmaling