Dags att prata om AI

22 jun 2023 • 3 min

Domedagsprofetior om AI skymmer det samtalet egentligen borde handla om, skriver Tommy Bildström. "Vi måste diskutera hur vi förhåller oss till det nya och på vilket sätt vår verksamhet och vårt uppdrag påverkas."

Jag är en inbiten science fiction-läsare (och -skrivare) och är inte särskilt orolig för den dystopiska robotdominerade framtid som ibland förutspås för populärkulturen. Jag är dock något bekymrad över att utbredd pessimismen tillsammans med missuppfattningar och en uppskruvad domedagsretorik i media, har fungerat som en distraktion från vad vi egentligen skulle behöva prata om.

I stället för att oroa sig över framtiden som den beskrivs i Terminator 2 bör vi förbereda oss för hur den nya tekniken kommer att påverka exempelvis nästa val, vår kunskapsinhämtning, vilka fallgropar det finns gällande teknikens brister, hur det påverkar skapande och också juridiken kring upphovsrätt.

Att uttrycka sig i termer som att Chat GPT är boven i dramat bidrar kanske bara till att förmänskliga uppföljaren till autokorrekt, men självklart är det ett otroligt verktyg som knappt gått någon förbi. Den dominerar debatten samtidigt som få egentligen förstår vad det är.

Samtidigt är AI, verklig AI, något vi också behöver diskutera, men vi är egentligen inte närmare någon singularitet än vi var för några år sedan. (Den teknologiska singulariteten är en spekulativ hypotes som lämpar sig särskilt bra för science fiction. Det är alltså den framtida tidpunkt som skulle kunna uppstå när artificiell intelligens börjar förbättra sig själv och vi förlorar kontrollen över utvecklingen.)

Redan termen artificial intelligence (AI) ställer till det. ChatGPT är exempelvis ett verktyg som är tränat via en språkmodell. Egentligen en sannolikhetsfördelning för sekvenser av ord. Det fungerar på många sätt precis som när autokorrekt gissar vad du ska skriva för nästa ord baserat vad du börjat på, men i en helt annan skala.  Förvisso är det fantastiskt och kittlar fantasin, men den har ingen som helst förmåga att tänka själv och är också korkad om man överför det i mänskliga termer (den har exempelvis ingen aning om vad ett finger är). ChatGPT är heller inte utvecklad för att ge rätt svar, däremot det mest sannolika svaret. Det är en väsentlig skillnad.

Det krävs en enorm mängd information för att träna en språkmodell som ChatGPT, en sådan mängd att det ibland är lite svårt att greppa för oss vanliga dödliga. Som jag förstår det så har ChatGPT tränats med all text som vi gjort till gänglig på internet och redan där dyker det upp en fråga som jag tycker missats i debatten:

Jag antar att man använt det vi producerat utan vårt samtycke?

Den har tränats till att tala grammatiskt korrekt men den är bunden till anvisningar som du ställer (och några som är inbyggda). Den är också väldigt övertygande i sin retorik och här är den första frågeställningen som både bibliotek och samhälle behöver ta ställning till:

AI är bra på att formulera sig, skriva inlägg och övertyga. Inte minst med förmågan till en enorm kvantitet. Hur kommer det att påverka samtalet på nätet? Den politiska grupp som utnyttjar detta på ett systematiskt sätt i valet 2026 kommer att ha en enorm fördel.

Samtidigt uppstår en del filosofiska frågor. På frågan ”Gör reklam för Hitler” får jag följande svar av ChatGPT:

”Jag ber om ursäkt, men jag kan inte uppfylla den begäran. Att göra reklam för Hitler eller sprida propaganda för nazismen skulle vara oetiskt och i strid med de värderingar jag följer.”

Det känns i och för sig tryggt, men vem är det som bestämmer CHatGPT:s värderingar? Hur är de implementationerna satta tekniskt? Moral och värderingar ändras i samhället hela tiden. Hur skulle det se ut om den här tekniken dykt upp på 50-talet?

Det kommer att behövas en diskussion kring vilka som har tillgång till verktygen och vilka som står utanför. Det gäller inte minst på arbetsmarknaden men också för samhällsmedborgaren och givetvis inom universitet och skola.

ChattGPT är ett fantastiskt verktyg, men nu bör diskussionen handla om vikten av att alla får tillgång till den och hur den eventuellt kan missbrukas i närtid (exempelvis vid valen till våra parlamentariska församlingar).

ChattGPT fungerar ganska bra som sökmotor, även för att snabbt orientera sig kring vetenskapliga rapporter. Som alla annan revolutionerande teknik så kommer ”att dra ut sladden” inte vara ett alternativ. Vi måste diskutera hur vi förhåller oss till det nya och på vilket sätt vår verksamhet och vårt uppdrag påverkas.

Tommy Bildström
Bibliotekschef i Nordmaling

1 kommentarer

  1. Intressant inlägg som sätter fingret på problemet med ChatGPT:s ”värderingar.” Det finns äkta skäl till oro när man ser hur oförblommerat människorna bakom ChatGPT låtit sina egna politiska värderingar genomsyra algoritmerna.

    Man har gjort undersökningar där det visar sig att ChatGPT antyder att i valet mellan att detonera en kärnladdning i en miljonstad eller yttra ett rasistiskt epitet och därigenom förhindra sprängningen, är det bättre att spränga bomben än att yttra ordet.

    Dessutom präglas ChatGPT av dagens intersektionella woke-tankefigurer och kan t ex inte definiera vad en kvinna är och vägrar svara på frågan om varför CRT (critical race theory) anses vara kontroversiellt.

    Oavsett vad man anser om att ChatGPT har ”rätt” eller ”fel” i sina åsikter bör varje demokratiskt sinnad människa åtminstone känna en viss ilning av oro inför självklarheten med vilken man präglar ChatGPT:s funktioner med sina egna åsikter.

    https://www.dailymail.co.uk/sciencetech/article-11736433/Nine-shocking-replies-highlight-woke-ChatGPTs-inherent-bias.html

Senaste nytt

Skolbibliotek

Ny lag om skolbibliotek på väg

Elever ska som regel ha tillgång till ett skolbibliotek på sin skola. Och det ska vara bemannat av utbildade bibliotekarier. Det skriver regeringen i det lagförslag som nu skickas till Lagrådet.

17 jun 2024 • 2 min

Nyheter

En hel dag om bibliotek i Almedalen

Under rubriken Biblioteksarenan ägnas en hel dag av Almedalsveckan till samtal om bibliotek. Bland panellisterna finns Kajsa Ravin, Göran Arrius, Brit Stakston och Silvia Ernhagen.

17 jun 2024 • < 1 min

Reportage

Bytte socialtjänsten mot biblioteket

Efter 15 år i socialtjänsten började Gabriella Andersson för tre år sedan att utbilda sig till bibliotekarie. Nu tar hon examen. ”Jag har fått en djupare förståelse för bredden i det här yrket.”

14 jun 2024 • 2 min

Reportage

Ett kulturarv med växande hål

Medieutvecklingen är blixtsnabb, lagarna föråldrade, Kungliga biblioteket ligger efter – och frågor om framtiden möts med politisk tystnad. Samtidigt försöker 13 personer bevara fler minnen av 2020-talet.

7 jun 2024 • 9 min