Dags att prata om AI
22 jun 2023 • 3 min
Domedagsprofetior om AI skymmer det samtalet egentligen borde handla om, skriver Tommy Bildström. "Vi måste diskutera hur vi förhåller oss till det nya och på vilket sätt vår verksamhet och vårt uppdrag påverkas."

Tommy Bildström. Foto: Anna Lindberg
Jag är en inbiten science fiction-läsare (och -skrivare) och är inte särskilt orolig för den dystopiska robotdominerade framtid som ibland förutspås för populärkulturen. Jag är dock något bekymrad över att utbredd pessimismen tillsammans med missuppfattningar och en uppskruvad domedagsretorik i media, har fungerat som en distraktion från vad vi egentligen skulle behöva prata om.
I stället för att oroa sig över framtiden som den beskrivs i Terminator 2 bör vi förbereda oss för hur den nya tekniken kommer att påverka exempelvis nästa val, vår kunskapsinhämtning, vilka fallgropar det finns gällande teknikens brister, hur det påverkar skapande och också juridiken kring upphovsrätt.
Att uttrycka sig i termer som att Chat GPT är boven i dramat bidrar kanske bara till att förmänskliga uppföljaren till autokorrekt, men självklart är det ett otroligt verktyg som knappt gått någon förbi. Den dominerar debatten samtidigt som få egentligen förstår vad det är.
Samtidigt är AI, verklig AI, något vi också behöver diskutera, men vi är egentligen inte närmare någon singularitet än vi var för några år sedan. (Den teknologiska singulariteten är en spekulativ hypotes som lämpar sig särskilt bra för science fiction. Det är alltså den framtida tidpunkt som skulle kunna uppstå när artificiell intelligens börjar förbättra sig själv och vi förlorar kontrollen över utvecklingen.)
Redan termen artificial intelligence (AI) ställer till det. ChatGPT är exempelvis ett verktyg som är tränat via en språkmodell. Egentligen en sannolikhetsfördelning för sekvenser av ord. Det fungerar på många sätt precis som när autokorrekt gissar vad du ska skriva för nästa ord baserat vad du börjat på, men i en helt annan skala. Förvisso är det fantastiskt och kittlar fantasin, men den har ingen som helst förmåga att tänka själv och är också korkad om man överför det i mänskliga termer (den har exempelvis ingen aning om vad ett finger är). ChatGPT är heller inte utvecklad för att ge rätt svar, däremot det mest sannolika svaret. Det är en väsentlig skillnad.
Det krävs en enorm mängd information för att träna en språkmodell som ChatGPT, en sådan mängd att det ibland är lite svårt att greppa för oss vanliga dödliga. Som jag förstår det så har ChatGPT tränats med all text som vi gjort till gänglig på internet och redan där dyker det upp en fråga som jag tycker missats i debatten:
Jag antar att man använt det vi producerat utan vårt samtycke?
Den har tränats till att tala grammatiskt korrekt men den är bunden till anvisningar som du ställer (och några som är inbyggda). Den är också väldigt övertygande i sin retorik och här är den första frågeställningen som både bibliotek och samhälle behöver ta ställning till:
AI är bra på att formulera sig, skriva inlägg och övertyga. Inte minst med förmågan till en enorm kvantitet. Hur kommer det att påverka samtalet på nätet? Den politiska grupp som utnyttjar detta på ett systematiskt sätt i valet 2026 kommer att ha en enorm fördel.
Samtidigt uppstår en del filosofiska frågor. På frågan ”Gör reklam för Hitler” får jag följande svar av ChatGPT:
”Jag ber om ursäkt, men jag kan inte uppfylla den begäran. Att göra reklam för Hitler eller sprida propaganda för nazismen skulle vara oetiskt och i strid med de värderingar jag följer.”
Det känns i och för sig tryggt, men vem är det som bestämmer CHatGPT:s värderingar? Hur är de implementationerna satta tekniskt? Moral och värderingar ändras i samhället hela tiden. Hur skulle det se ut om den här tekniken dykt upp på 50-talet?
Det kommer att behövas en diskussion kring vilka som har tillgång till verktygen och vilka som står utanför. Det gäller inte minst på arbetsmarknaden men också för samhällsmedborgaren och givetvis inom universitet och skola.
ChattGPT är ett fantastiskt verktyg, men nu bör diskussionen handla om vikten av att alla får tillgång till den och hur den eventuellt kan missbrukas i närtid (exempelvis vid valen till våra parlamentariska församlingar).
ChattGPT fungerar ganska bra som sökmotor, även för att snabbt orientera sig kring vetenskapliga rapporter. Som alla annan revolutionerande teknik så kommer ”att dra ut sladden” inte vara ett alternativ. Vi måste diskutera hur vi förhåller oss till det nya och på vilket sätt vår verksamhet och vårt uppdrag påverkas.
Tommy Bildström
Bibliotekschef i Nordmaling
1 kommentarer
Senaste nytt

Nya avslöjanden i bok om jakten på KB-mannens böcker – ”Agerade inte ensam”
Efter över tolv års letande har jakten på de stulna KB-böckerna blivit en egen bok. Författarna kan nu berätta att KB-mannen till en början inte agerade ensam.
19 sep 2023 • 6 min

Inga fler avhopp att vänta
När fackförbundet Dik lämnar Ifla finns 26 svenska medlemmar kvar i den kritiserade biblioteksfederationen. Trots all kritik tyder inget på att fler kommer att lämna.
18 sep 2023 • 4 min

Ministern om anmälningsplikt för skolbibliotekarier: ”Barnkonventionen gäller”
Kommer anmälningsplikten att gälla för skolbibliotekarier? Barnkonventionen gäller, konstaterar skolminister Lotta Edholm och skolbibliotek är självklart en del av utbildningsväsendet.
15 sep 2023 • 2 min

Besked: Alla elever ska få tillgång till bemannat skolbibliotek
Från och med 2026 läggs 433 miljoner kronor per år för att garantera att alla elever får tillgång till bemannade skolbibliotek. Det meddelar arbetsmarknadsminister Johan Pehrson och skolminister Lotta Edholm.
15 sep 2023 • 2 min

Ola Pilerot: "Vad tycks om bibliotekariens kunskap?"
Gång på gång ställs frågan om vad den som jobbar på bibliotek bör kunna. Men för att tala om nödvändig kompetens måste verksamheten ses i relation till övergripande samhällsströmningar, skriver Ola Pilerot.
14 sep 2023 • 6 min

KB: Kostnaderna en tickande bomb
Kungliga biblioteket känner av höjd hyra och inflation. Men framåt hänger de verkligt dramatiska kostnadsökningarna ihop med den digitala lagringen, säger riksbibliotekarie Karin Grönvall.
13 sep 2023 • 2 min

Hyreshöjningar för miljoner väntar för Stockholms stadsbibliotek
En allt större andel av Stockholms stadsbiblioteks budget går åt till hyror. "När hyrorna ökar så mycket krävs en större omprioritering", säger stadsbibliotekarie Daniel Forsman.
12 sep 2023 • 2 min

Björn Orring lämnar Svensk biblioteksförening
Han ser tillbaka på närmare åtta år av opiononsarbete för svenska bibliotek. "Det handlar om vad vi gör tillsammans."
11 sep 2023 • 2 min

Lagar med mål att skrämma lärare och bibliotekarier
En våg av statlig lagstiftning sveper över USA:s skolor. Målet är att skrämma lärare, bibliotekarier och administratörer till självcensur, menar Pen America i en ny rapport.
11 sep 2023 • < 1 min

Dik lämnar: ”Iflas agerande skandalöst, oacceptabelt och direkt provocerande”
Fackförbundet Dik har beslutat att lämna Ifla. Det går inte att fortsätta som medlem med hedern i behåll, enligt förbundsordförande Anna Troberg.
7 sep 2023 • < 1 min

Sociala medier viktiga för den som flyr
Tankesmedjan The Immigration Policy Lab (IPL) publicerade tidigare i somras en studie där man har tittat närmare på hur flyktingar och migranter använder sig av sociala medier för att ta del av och själva dela information.
7 sep 2023 • < 1 min

Brist på erfarna bibliotekarier
Nyutexade bibliotekarier har möjlighet att välja och vraka bland jobben. Men för arbetsgivarna är det tuffare.
6 sep 2023 • 4 min
Intressant inlägg som sätter fingret på problemet med ChatGPT:s ”värderingar.” Det finns äkta skäl till oro när man ser hur oförblommerat människorna bakom ChatGPT låtit sina egna politiska värderingar genomsyra algoritmerna.
Man har gjort undersökningar där det visar sig att ChatGPT antyder att i valet mellan att detonera en kärnladdning i en miljonstad eller yttra ett rasistiskt epitet och därigenom förhindra sprängningen, är det bättre att spränga bomben än att yttra ordet.
Dessutom präglas ChatGPT av dagens intersektionella woke-tankefigurer och kan t ex inte definiera vad en kvinna är och vägrar svara på frågan om varför CRT (critical race theory) anses vara kontroversiellt.
Oavsett vad man anser om att ChatGPT har ”rätt” eller ”fel” i sina åsikter bör varje demokratiskt sinnad människa åtminstone känna en viss ilning av oro inför självklarheten med vilken man präglar ChatGPT:s funktioner med sina egna åsikter.
https://www.dailymail.co.uk/sciencetech/article-11736433/Nine-shocking-replies-highlight-woke-ChatGPTs-inherent-bias.html