Prenumerera på vårt nyhetsbrev
De viktigaste nyheterna direkt i din inkorg!
AI-genererade bibliotek: Cheferna är män och personalen gammal
2 sep 2025 • 2 min
AI skapar föråldrade bilder av bibliotek och bibliotekarier, konstaterar två forskare i Australien. ”Det visar att traditionella stereotyper om yrket fortfarande dominerar.”
Så kan det se ut när Biblioteksbladet får AI att generera bilder på bibliotekarier.
Hur ser bibliotek och bibliotekarier ut när de skapas av generativ AI?
De australiensiska forskarna Dirk Spennemann och Kay Oddone ställde sig frågan – och tog reda på svaret. De har undersökt bilder genererade med ChatGPT 4.0 föreställande skolbibliotekarier, folkbibliotekarier och universitetsbibliotekarier.
Slutsatsen var att de olika bibliotekstyperna och personalen ser olika ut i de genererade versionerna. Skolbibliotekarierna är avslappnat klädda och både själva biblioteken pch personerna där ger en känsla av en varm och välkomnande atmosfär.
Folkbiblioteken bemannas av äldre män och kvinnor som utstrålar professionalitet.
De akademiska biblioteken huserar på bilderna i byggnader som signalerar att de har stått på samma plats länge, och personalen är äldre, bär kostym och har glasögon.
Bilderna som skapades gav intryck av ett yrke där vita män är chefer.
När det handlar om just kläder och yttre attribut har vissa yngre kvinnliga bibliotekarier ledig klädsel och det långa håret uppsatt i hästsvansar. Det som av forskarna beskrivs som en klichéartad hårknut och kofta, är allra vanligast när det kommer till kvinnliga bibliotekarier.
Kay Oddone och Dirk Spennemann menar att spridningen av fördomsfulla bilder kan göra att missuppfattningar om bibliotekarieyrket och andra yrken blir ännu mer inrotade. Det i sin tur kan göra att diskriminering och systematisk ojämlikhet ökar. Med sin rapport vill de framhålla risken med övertro på generativ AI.
I ett mejl har Dirk Spennemann svarat på några frågor från Biblioteksbladet och konstaterar att det mest intressanta med studiens resultat är att stereotypa representationer av bibliotekarier och biblioteksrum lever kvar.
”Trots det utbredda främjandet av moderna och mångsidiga bibliotekarier och utformningen av innovativa biblioteksmiljöer, förblev de genererade bilderna generiska och föråldrade. Det visar att traditionella stereotyper om yrket fortfarande dominerar i tillgängliga datakällor och belyser klyftan mellan nuvarande praxis och kulturell uppfattning.”
Läs också: Föreningen: Stora luckor i AI-kommissionens förslag
Biblioteksbladet frågade bland annat vad som överraskade studiemakarna mest och Dirk Spennemann svarar då – och man kan nästan se det sneda leendet:
”Vi överraskades särskilt av skildringen av bibliotekarier som visade överdriven förtrolighet, som att lägga en hand på en låntagares axel eller rygg. Dessa var särskilt vanliga i skol- och akademiska biblioteksmiljöer, vilket står i konflikt med rådande professionella normer inom utbildning.”
Dirk Spennemann skriver att detta och annat tyder på att det finns mycket att göra när det kommer till att bygga upp etiska skyddsåtgärder i generativa verktyg.
”Verktygen måste användas med försiktighet och kritisk medvetenhet. Det är viktigt att vägleda generativa AI-verktyg med välstrukturerade uppmaningar och instruktioner för att minska risken för att förstärka föråldrade antaganden.”
Studien What do librarians look like? Stereotyping of a profession by generative AI är publicerad i tidskriften Journal of Librarianship and Information Science och finns att läsa här.
”Det som av forskarna beskrivs som en klichéartad hårknut och kofta, är allra vanligast när det kommer till kvinnliga bibliotekarier.”
Kan det möjligtvis bero på att de flesta som bär kombinationen hårknut och kofta faktiskt är kvinnor?
”Vi var särskilt förtjusta i skildringen av bibliotekarier som visade överdriven förtrolighet, som att lägga en hand på en låntagares axel eller rygg. Dessa var särskilt vanliga i skol- och akademiska biblioteksmiljöer, vilket står i konflikt med rådande professionella normer inom utbildning.”
Jaha. Var det ett australiskt AI som användes? Om inte, varför lägger man in australiska värderingar i hur man tolkar en hand på axeln? Är det inte just sådana nationella/etniska/religiösa/könsmässiga antaganden som får intersektionella ideologer att i vanliga fall gå i taket?
De flesta AI-modeller tränas på en gigantisk mängd data i form av bilder, filmer och texter. Det sitter ingen bigott styrelse av AI-programmerare som bestämmer vilka hudfärger eller kön som ska dominera genereringsresultaten. Det är ett resultat av det medelvärde som AI:et destillerar av all information i datasetet som det tränas på.
Det enda fall jag kommer på där AI-modeller aktivt programmerats för att ta fram specifika hudfärger genererade hysteriskt roliga resultat, om än oavsiktligt. Googles första modell häromåret (som snabbt drogs tillbaka) insisterade exempelvis på att generera svarta män när man bad om att få bilder på tyska SS-män under andra världskriget. ”America’s founding fathers” resulterade i ett rum fullt med svarta, bruna och asiatiska män i pudrade peruker som skrev under Självständighetsdeklarationen.
AI gör det man säger åt det att göra, men har man för vaga prompter hemfaller det per automatik åt medelvärdet. Om de flesta bibliotekarier i datasetet är vita kvinnor (oavsett om de är fiktiva eller verkliga) kommer AI:et att generera en vit kvinnlig bibliotekarie med klassiska/klyschiga attribut om man inte specificerar annat än ”en bibliotekarie”. Det är varken en bugg eller någon sinister rasistisk konspiration utan ett kallt uträknande av ett medelvärde. Vill man däremot se resultaten som en tvärsnittsindikator av förmenta orättvisor inom den verkliga biblioteksvärlden är det en annan diskussion.
Thomas, kan det vara så att du kanske missförstod texten? ”Det som av forskarna beskrivs som en klichéartad hårknut och kofta, är allra vanligast när det kommer till kvinnliga bibliotekarier.” inte i meningen att det oftast är kvinnor som har kofta och hårknut, utan att kvinnorna oftast avbildas med kofta och hårknut?
Helen: Du utgår ifrån att det är ett syftningsfel i texten, vilket det mycket väl kan vara. Det spelar egentligen ingen roll för andemeningen i texten i sin helhet eller min kommentar, då hela ansatsen går ut på att AI på något sätt är fördomsfullt, alternativt att det sitter någon eller några och medvetet programmerar AI:et för att vara fördomsfullt, något som jag inte tror på.