Förslag till ny EU-lagstiftning kan hämma användningen av artificiell intelligens och skada yttrandefrihet och konstnärlig frihet, varnar KB i ett remissyttrande. Regeringen uppmanas samtidigt att påskynda beredningen av andra frågor.

Europeiska kommissionen har tagit fram ett förslag till ny lagstiftning som bland annat ska skydda hälsa, säkerhet och grundläggande rättigheter samt främja de positiva aspekterna av artificiell intelligens (AI).

Förslaget har varit ute på remiss och i ett yttrande som skickades till regeringskansliet i fredags, ifrågasätter Kungliga biblioteket (KB) det på flera punkter.

Bland annat omfattar förslaget regler om att människor ska informeras om att de exponeras för AI-system samt att det ska framgå om bilder eller rörlig media som kan uppfattas som äkta, i själva verket har manipulerats eller genererats av AI-system. Undantag finns för att garantera yttrandefrihet, konstnärlig frihet och frihet för forskning. I sitt yttrande hävdar dock KB att undantagen inte är tillräckligt tydligt formulerade och att detta kan utgöra hot mot yttrandefrihet och konstnärlig frihet.

KB utvecklar egna modeller för AI-system med öppen källkod, den mest använda modellen kallas KB-Bert och laddas ned av olika användare cirka 25 000 gånger per månad.

Förslaget innehåller regler om märkning av system utifrån olika risknivå. System som bedöms utgöra potentiellt hög risk föreslås få så kallad CE-märkning, vilket innebär att en vara eller en produkt fungerar i enlighet med EG-direktiven.

Då KB endast tar fram modeller för AI-system och inte utvecklar själva applikationerna, borde kravet om riskmärkning ligga hos slutanvändarna, skriver KB i yttrandet och pekar på flera svårigheter som uppstår om kravet i stället läggs på biblioteket: ”Ett krav på CE-märkning på KB-labbs modeller skulle med andra ord omöjliggöra KB-labbs arbete med samlingsbaserade modeller.”

I yttrandet riktar KB en tydlig uppmaning till regeringen om snabbare beredning av flera andra frågor som bland annat rör hantering av personuppgifter samt upphovsrättsliga regler. Dessa ärenden har en avgörande betydelse för tillämpningen av AI i forskningens infrastruktur, skriver KB och slår fast att uteblivna besked har en hämmande effekt och ”begränsar i avsevärd mån KB:s möjlighet att utföra sitt uppdrag.”

Regeringen kommer nu att sammanställa sina synpunkter på Europeiska kommissionens förslag som så först efter vidare beredning i EU:s rådsarbetsgrupp för telekommunikation och informationssamhället kan antas avEuropaparlamentet och bli EU-lag.