Vi måste inte bara lära oss mer om hur datasystem skapar nyheter och styr vad som syns i våra flöden. Vi måste också delta i den offentliga debatten om hur AI ska regleras. Det konstaterades när Internetdagarna drog i gång på måndagen.

– I dag kan våra fri- och rättigheter eroderas utan att man förstår vad som händer, sade Anette Novak, direktör på Statens medieråd, i ett samtal om AI och dess påverkan på informationssamhället.

Så lite känner vi nämligen till om hur datadrivna system påverkar den information vi tar del av. Alla måste lära sig mer om dessa frågor, inte bara barn och unga. Enligt Anette Novak har det visat sig att kunskapen är lägre i äldre åldersgrupper än hos barn som lär sig om medie- och informationskunnighet i skolan.

– Det här är den nya läs- och skrivkunnigheten. Det är lika viktigt som när vi lärde oss att läsa och skriva på 1800-talet.

Samtalet var en del av Internetstiftelsens Internetdagar 2020 som pågår på måndagen och tisdagen.

Fredrik Heintz, biträdande professor vid Linköpings universitet och ordförande i Svenska AI-sällskapet, tycker att AI bör användas framför allt för att hjälpa oss människor i vårt arbete, inte för att ersätta oss. Men för att det ska fungera är det avgörande att människor känner tillit till systemen. Då krävs att systemen följer lagar och regler samt etiska riktlinjer.

– Det är absolut nödvändigt. Och utbildning är vaccinet mot vilseledande information och marknadsföring.

Han berättade hur datasystem på egen hand kan skapa nyheter i form av text, ljud och bild i dag. En dator kan skapa bilder av personer som inte finns på riktigt och skriva artiklar utifrån inmatad information. Det finns fortfarande vissa problem och det kan uppstå felaktigheter, men systemen är tillräckligt bra för att kunna lura många.

– Det ställer stora krav på källkritik.

Till viss del kan vi ta hjälp av AI för att avslöja falsk information som genereras av AI, men det kommer inte att räcka tror Jutta Haider, professor i biblioteks- och informationsvetenskap på Högskolan i Borås.

– Man måste samtidigt ha en diskussion om hur vi hittar lösningar i samhället.

Utöver teknik och utbildning kommer det alltså att behövas även nya regleringar i form av lagstiftning och förbud. Bör exempelvis plattformarna för sociala medier använda särskild märkning av en text eller bild som är skapad av en dator? Och var går gränsen för vad som är sant och falskt?

Alla medborgare måste delta i debatten om hur regleringarna ska se ut och hur omfattande de ska vara, konstaterade Sebastian Bay, forskare på Totalförsvarets forskningsinstitut.

– Det finns olika ideologiska inriktningar i det här. Vissa tycker inget ska rensas bort och andra tycker att det finns ett stort behov av reglering. Medborgarnas viktigaste uppgift just nu är att delta i en politisk diskussion kring vad vi vill ha för insyn eller märkning.