Språklig kapprustning för att erövra makt

Nätgiganter som Facebook och Google använder stora delar av sina enorma vinster till att utveckla artificiell intelligens. De vill ha inflytande i samhället, därför försöker de bygga saker som påminner om oss, skriver Mattias Beijmo.

Första gången jag hörde talas om det som brukar kallas artificiell intelligens, var vid en bardisk i San Franciscos Mission District. Det var tidigt 2000-tal, och något av alla dessa events som skulle locka den gamla ekonomins ledare att betala för att förstå den nya. Efter några öl började några av de andra föredragshållarna få Sam från Wisconsin att läcka lite: “Men berätta nu, Sam, berätta om det du gör på Amazon!”
Sam vände sig till bartendern och frågade:
– Vad tror du jag vill beställa nu?
Bartendern, en stor latinosnubbe i övre medelåldern, kisade lite teatraliskt, först mot Sam, sen på hans och våra urdruckna Budweiser.
– Well, en till Budweiser… och en shot?
– Varför tror du det, frågade Sam?
Bartendern såg lite trött ut.
– Ja, alltså… jag har jobbat här i elva år, och när ett gäng kritvita töntar med er dialekt druckit några Budweiser i rad på relativt kort tid, brukar det bli dags för mer öl och shots. Ingen raketforskning.
– Verkligen ingen raketforskning, nickade Sam, log och höjde sin tomma öl mot bartendern och sedan mot oss.

Amazon var det företag som ledde utvecklingen av en del av AI-området som kallas “kollaborativ filtrering”. Lite förenklat handlar det om att iaktta hur människor beter sig och baserat på detta förutse vad en individ och de som liknar den kan tänkas göra härnäst. Vem vill de rösta på, vem de vill dejta eller vilken öl de kan tänkas köpa härnäst. För att göra det så bra som möjligt, krävs att du har väldigt bra och mycket data från människors beslut. Det hade Amazon, så de fick ett försprång. Nu är det andra som har all den där datan, och det gör att de har nycklarna till framtiden.
Läser man Facebook och Googles årsredovisningar, så ser man att de ofattbara vinsterna från annonsintäkterna till största del går in i en helt annan del av deras verksamhet. Deras tjänster kostar procentuellt sett väldigt lite att förvalta, och vi är ju uppenbarligen helt beroende av såväl söktjänster som korta filmer och bekräftelsedopamin. Det verkar som att deras intresse av att skörda vårt beteende, inte är för att som någon slags cyber-Don Draper sälja annonser i all evighet. För följer man pengarna, ser man att de försöker replikera oss, bygga saker som påminner om oss.

Google och Facebook har för länge sedan gått vidare från Sams och Amazons kollaborativa filtrering, men de fortsätter att investera tungt i sin AI-utveckling. Googles AI-bolag, DeepMind, har tagit fram MuZero – en algoritm som utan kunskap om regler eller annat kan planera och fatta egna beslut. Efter några sekunder, har den tränat sig själv att vinna över människor i komplicerade brädspel den inte hade en aning om existerade. Men tanken är inte att använda MuZero till sällskapsspel; i DeepMinds forskningrapport som publicerades i tidningen Nature, sägs algoritmen ha “övermänskliga krafter”. Företaget säger att MuZeros generella AI redan nu kan komplettera människors förmåga att fatta beslut och agera i en “rörig verklighet där ‘spelets regler’ inte är kända.” Några exempel i klartext: Pandemier, krig och bardiskar.
Artificiell intelligens ska göra allt för Facebook i framtiden: detektera hot och hat, skapa engagemang men inte polarisering och återskapa sociala medie-verkligheten i den faktiska verkligheten med hjälp av Facebooks stora VR-satsning. Och bolaget verkar just ha gått upp i ledning när det gäller att skapa AI som själv kan lära sig vilket språk som helst. Alltså: tänk en maskin som bara genom att lyssna på det du säger efter en kort stund börjar förstå vad du säger. Du kan tala tatar, swahili eller svenska – genom att själv lista ut hur olika fonem verkar hänga ihop med helt orelaterad text, lär sig maskinen att förstå och tala ditt språk.

Kapprustningen kring språket rasar just i detta nu. Google och Microsoft är Facebooks största konkurrenter; helt logiskt med tanke på hur mycket lingvistisk data som finns i företagens moln. Men varför är språket så viktigt? Företagen själv lyfter gärna hur världen blir en bättre plats om vi förstår varandra, och det är såklart en rimlig tanke. De nämnda företagens militära kontrakt öppnar dock upp för olika övervakningsteknologiska användningsområden. Klart är att företagens innovationer blir viktiga för världens länder, kanske till och med viktigare än länderna som sådana?
De nya supermakternas miljardsatsningar på beslut, lärande och språk syftar till att digitalisera mänsklig agens, intellektuell utveckling och interpersonell kommunikation. De ser att människan är ett otillräckligt, ofullständigt och obegripligt djur. Facebook och de andra vet – bättre än någon – att människor är lättledda får, och när Mark Zuckerberg och de andra techmiljardärerna nu har tjänat alla pengar i hela världen, har historien visat många gånger vad industrins makthavare vill ha härnäst. De vill ha makt. Politiskt inflytande och samhällelig makt.

Jag går in på Google Maps för att hitta namnet på den där baren i San Franciscos Mission District; det vore ju fint i min lite överambitiösa inledning. Efter lite zoomande förstår jag att den såklart, som så mycket annat i stadsdelen, ersatts av annat. Men jag får googla både en och två gånger innan jag tror det jag ser torna upp sig där på Potrero Avenue:
“Zuckerberg San Francisco General Hospital”.

Text: Mattias Beijmo,
Författare, digitaliseringsexpert och föreläsare