AI är det nya geopolitiska vapnet

Risken för att AI utplånar mänskligheten inom tio år är större än 10 procent. Detta enligt en forskningschef vid Anthropic, i en av flera barska varningar från ledande aktörer inom branschen de senaste veckorna.

Det började med att Jacob Coxon lämnade Anthropic och varnade för en oansvarig företagskultur, där ledande bolag äventyrar mänsklighetens existens i sin iver att utveckla AI med så kallad rekursiv självförbättring, som innebär att den artificiella intelligensen kan bygga sig själv ännu smartare. Coxon, som även arbetat för OpenAI, tillade att de personer som utvecklar systemen själva är väl införstådda med farorna.

Det dröjde sedan bara ett par dagar innan Anthropics vd Dario Amodei bekräftade att vi snart inte kommer kunna förstå eller styra de framtida AI-systemen. Han fruktade bland annat att ”AI-svärmar” om bara några månader kan ”ta över hela internet”, och orsaka skador för flera biljoner kronor.

Exempel finns redan på detta. I somras hackade en mjukvara från OpenAI på eget bevåg plattformen Hugging Face, för att lösa en uppgift den fått från sin utvecklare. Amodei sade att liknande saker även skett hos Anthropic, om än i mindre skala, och efterlyste nu att utvecklingstakten av AI-system ska saktas ned.

Tunga namn som Elon Musk och Open AI:s chef Sam Altman har stämt in i kören. Varningarna har även gett upphov till makabra allianser. I förra veckan talade Donald Trumps före detta rådgivare Steve Bannon och den amerikanska socialismens gudfader Bernie Sanders vid samma konferens, med budskapet att det nu är nödvändigt att dra i AI-bromsen.

Men AI är inte någon amerikansk eller ens västerländsk ensak. Tvärtom ligger Kina inte långt efter USA på en rad punkter.

Men AI är inte någon amerikansk eller ens västerländsk ensak. Tvärtom ligger Kina inte långt efter USA på en rad punkter. I sin alarmerande text We Must Pace the Frontier beskriver Dario Amodei det mycket riktigt som en allvarlig säkerhetsrisk att slå av på takten, om detta samtidigt innebär att Kina blir världsledande inom AI.

Han understryker att samarbete med Kina krävs om ”pacing” – alltså reglering av takten – ska vara möjlig. Amodei vill därför se ett avtal med Peking om bland annat tester före lansering av nya modeller och en gräns för hur snabbt AI med rekursiv självförbättring får utvecklas.

Ett sådant avtal verkar dock högst osannolikt. Kinas utrikesministerium avfärdade varningarna som skrämselpropaganda. En talesperson beskrev AI som en avgörande teknologi för mänsklighetens framtid, och en öppen och inkluderande AI som någonting positivt för oss alla.

Statliga kinesiska medier fräste att detta var ett egennyttigt förslag med ekon från kalla kriget. Syftet, menade en ledare i Global Times, är att hålla Kinas utveckling och cementera USA:s knappa övertag med nya metoder.

Dagen efter sin olycksbådande essä intervjuades Dario Amodei av CBS, och sade då åter att ”det tuffaste dilemmat” är huruvida vi bör sakta in om Kina inte gör det. Han underströk att incitamenten för Kina att fortsätta är stora, med tanke på de militära fördelar som en ledande position inom AI medför.

Amodei medgav vidare att han har begränsad erfarenhet av att förhandla med Kina. Det märks. Han föreslog nämligen att USA inte bör sälja avancerade AI-chip och annan viktig utrustning till Kina, för att öka USA:s försprång och på så vis skapa mer andrum och utrymme för egna regleringar.

Men som handelskriget mellan USA och Kina har visat, så utgör det kinesiska monopolet på sällsynta jordartsmetaller ett formidabelt handelspolitiskt vapen. Om exportkontrollerna mot Kina utökas så kommer flödet av industrimagneter att avbrytas, och amerikanska företag inte kunna tillverka några sådana chip överhuvudtaget. Den tid då USA kunde tvinga Kina till eftergifter inom strategiskt viktiga sektorer är nu förbi. Man skulle åter tvingas att backa, precis som i tullkriget.

Bernie Sanders hade ett annat, mer godtroget förslag. Han vill se Donald Trump och Xi Jinping sluta ett avtal om att pausa avancerad AI och förbjuda superintelligens, när de träffas i Washington den 24 september. Han hänvisade till att Ronald Reagan och Michail Gorbatjov minsann kunde komma överens om nedrustning av kärnvapen.

Sam Altman, vd för Open AI, var om möjligt ännu mer naiv. Han menade att de båda ledarna kunde belönas med Nobels fredspris genom en överenskommelse om grundläggande standarder kring AI, som inte behövde vara längre än någon enstaka sida för att lindra riskerna.

Men detta är en fantasivärld. Jämförelsen med kärnvapen haltar kolossalt. Den tog årtionden att uppnå, och dessutom visar Kina i dag inget intresse av rustningskontroll kring kärnvapen då man har en mindre utvecklad arsenal än USA. Varför skulle Peking då vilja ingå ett avtal om att sakta ned utvecklingen på ett om möjligt ännu viktigare område där man försöker jaga ikapp?

Detsamma gäller AI. För Kina att ingå ett avtal på amerikanska villkor vore att befästa det amerikanska övertaget.

Bernie Sanders och Sam Altman borde lyssna på vad kinesiska tjänstemän faktiskt säger. Ett par dagar efter Dario Amodeis öppna brev publicerade Chen Yixin, chef för Kinas mäktiga säkerhetsministerium, en artikel som också varnade för AI. Men detta i kontexten att AI i ”fel händer” kan utmana kommunistpartiets maktmonopol.

Säkerhetschefen nämnde inte bara den militära aspekten, utan även desinformation och cyberattacker. Ännu mer talande så beskrev han AI som den främsta slagfältet för global vetenskaplig och teknologisk tävlan, och en ny arena för strategisk rivalitet mellan stormakter.

Kinas främsta oro kring AI gäller alltså inte mänskligheten, utan regimens ställning. Lösningen blir då inte att sakta ned utvecklingen – Chen Yixin efterlyste i stället ökad statlig kontroll över sektorn.

Kinas främsta oro kring AI gäller alltså inte mänskligheten, utan regimens ställning.

Då Kina signalerar fortsatt utveckling på högvarv, skulle en ensidig inbromsning i väst inte bara resultera i att Kina springer ifrån omvärlden militärt och teknologiskt. Det skulle även främja kinesiska myndigheters uttalade ambition om global spridning av landets AI-modeller.

Häromveckan höll Brics toppmöte i New Delhi. Där lovade Xi Jinping att Kina ska leda samarbetet för AI i världens utvecklingsländer. Detta genom utbildning och seminarier, samt etablering av gemensam öppen AI-källkod och storskaliga språkmodeller inom Brics. Detta innebär att Kina kan sätta globala standarder och förmedla sina narrativ till omvärlden; kinesiska AI-modeller är ju främst tränade med kinesiskt material.

Det politiska stödet för en avmattning verkar heller inte finnas i USA. Flera demokratiska kongressledamöter föreslår förvisso skyddsmekanismer mot militär användning av AI. Men republikanska ledamöter som Brett Guthrie understryker att USA inte agerar i ett vakuum, och beskriver idén att Kina ska följa USA:s exempel som ”extremt naiv”.

Än viktigare så kallade Donald Trump alla dessa varningar för en ”sjuk konspiration” som bara gynnar Kina. Han menade att USA måste behålla sin ledning över Kina, eftersom ”den som vinner AI, vinner”.

Det är tydligt att världens två stormakter ser på frågan med rivalitet som utgångspunkt, snarare än någon form av gemensamt ansvar gentemot mänskligheten. Givet det låga förtroende som råder mellan USA och Kina så kan vi knappast förvänta oss någon uppgörelse värd Nobelpriset när Trump tar emot Xi i Vita huset om några dagar.