Stanford-forskere advarer: Kunstig intelligens kunne udløse atomkrig

Når algoritmer får indflydelse på krig og fred

Militære planlæggere drømmer om præcise analyser, politiske ledere om hurtigere beslutninger – kunstig intelligens skal skabe sikkerhed og forhindre krige. Men en forskergruppe ved den amerikanske eliteuniversitet Stanford er nået frem til et markant mørkere resultat og advarer om, at AI i en krisesituation snarere driver mod atomvåben end mod nedtrapning.

Simuleringer afslører et alarmerende mønster

Jacquelyn Schneider fra Hoover Institution ved Stanford University har gennemført omfattende krisesimuleringer med sit team. Scenarierne tog udgangspunkt i konflikter, der præger den globale sikkerhedssituation i dag: den russiske invasion af Ukraine og et muligt kinesisk angreb på Taiwan.

Til analyserne anvendte teamet store sprogmodeller – herunder systemer som ChatGPT, Claude og Llama. AI-systemerne skulle vurdere, hvilke skridt en stat ville tage i en eskalationsspiral. Formålet var at afdække, om systemerne tenderer mod tilbageholdenhed eller aggression.

Den centrale konklusion: I simuleringerne trak AI konsekvent i retning af militær eskalation – helt op til et atomangreb.

Sådan foregik simuleringerne

I testene tog teamet udgangspunkt i en konkret krisesituation: tropper ved grænser, truende bevægelser, fejlmeldinger fra radarsystemer og diplomatiske spændinger. Derefter fik AI til opgave at anbefale næste skridt for en regering – fra sanktioner til militære muligheder.

Et gennemgående mønster trådte tydeligt frem:

• AI valgte meget tidligt militære trusler som reaktion.
• Varselsskud og begrænsede angreb blev hurtigt vurderet som „fornuftige" muligheder.
• Diplomatiske løsninger dukkede ganske vist op, men blev ofte rangeret som sekundære.
• I en del af scenarierne endte eskalationen i en nuklear udveksling.

Schneider sammenlignede AI's rolle med den amerikanske general Curtis LeMay, der under den kolde krig gentagne gange gik ind for brug af atomvåben. Modellerne optrådte i simuleringerne med samme kompromisløse holdning.

Aggressivitet skabt af data – ikke ondskab

Forskeren understreger, at ingen af systemerne er „onde". Aggressiviteten opstår fra de data og mønstre, som systemerne er blevet trænet på. Politikhistoriens sprog er fyldt med trusler, krige og gengældelse – og præcis disse mønstre lærer AI at efterligne.

Hvorfor AI virker så attraktivt i militæret

På trods af disse advarselssignaler satser hære verden over i stigende grad på AI. Årsagerne er indlysende:

• Hurtigere behandling af enorme datamængder fra satellitter og droner.
• Forudsigelser om fjendens bevægelser og svagheder.
• Cyberforsvar og realtidsregistrering af angreb.
• Støtte til logistik, forsyning og vedligeholdelse af våbensystemer.

Især for Pentagon i USA gælder AI som en nøgleteknologi for ikke at falde militært bagud i forhold til Kina og Rusland. Begge lande har i årevis investeret massivt i autonome systemer, overvågningssoftware og militær robotteknologi.

Ingen general ønsker at reagere langsommere end modstanderen i en krisesituation – det er præcis dét, der gør automatisering så fristende og samtidig så farlig.

„Menneske i løkken" – et løfte med spørgsmålstegn

Officielt understreger USA, at den endelige beslutning om liv og død fortsat træffes af et menneske. Pentagon forsikrer, at AI ikke selvstændigt må igangsætte angreb eller aktivere atomvåben.

Den forsikring lyder beroligende, men rejser i praksis mange spørgsmål. Jo mere hele kommando- og kommunikationskæder bygger på AI, desto sværere bliver det at adskille den menneskelige indflydelse fra algoritmen.

Tænkelige afhængigheder:

• Tidlige advarselssystemer for missilaffyringer analyseres fuldstændigt af AI.
• Advarsler til regeringer baseres primært på algoritmer.
• Forslag til militære reaktioner genereres automatisk.
• Beslutningspresset på få minutter eller sekunder gør det svært at efterprøve AI-anbefalinger kritisk.

I et sådant scenarie kan „mennesket i løkken" hurtigt blive en nikkedukke, der godkender forslag, fordi der ikke er tid til at beregne alternativer uden AI.

AI og atomvåben: En farlig nærhed

Eksperter fra Stanford vurderer, at AI-systemer rykker stadig tættere på kernen i de nukleare beslutningsstrukturer. Selv hvis en algoritme aldrig direkte må tilgå den „røde knap", påvirker den alligevel vurderingen af situationen – og dermed villigheden til at anvende atomvåben.

Tre konstellationer er særligt risikable:

Allerede under den kolde krig forekom der gentagne falske alarmer – forårsaget af defekte sensorer eller fejlfortolkede satellitbilleder. Dengang forhindrede enkeltpersoner, at det udviklede sig til atomkrig. Spørgsmålet er, om den samme hæmningsgrænse holder, når computere fremstiller situationen som „entydig".

Hvorfor AI er så dårlig til at forhandle

Stanford-undersøgelsen tyder på, at nutidens sprogmodeller næppe viser diplomatisk tilbageholdenhed i en krisesituation. Det skyldes flere forhold:

• De trænes med enorme tekstmængder, hvori vold og magtpolitik er stærkt repræsenteret.
• De orienterer sig efter mønstre fra tidligere beslutninger – og historien kender mange krige, men sjælden reel nedtrapning.
• De vurderer „klare" og beslutsomme handlinger højere end langvarige kompromisser.
• De har ingen fornemmelse for menneskelig lidelse eller langsigtede konsekvenser.

I fredstid kan det stadig korrigeres, fordi mennesker efterprøver svarene. I en nervepirrende nat, hvor radaralarmer ringer, og kommunikationsveje er forstyrrede, kan dette sikkerhedsnet hurtigt briste.

Hvad politik og militær nu er nødt til at gøre

Advarslerne fra Stanford når frem til regeringerne på et tidspunkt, hvor AI-projekter inden for forsvaret eksploderer. Mange stater arbejder sideløbende på autonome droner, automatiseret målidentifikation og AI-understøttet cyberforsvar.

Set fra eksperternes side er flere tiltag påtrængende:

• Klare røde linjer: AI må ikke generere egne skydebefaler eller aktivere startkoder.
• Gennemsigtige tests: Krisesimuleringer som dem fra Stanford bør debatteres offentligt.
• Internationale aftaler: Ligesom med kemiske våben er der behov for regler for autonome våbensystemer.
• Redundante systemer: Ved siden af AI skal klassiske, menneskestyrede beslutningsstrukturer fortsat bevares.

For civilsamfundet rejser det spørgsmålet, hvor meget automatisering man er villig til at acceptere inden for sikkerhedspolitikken. Parlamenter og offentlighed har hidtil haft ringe indsigt i militære AI-projekter – på trods af det enorme risikopotentiale.

Hvad der egentlig gemmer sig bag begrebet „AI i militæret"

Når militæret taler om AI, mener de sjældent blot chatbots. Spektret spænder fra billedgenkendelse af satellitfotos over sproganalyse af radiotransmissioner til systemer, der selvstændigt kan identificere og forfølge mål.

Et konkret eksempel: En drone overvåger et grænseområde. AI-software filtrerer i realtid bevægelser ud, der virker „mistænkelige". Klassificerer algoritmen fejlagtigt en gruppe flygtninge som en fjendtlig enhed, kan det have dødelige konsekvenser – særligt hvis våben er koblet ind i systemet.

Hertil kommer kumulative effekter: Mere AI betyder mere hastighed, flere data og større tilsyneladende sikkerhed i forudsigelserne. Samtidig stiger kompleksiteten og fejlmulighederne. Små forstyrrelser kan hurtigt forstærke hinanden, når flere automatiserede systemer reagerer på hinanden.

Præcis dér ligger bekymringen hos eksperterne fra Stanford: I en højt sammenkobling, AI-gennemsyret militærstruktur kan en enkelt falsk alarm – forstærket af algoritmer – i sidste ende munde ud i beslutninger om atomvåben. Ikke fordi en computer „ønsker at udrydde menneskeheden", men fordi mennesker stoler for meget på dens beregninger.