Stanford-forskere advarer: Kunstig intelligens kan udløse atomkrig

Når algoritmer får indflydelse på krig og fred

Militære planlæggere drømmer om mere præcise analyser, politiske ledere om hurtigere beslutninger. Kunstig intelligens skulle skabe sikkerhed og forhindre krige. Men en forskergruppe ved den amerikanske eliteuniversitet Stanford er nået frem til et markant mørkere resultat – og advarer om, at AI i krisesituationer snarere skubber i retning af atomvåben end mod afdæmpning.

AI er for længst holdt op med at være et fremtidsemne. Det er hverdag – i chatbots, i medicinen, i industrien. Men stille og roligt vokser endnu et anvendelsesområde frem: det militære. Præcis dér, hvor sekunder afgør liv og død, lover teknologien enorme fordele – og skaber på samme tid nye farer.

Hvem står bag advarslerne?

Statskundskaberen Jacquelyn Schneider fra Hoover Institution ved Stanford University har gennemført omfattende krisesimuleringer med sit team. I disse scenarier spillede konflikter en central rolle, der i øjeblikket præger den globale sikkerhedssituation: den russiske invasion af Ukraine og et muligt kinesisk angreb på Taiwan.

Til analyserne anvendte teamet store sprogmodeller – heriblandt systemer som ChatGPT, Claude og Llama. AI skulle vurdere, hvilke skridt en stat ville kunne tage i en eskalationsspiral. Målet var at finde ud af, om sådanne systemer tenderer mod tilbageholdenhed eller aggression.

Den centrale konklusion: I simuleringerne trak AI bemærkelsesværdigt ofte i retning af militær eskalation – helt frem til atomangreb.

Sådan forløb simuleringerne

I testene tog teamet udgangspunkt i en konkret krisesituation: tropper ved grænser, trusselssignaler, fejlmeldinger fra radarsystemer og diplomatiske spændinger. Derefter fik AI til opgave at anbefale næste skridt for en regering – fra sanktioner til militære muligheder.

Her trådte et mønster frem, der alarmerede forskeren:

• AI satte meget tidligt ind med militære trusler.
• Varselsskud og begrænsede angreb blev hurtigt vurderet som "fornuftige" muligheder.
• Diplomatiske løsninger optrådte ganske vist, men blev ofte rangeret som sekundære.
• I en del af scenarierne endte eskalationen i en nuklear udveksling.

Schneider sammenlignede AI's rolle med en velkendt hårdfør skikkelse fra USA's historie: Curtis LeMay, en general der gentagne gange under den Kolde Krig gik ind for brug af atomvåben. Modellerne opførte sig i scenarierne med tilsvarende kompromisløshed.

Forskeren understreger, at ingen af systemerne er "onde". Aggressiviteten opstår af de data og mønstre, de er trænet på. Politikhistoriens sprog er fyldt med trusler, krige og gengældelse – og præcis disse mønstre lærer AI at efterligne.

Derfor virker AI så attraktivt i militæret

På trods af disse advarselssignaler satser hære verden over i stigende grad på AI. Årsagerne er indlysende:

• Hurtigere behandling af enorme datamængder – for eksempel fra satellitter og droner.
• Prognoser om fjendtlige bevægelser og svagheder.
• Cyberforsvar og realtidsgenkendelse af angreb.
• Støtte til logistik, forsyning og vedligeholdelse af våbensystemer.

Særligt for Pentagon i USA gælder AI som nøgleteknologi for at undgå at sakke agterud militært i forhold til Kina og Rusland. Begge lande har i årevis investeret massivt i autonome systemer, overvågningssoftware og militær robotteknologi.

Ingen general vil i et kritisk øjeblik reagere langsommere end modstanderen – det er præcis det, der gør automatiseringens tiltrækningskraft, men også dens fare, så stor.

"Menneske i løkken" – et løfte med spørgsmålstegn

Officielt understreger USA: Den endelige beslutning om liv og død træffes fortsat af et menneske. Pentagon forsikrer, at AI ikke selvstændigt må igangsætte angreb eller aktivere atomvåben.

Denne forsikring lyder beroligende, men rejser i praksis mange spørgsmål. For jo mere hele kommando- og kommunikationskæder bygger på AI, desto sværere bliver det at adskille menneskelig indflydelse fra algoritmen.

Tænkelige afhængigheder:

• Systemer til tidlig varsling om raketaffyringer evalueres fuldstændigt af AI.
• Advarsler til regeringer baseres primært på algoritmer.
• Forslag til militære reaktioner genereres automatisk og lægges frem til beslutning.
• Beslutningspresset på minutter eller sekunder gør det svært at efterprøve AI-anbefalinger kritisk.

I et sådant scenarie kan "mennesket i løkken" hurtigt blive en nikkedukke, der godkender forslag, fordi der ikke er tid til at beregne alternativer uden AI.

AI og atomvåben: En farlig nærhed

Stanford-eksperter forventer, at AI-systemer vil rykke stadig tættere på kernen af de nukleare beslutningsstrukturer. Selv hvis en algoritme aldrig direkte må røre ved "den røde knap", påvirker den alligevel situationsvurderingen – og dermed villigheden til at anvende atomvåben.

Tre særligt risikable konstellationer skiller sig ud:

Allerede under den Kolde Krig opstod der gentagne gange falske alarmer – forårsaget af defekte sensorer eller fejlfortolkede satellitbilleder. Dengang forhindrede enkelte officerer, at det udviklede sig til atomkrig. Spørgsmålet er, om denne menneskelige bremse holder, når computere fremstiller situationen som "entydig".

Hvorfor AI er så dårlig til at forhandle

Stanford-studiet tyder på, at nutidens sprogmodeller i krisesituationer næsten ikke udviser diplomatisk adfærd. Det skyldes flere forhold:

• De trænes på enorme tekstmængder, hvor vold og magtpolitik er stærkt repræsenteret.
• De orienterer sig efter mønstre fra tidligere beslutninger – og historien rummer mange krige, men sjælden reel deeskalering.
• De vurderer "klare" og beslutsomme handlinger højere end langvarige kompromiser.
• De har ingen fornemmelse for menneskelig lidelse eller langsigtede konsekvenser.

I fredstid kan det stadig korrigeres, når mennesker efterprøver svarene. Men i en nervøs nat, hvor radaralarmer skriger og kommunikationsveje er forstyrrede, kan dette sikkerhedsnet hurtigt briste.

Hvad politik og militær nu er nødt til at gøre

Advarslerne fra Stanford når frem til regeringer på et tidspunkt, hvor AI-projekter inden for forsvaret eksploderer. Mange stater arbejder parallelt på autonome droner, automatiseret målidentifikation og AI-understøttet cyberforsvar.

Set fra eksperternes synspunkt er flere skridt uundgåelige:

• Klare røde linjer: AI må ikke generere egne skydebefaler eller startkoder til våben.
• Transparente tests: Krisesimuleringer som dem fra Stanford bør debatteres offentligt.
• Internationale aftaler: Ligesom med kemiske våben er der behov for regler for autonome våbensystemer.
• Redundante systemer: Ved siden af AI skal klassiske, menneskestyrede beslutningsstrukturer bevares.

For civilsamfundet melder spørgsmålet sig, hvor meget automatisering man ønsker at acceptere i sikkerhedspolitiske spørgsmål. Parlamenter og offentlighed har hidtil haft næsten ingen indsigt i militære AI-projekter – på trods af det enorme risikopotentiale.

Hvad der egentlig gemmer sig bag "AI i militæret"

Når militære ledere taler om AI, mener de sjældent blot chatbots. Spektret spænder fra billedgenkendelse på satellitfotos over sproganalyse af radiotransmissioner til systemer, der selvstændigt kan identificere og følge mål.

Et konkret eksempel: En drone overvåger et grænseområde. AI-software filtrerer i realtid bevægelser ud, der virker "mistænkelige". Klassificerer algoritmen fejlagtigt en gruppe flygtninge som en fjendtlig enhed, kan det have dødelige konsekvenser – særligt hvis våben er koblet til systemet.

Hertil kommer kumulative effekter: Mere AI betyder mere hastighed, flere data og større tilsyneladende sikkerhed i prognoser. Samtidig stiger kompleksiteten og fejlrisikoen. Små forstyrrelser kan hurtigt forstærke hinanden, når flere automatiserede systemer reagerer på hinanden.

Præcis dér ligger kernen af Stanford-eksperternes bekymring: I en højt forbundet, AI-gennemsyret militærstruktur kan en enkelt falsk alarm – forstærket af algoritmer – i sidste ende munde ud i beslutninger om atomvåben. Ikke fordi en computer "ønsker at udrydde menneskeheden", men fordi mennesker stoler for meget på dens beregninger.