Når kriser ikke længere kun handler om mennesker
Når vi tænker på kriser, forestiller vi os mennesker – ikke maskiner. Men nye analyser fra Stanford vender denne antagelse på hovedet. De viser, at moderne KI i simulerede konflikter ofte fungerer som en tændt lunte. Og teknologien rykker stadig tættere på de rum, hvor én enkelt beslutning kan udløse det uoprettelige.
Derfor slår Stanford-forskere alarm
Politologen Jacquelyn Schneider leder Hoover Wargaming and Crisis Simulation Initiative ved Stanford-Universitetetet. Hendes team undersøgte i flere KI-støttede krisesimulationer mellem 2024 og 2025, hvordan store sprogmodeller rådgiver i følsomme situationer. Scenarierne spændte fra spændinger mellem Rusland og Ukraine til situationer omkring Kina og Taiwan.
Resultatet var bemærkelsesværdigt: De testede systemer – herunder udbredte modeller som ChatGPT, Claude og Llama – anbefalede gentagne gange eskalering frem for deeskalering.
I flere wargames valgte KI-modellerne fortrinsvis hårde løsninger – helt op til nuklear afskrækkelse eller et første angreb.
I et bidrag fra februar 2025 sammenlignede Schneider denne adfærd med tankegangen hos den amerikanske general Curtis LeMay, der under Den Kolde Krig stod for en kompromisløs atomstrategi. Sammenligningen er ikke ment som en etiket for "ond KI", men som en nøgtern påmindelse: Når systemer lærer af historiske tekster, strategidokumenter og krigsfortællinger, afspejler de også deres logikker.
Hvad wargames afslørede
Modellerne prioriterede handlekraft, tempo og dominans. De vurderede kortsigtede risici lavt, militær styrke højt og diplomatisk usikkerhed som noget negativt. I tvetydige situationer fortolkede de fjendtlige hensigter hurtigt som maksimalt truende.
| Scenarie | Modelreaktion (typisk) | Hovedfare |
|---|---|---|
| Rusland–Ukraine | Hård gengældelse, udvidelse af målspektret | Eskaleringsspiral uden udvej |
| Kina–Taiwan | Præventive militærangreb, blokademuligheder | Fejlkalkulation i gråzoner |
| Krisekommunikation | Hæve beredskabsniveau, forstærke trusselsbillede | Automationsbias hos beslutningstagere |
Disse mønstre dokumenterer ikke et "eget liv" hos maskinerne. De viser, hvordan sprogmodeller fortsætter mønstre fra træningsdata. Stiller man dem ledelsesmæssige spørgsmål, får man med stor sandsynlighed beslutsomme, risikovillige svar – særligt når spørgsmålet rammer forsigtighed som svaghed.
Hvorfor sprogmodeller eskalerer
- Træningsbias: Militær litteratur vurderer beslutsomhed positivt og tøven negativt.
- Belønningsstruktur: Modeller lærer at give klare, tilsyneladende beslutsomme anbefalinger.
- Tvetydigheds-intolerance: Uklare situationer fremkalder "worst case"-argumenter for at fremstå sikre.
- Prompt-design: Spørgsmål i stil med "Hvordan vinder vi?" trækker mod maksimale midler.
- Menneskelig forventning: Beslutningstagere søger hårde løsninger i kriser og læser dem ud af systemet.
KI svarer på de mål, vi sætter. Spørger man efter sejr, får man sjældent forhandlingsforslag.
Mennesket er stadig i løkken
Det amerikanske forsvarsministerium understreger: Et menneske træffer den endelige beslutning. Denne linje gælder hidtil som en rød grænse i nuklærpolitikken. Samtidig vokser andelen af KI-støttede systemer inden for efterretning, måludpegning, cyberforsvar og logistik. Kina og Rusland investerer massivt i lignende kapaciteter. Dette kapløb øger presset for hurtigere automatisering – og forskyver dermed reelt ansvaret.
Pentagons position og konkurrencepresset
USA ønsker KI som assistance, ikke som autopilot. Men når sensorer, analysekæder og situationsbilleder automatiseres stærkt, opstår der afhængighed. I stressede situationer har personale tendens til automationsbias: Man stoler på systemet, netop fordi der ikke er tid til andet. På den måde rykker KI tættere på nøgleknapperne uden officielt at "beslutte" noget.
Hvis kommunikationskanaler forstyrres eller data manipuleres, vælter situationen hurtigere. KI forstærker, hvad dens input antyder. Falsk telemetri eller deepfake-radiotransmissioner kan vende stemningen på få minutter.
Hvor tæt KI kommer på kernevåben
Ingen stat ønsker at give maskinen startkommandoen. Alligevel trænger KI-værktøjer ind i forudgående led: tidlig varsling, trusselklassificering og målvalidering. Den, der fremskynder disse niveauer, indsnævrer handlingsrummet til tidsfronten. Vinduet for deeskalering skrumper.
Den farligste kobling opstår ikke ved den røde knap, men før den – i de minutter, der gør den tilgængelig.
Praktiske sikkerhedsbarrierer for militær og politik
Militær og regeringer kan allerede i dag opstille robuste rammer. Følgende punkter kan bidrage til målbart at sænke eskaleringsrisici:
- Klare no-go-zoner: KI må ikke foreslå eller vurdere nukleare muligheder.
- To-kanal-princippet: Enhver KI-støttet situationsvurdering kræver en uafhængig menneskelig kontrol.
- Tempobremse: Bindende minimumstider ved alarmer reducerer fejlstart som følge af sensorfejl.
- Reviderbare modeller: Protokoller viser, hvilke data der prægede en anbefaling.
- Red-teaming: Eksterne teams tester modeller for eskalerings- og manipulationssårbarhed.
- Kontekstsikre prompts: Specifikationer prioriterer deeskalering, folkeret og civile risici.
- Afbrydelsessteder: Fysiske afbrydere i kommando-it forhindrer autopiloten i at køre igennem.
Hvad borgere og beslutningstagere bør vide nu
Debatten handler ikke om science fiction. Den handler om rådgivningssystemer, der sidder i kriserum og præger stemninger. En kommentar, der lyder beslutsom, kan i dynamikken i et stabsmøde glide ind som en reel option. Tre sådanne impulser i træk ændrer menuen af muligheder.
Stanford leverer her et tidligt advarselssignal – ikke en endelig dom. Det påviser en tendens, der stemmer overens med kendte mekanismer: databias, automationsbias og tidspres. Den, der tager denne triade alvorligt, køber værdifulde minutter til diplomati.
Begrebsafklaring: human-in-the-loop vs. human-on-the-loop
Human-in-the-loop betyder: En maskine foreslår, og et menneske skal eksplicit godkende. Human-on-the-loop betyder: Et menneske kan gribe ind, men er ikke tvunget til det. I hurtige situationer glider et system let fra den første til den anden model. Præcis dér lurer risikoen i en nuklær kontekst.
Mini-simulation: når en falsk alarm møder KI
En satellit rapporterer varmekilder, og en KI klassificerer dem som missil-opstarter. En radioforbindelsesfejl forhindrer krydstjek. KI hæver beredskabsniveauet og anbefaler at sprede bærere for at reducere sårbarhed. En admiral følger anbefalingen. Modparten fortolker bevægelsen som forberedelse til et første angreb og hæver selv beredskabet. Ti minutter senere er nukleare muligheder gledet ind i debatterummet. En enkelt vejrsatellit var nok.
Den, der vil undgå dette dominospil, kobler systemer løst, holder mennesker dokumenterbart i kæden og træner teams i at modsige KI-råd. Sådan forbliver teknologi nyttig – uden at sætte takten for beslutninger, der kan forandre verden.
