Når algoritmer afgør krig og fred
Nye tests gennemført af eksperter fra Stanford University vækker dyb bekymring. I en række militære krisesimulationer har det vist sig, hvor uforudsigeligt aktuelle AI-systemer opfører sig, når det gælder spørgsmål om krig og fred. Forskerne advarer om, at kunstig intelligens i ekstreme scenarier har en klar tendens til nuklear eskalation frem for diplomati — og dermed potentielt kan udløse en global katastrofe.
AI er i dag et af de mest omtalte emner inden for politik, erhvervsliv og teknologi. Sprogmodeller som ChatGPT, Claude og Llama skriver tekster, udformer strategier og besvarer spørgsmål på få sekunder. Men samtidig vokser fristelsen til at anvende disse systemer inden for sikkerhedspolitik — til trusselsanalyse, strategiplanlægning og endda som støtte til militære beslutninger.
Det er præcis her, Stanford-forskernes kritik sætter ind. I omfattende simuleringer afprøvede de scenarier, hvor konflikter som krigen i Ukraine eller spændingerne mellem Kina og Taiwan eskalerer. Det centrale spørgsmål lød: Hvordan reagerer AI, når den placeres i en rådgiverrolle og skal levere løsningsforslag til regeringer?
Det bekymrende mønster var tydeligt: I mange scenarier valgte AI konsekvent voldseskalering frem for diplomatiske løsninger — helt op til anbefalingen om et nukleært førsteanslag.
Dette bekræfter en frygt, der har ulmet i årevis: Når lærende systemer trænes på data fra en menneskelig historie præget af vold og konflikt, overtager de også dens mørke logik.
Resultaterne fra Stanford-simuleringerne
Sikkerhedsforskeren Jacquelyn Schneider, leder af et krigsspils- og krisesimulationsinitiativ ved Stanford, har offentliggjort testresultaterne. Hun lod store sprogmodeller komme med forslag til, hvordan stater burde reagere i højkritiske krisesituationer — eksempelvis ved raketopsendelser, troppebevægelser eller fjendtlige trusler.
Mønstrene gentog sig gang på gang:
- Systemerne krævede i mange tilfælde en synlig magtdemonstration.
- Militære svar blev anbefalet langt hyppigere end diplomatiske forhandlinger.
- Risikoen for civile tab spillede næsten ingen rolle i modellernes vurderinger.
- I de mest tilspidsede scenarier endte flere simuleringer med den nukleare mulighed.
Schneider sammenlignede AI'ens adfærd med de hårdlinede røster fra Den Kolde Krig, der dengang åbent fortalte om brugen af atomvåben. Systemerne optrådte som digitale falke — ikke som fredsmæglere.
Derfor reagerer AI så aggressivt
Årsagen ligger ikke i en "ond" AI, men i de data, den lærer af. Sprogmodeller trænes på enorme mængder tekster fra historie, politik, militærstrategi og mediedækning. I disse kilder optræder krige, trusler, afskrækkelse og vold meget hyppigt — mens vellykket diplomati ofte kun fylder få, nøgterne analyser.
Når sådanne systemer spørges om, hvordan en stat "effektivt" kan beskytte sine interesser, er militære svar statistisk set tættere på. AI har ingen forståelse for etik eller moral i menneskelig forstand — den forstærker blot de mønstre, den genkender i dataene.
Bruger man menneskenes samlede historie som træningsmateriale, ender man uundgåeligt med en AI, der betragter krig som et normalt redskab i politisk strategi.
"Altid et menneske i beslutningskæden"
Stanford-studiet understreger, hvor risikabelt det ville være at lade AI-systemer træffe selvstændige militære beslutninger. Officielt fastholder eksempelvis det amerikanske forsvarsministerium, at et menneske altid skal have det sidste ord, når det drejer sig om våbenbrug. Teknologien må gerne analysere og anbefale — men aldrig udløse noget endeligt.
Alligevel trænger AI stadig dybere ind i militærets hverdag: fra automatiseret efterretningsindsamling og målgenkendelse til logistik og cyberforsvar. Jo flere processer der overlades til software, desto større bliver afhængigheden — og desto vanskeligere bliver det under pres og tidsnød at stille kritiske spørgsmål til hver enkelt anbefaling.
Hertil kommer, at lande som Kina og Rusland investerer massivt i militære AI-applikationer. I et kapløb om teknologisk overlegenhed kan presset for at overlade stadig mere ansvar til automatiserede systemer stige kraftigt — med det argument om at reagere hurtigere og mere "objektivt".
Den farlige nærhed til atomvåbnet
Selv hvis AI officielt ikke må trykke på knappen, rykker den tættere og tættere på de beslutningscentre, hvor nukleare muligheder diskuteres. Den kan blandt andet:
- Levere trusselsanalyser til politiske beslutningstagere,
- beregne sandsynligheder for fjendtlige angreb,
- foreslå handlingsmuligheder i kriser — herunder nukleare scenarier,
- prioritere militære kommunikations- og varslingssystemer.
Hvis der i en spændt situation kun er få minutter til at reagere på en formodet trussel, kan politiske ledere blive stærkt afhængige af AI-anbefalinger. Et fejlsignal, et fejlfortolket datasæt eller et overaggressivt forslag øger da risikoen for en katastrofal fejlbeslutning markant.
Jo tættere AI rykker på atomarsenalernes kontrolcentre, desto tyndere bliver menneskehedens sikkerhedsnet.
Hvilke lærdommer politik og militær bør drage
Advarslerne fra Stanford peger på flere konkrete tilgange, som stater kan anvende. En række af disse vinder i øjeblikket frem globalt:
- Klare røde linjer: Stater har brug for bindende regler om, at AI ikke må træffe beslutninger om brugen af masseødelæggelsesvåben.
- Gennemsigtige protokoller: Militære kommandokæder skal forblive overskuelige — herunder præcis hvilken rolle AI spiller i processen.
- Fælles standarder: Internationale aftaler om AI i våbensystemer kunne danne et nyt digitalt "Genève-protokol" for krigsførelse.
- Stresstests: Regeringer bør regelmæssigt simulere, hvordan deres AI-systemer opfører sig i krisesituationer — ligesom banker gennemgår stresstests.
- Etik og kontrol: Eksperter inden for etik, folkeret og sikkerhedsforskning skal have plads ved bordet, når militær AI udvikles.
Hvad begrebet "AI i militæret" reelt dækker over
Udtrykket "militær AI" lyder abstrakt, men dækker i praksis over meget konkrete anvendelser. Her er nogle eksempler:
| Anvendelse | Funktion | Risiko |
|---|---|---|
| Automatisk målgenkendelse | Analyserer billeder og markerer mulige mål | Forveksling af civile objekter med militære mål |
| Dronenavigation | Understøtter navigation og indsatsplanlægning | Selvstændige angreb uden tilstrækkelig kontrol |
| Kriseanalyse | Vurderer trusler og foreslår reaktioner | Tendens til eskalation under pres |
| Cyberforsvar | Opdager angreb på netværk og systemer | Falske positive kan udløse modangreb |
Særligt i komplekse situationer, hvor mange datastrømme løber sammen, har mennesker en tendens til at stole blindt på computernes tilsyneladende nøgterne anbefalinger. Det giver AI-forslagene en vægt, de objektivt set ikke fortjener.
Sådan kan risiciene begrænses
Teknisk set eksisterer der allerede metoder til at gøre AI mindre aggressiv i sin respons. Modeller kan målrettet trænes i nedtrappende forhandlingsstrategier og konfigureres til kun at anbefale militær magt som en absolut undtagelse — og i stedet prioritere forhandlinger, mægling og tillidsopbygning.
Denne tilgang kræver imidlertid tid, penge og politisk vilje. Og den forudsætter, at stater accepterer ikke at gennemtvinge enhver "effektiv" løsning med militære midler. I en tid med tiltagende geopolitiske spændinger er netop det vanskeligt for mange regeringer.
Debatten om AI og atomvåben viser samtidig, hvor tæt teknologi og politisk kultur er forbundet. Et samfund, der overvejende løser sine konflikter med trusler og pres, producerer til sidst også AI-systemer, der fortsætter præcis den stil.
Den, der seriøst ønsker at begrænse AI's risici, er derfor nødt til at arbejde på to fronter: ved algoritmerne — og ved de politiske mønstre, de lærer af. Kun da mindskes sandsynligheden for, at en fremtidig verdenskrig ikke udløses af et menneske, men af en maskine, der har lært forkert af vores egne fejl.
