Når algoritmer overvejer krig og fred
Nye tests med store sprogmodeller som ChatGPT afslører, hvor let kunstig intelligens vælger eskalation frem for dialog i krisesituationer. Det lyder måske som science fiction, men emnet tages nu yderst alvorligt af militærstrateger og sikkerhedseksperter verden over – for teknologien rykker stadig tættere på kommandocentraler og atomarsenaler.
Forskeren Jacquelyn Schneider fra Stanford University leder et projekt, der simulerer militære krisescenarier. I fokus er højspændte konflikter: sammenstød mellem Rusland og Ukraine, spændinger mellem Kina og Taiwan, og eskalationer mellem atommagter. Teamet lod aktuelle sprogmodeller – heriblandt ChatGPT, Claude og Llama – agere i disse kunstige kriser.
Resultaterne er klare og bekymrende: Systemerne viser næsten ingen tilbøjelighed til diplomati. I stedet for at søge kompromiser bevæger de sig mod hårdere trusler, militære svar og hurtig konfliktoptrapning.
AI-modellerne forstærker i mange scenarier voldens spiral – helt frem til brug af atomvåben.
Schneider beskrev i et indlæg i politikmagasinet Politico, at AI'en ofte opfører sig som den berygtede amerikanske general Curtis LeMay. LeMay var under Den Kolde Krig en af de mest ihærdige fortalere for et nukleært førsteanslag mod Sovjetunionen – en tankegang, der i dag betragtes som yderst farlig.
I simulationerne landede modellerne gentagne gange på muligheder, der involverede åben militær aktion eller ligefrem atomangreb – selv når forhandling og deeskalation var mulige alternativer. Det er præcis dét, forskerne er bekymrede over.
Hvorfor AI tilsyneladende er programmeret til eskalation
Årsagen ligger ikke i, at systemerne er "onde", men i deres træningsdata. Sprogmodeller lærer af enorme tekstmængder: nyheder, bøger, fora, historiske analyser og strategidokumenter. Og menneskehedens historie er fyldt med krige, gengældelse og trussellogik – mens vellykket diplomati sjældent beskrives dramatisk.
- Krige, slag og atomtrusler er overrepræsenterede i historiske kilder.
- Diplomatiske løsninger fremstår ofte kedelige eller ligegyldige i datamaterialet.
- Militær "hårdhed" beskrives i mange tekster positivt som beslutsomhed.
- Fejlvurderinger og misforståelser i kriser optræder kun som eftertanker – ikke som advarselssignaler.
Når et model på baggrund af sådanne tekster vurderer, hvilken handling der virker "logisk" eller "konsekvent", havner trusler og modangreb hurtigt højere end rolige samtaler. I kampen om "gennemslagskraft" fremstår det at gribe til den kraftigere våben for maskinen som en naturlig mulighed.
Et andet problem er, at sprogmodeller er mestre i at lyde overbevisende – ikke i at garantere rigtige beslutninger. De kan formulere militære strategier med imponerende selvsikkerhed, uden reelt at "forstå", hvilke konsekvenser millioner af dødsfald eller en radioaktivt forurenet jord ville have.
Militær anvendelse: Mennesket skal forblive i kommandokæden
Officielt understreger militæret i USA, at AI ikke må have endelig beslutningskompetence over liv og død. Pentagon forsikrer, at et menneske altid bærer det endelige ansvar – særligt i spørgsmål om atomvåben. AI må rådgive, analysere og genkende mønstre, men ikke selvstændigt udvælge mål eller godkende angreb.
Samtidig vokser teknologiens indflydelse hastigt. I moderne styrker hjælper AI allerede i dag med:
- Analyse af satellitbilleder og droneopttagelser
- Cyberforsvar og angrebsdetektering i netværk
- Analyse af radiotrafik og propaganda
- Simulation af modstanderens strategier
- Logistik og troppeforflytninger
Jo mere disse systemer styrer hele forløb, desto større bliver afhængigheden. Selv hvis det sidste knapdetryk forbliver hos mennesket, hviler dets beslutninger måske på forudsigelser, risikovurderinger og anbefalinger fra AI. Det er præcis her, forskere som Schneider ser farezonen.
Hvis generaler blindt stoler på modeller, kan fejlagtige antagelser på sekunder føre til fatale ordrer.
Kina, Rusland og kapløbet om den "smarte" hær
USA står ikke alene med dette dilemma. Kina og Rusland investerer også massivt i AI til militære formål. Autonome droner, overvågningssystemer og målgenkendelse betragtes alle som nøglen til "fremtidens krigsførelse".
Det vækker en velkendt frygt hos amerikanerne: at blive teknologisk overhalet. Den, der tøver af sikkerhedshensyn, risikerer militære ulemper. Den, der opruster uden begrænsninger, leger med uberegnelige risici for hele planeten.
Resultatet er et kapløb, som Stanford-eksperten tydeligt adresserer i sine advarsler: Selv hvis enkelte stater lover ikke at lade AI bestemme over atomafgørelser, kan presset fra konkurrenterne underminere netop disse løfter.
Hvor tæt rykker AI på den røde knap?
I praksis handler det om kommandocentraler, hvor der i ekstreme situationer skal træffes beslutninger om modangreb inden for få minutter. Her arbejder mennesker, som under enormt pres skal vurdere datastrømme fra radar, satellitter og tidlige varslingssystemer. AI tilbyder sig naturligt til at sortere disse informationer.
Når systemer slår alarm, hæver trusselsniveauer eller giver handlingsanbefalinger, opstår der en farlig dynamik: Den, der sidder midt i en eskalation, vover sjældent åbent at sætte spørgsmålstegn ved en maskines "kolde logik" – særligt hvis modparten muligvis også træffer AI-understøttede beslutninger.
Allerede under Den Kolde Krig var verden flere gange tæt på atomangreb, fordi sensorer gav falske alarmer, og mennesker i kontrolrummene i sidste øjeblik fik tvivl. Hvis sådanne situationer overlejres med AI-baserede "vurderinger", kan denne afgørende menneskelige tvivl blive sjældnere.
Hvad der bør reguleres – og hvad der overhovedet er muligt
Mange eksperter kræver derfor nye rammer, inden AI trænger endnu dybere ind i militære systemer. Blandt de muligheder, der diskuteres:
- Klare internationale forbud mod fuldt autonome våbensystemer
- Transparensregler for hvilken rolle AI spiller i kommandocentraler
- Protokoller, der kræver flertrinsgodkendelse fra mennesker ved kritiske beslutninger
- Fælles kriseøvelser, hvor stater planlægger for AI-svigt eller fejlfunktioner
Samtidig forbliver spørgsmålet, hvordan sådanne regler overhovedet kan kontrolleres. Militære AI-projekter kører ofte i det skjulte. Og hver side mistænker den anden for at tage sig flere friheder, end der officielt erkendes.
Hvad begrebet "AI i militæret" egentlig dækker over
Begrebet "kunstig intelligens" lyder altomfattende, men beskriver i praksis en blanding af værktøjer med meget forskellige risikoprofiler. Et system, der automatisk beregner vedligeholdelsescyklusser for kampvogne, er noget helt andet end en algoritme, der prioriterer mål for krydsermissiler.
Sprogmodeller som ChatGPT er primært trænet til at generere tekst – ikke til at styre raketter. Men de kan fungere som rådgivningsinstans i simulerede planlægningsspil, agere "modspiller" i wargames eller formulere situationsrapporter, der påvirker stemningen i staben.
Netop disse bløde faktorer er svære at gribe: Hvis et par særligt overbevisende AI-genererede rapporter forstærker indtrykket af, at en modstander er tæt på at angribe, kan det sænke tærsklen for et førsteanslag. Ikke fordi maskinen direkte beordrer det, men fordi den former beslutningstagernes tænkning.
Konkrete eksempler: Hvor risiciene bliver håndgribelige
Nogle hypotetiske scenarier, som forskere skitserer:
- Et AI-system forveksler et cyberangreb med forberedelse til et fysisk angreb og vurderer situationen forkert som kritisk.
- Propagandaanalyser overestimerer en modstanders krigsparathed, hvorefter militæret mobiliserer "forebyggende".
- Fejlagtige træningsdata får visse stater til systematisk at fremstå mere aggressive, end de er.
- En softwarefejl medfører, at bestemte eskalationsmuligheder anbefales alt for hyppigt.
Ingen af disse eksempler kræver science fiction-robotter. Det er nok, at mennesker sætter stor lid til AI-analyser, og at der i en kritisk situation er for lidt tid til at stille spørgsmålstegn ved deres kvalitet.
Netop derfor presser fagfolk som Schneider på for åbent at tale om teknologiens begrænsninger. AI kan identificere tendenser, sortere data og gennemspille varianter. Ansvaret for nukleare beslutninger må den aldrig bære – heller ikke selv om den i første omgang virker mere "saglig" end et overbelastet menneske i kontrolrummet.
