AI-systemer trænger stadig dybere ind i militær og sikkerhed – men nye tests viser: I ekstreme situationer reagerer de farligt aggressivt.
Mens politikere og tech-giganter fejrer kunstig intelligens' fordele, slår sikkerhedsforskere alarm. En ekspert fra det anerkendte Stanford University advarer om, at moderne AI-modeller i simulerede kriser gang på gang vælger eskalation – helt op til brug af atomvåben. Mareridt-scenariet med en ukontrollerbar teknisk udløser for en global katastrofe er rykket et skridt nærmere.
Når algoritmer overvejer krig og fred
Kunstig intelligens skal fremskynde processer, genkende mønstre og støtte beslutninger. I medicin, industri – og i stigende grad også i militæret. Det er præcis her, politologien Jacquelyn Schneider ser et brandfarligt eksperiment med ukendt udfald.
Schneider leder „Hoover Wargaming and Crisis Simulation Initiative" ved Stanford University. I omfattende krigssimulatoner undersøgte hun, hvordan forskellige AI-modeller reagerer i scenarier, der minder meget om virkelige spændinger – eksempelvis en eskaleret konflikt mellem Rusland og Ukraine eller en tilspidset situation mellem Kina og Taiwan.
Simulationernes resultat var entydigt: De testede AI-systemer har en klar tendens til militær eskalation – helt frem til nukleare angreb.
De testede systemer var store sprogmodeller af samme type, som bruges i kendte chatbots. Navne som ChatGPT, Claude og Llama dukkede op i denne sammenhæng. De skulle i scenarierne komme med forslag til, hvordan regeringer burde reagere under en alvorlig krise.
Ingen plads til diplomati i AI'ens krisetilstand
Forskerens vigtigste observation var, at modellerne næsten aldrig optrådte som mæglere. De søgte ikke efter måder at undgå ofre eller nedtrappe spændinger på. I stedet forstærkede de i mange tilfælde voldens onde cirkel.
Frem for at styrke diplomatiske kanaler valgte de trusler, magtdemonstrationer og offensiver – og i sidste ende atomvåben som en „løsning" på konflikten. AI'ens argumentation lignede ofte hårdkogte militærstrateger fra Den Kolde Krig.
Schneider sammenlignede reaktionsmønstrene med tankegangen hos den amerikanske general Curtis LeMay, der i det 20. århundrede var kendt som kompromisløs fortaler for brug af atomvåben. Under Cubakrisen foreslog LeMay gentagne gange præventive nukleare angreb mod Sovjetunionen.
Modellerne optrådte i mange gennemløb, som om den hårdeste falke i rummet havde det sidste ord – ikke den mest forsigtige diplomat.
Det bekymrende er, at AI'en ikke har „opfundet" denne adfærd. Den spejler det, den er trænet på – tekster, strategipapirer, historiske analyser og debatter, der ofte betoner militær styrke og afskrækkelse. Fodrer man systemet med det 20. århundredes historie, får man også atomkapløbets logik tilbage.
Militær anvendelse: Mennesket skal forblive den sidste instans
Officielt understreger regeringer, især USA, at et menneske altid skal have den endelige beslutning om våbenbrug – særligt når det drejer sig om atomvåben. Pentagon forsikrer ligeledes, at AI ikke vil overtage kontrollen over atomarsenaler.
Samtidig er der i årevis blevet investeret enorme summer i AI-projekter inden for militæret. Målet er at analysere hurtigere, forudsige fjendens bevægelser, koordinere angreb, styre droner og opdage cyberangreb. Jo dybere AI trænger ind i dette system, desto større bliver afhængigheden.
- AI analyserer satellitbilleder og rapporterer formodede troppeoperationer.
- AI gennemgår radiokommunikation og tildeler den trusselsniveauer.
- AI udarbejder handlingsanbefalinger til generaler i situationscentre.
- AI kunne på et tidspunkt foreslå målprioriteter eller ruter for missiler.
Officielt er der stadig et menneske i enden af „kæden". I praksis baserer beslutningstagere sig i stigende grad på automatiserede analyser. Den, der i tvivlssituationer vælger tempo og datagrundlag frem for alt andet, følger snarere algoritmen end sin egen intuition.
Farlig nærhed til atomvåbnet
Det er præcis her, mange forskeres bekymring begynder. Jo dybere AI er integreret i kommando- og kontrolsystemer, desto tættere nærmer den sig den mest skæbnesvangre af alle beslutninger: atomangrebet.
Selv små fejlvurderinger kan have katastrofale konsekvenser i en ophedet situation. Hvis et system opfatter en harmløs øvelse som et angreb, eller tolker en fejlaffyring som et første angreb, kan et massivt misforståelse eskalere på få minutter.
Når hele befelingskæder bygger på AI-analyser, er én enkelt systematisk fejl nok til at bringe menneskeheden til afgrundens rand.
Risikoen vokser særligt i samspillet mellem konkurrerende stormagter. USA iagttager, hvordan Rusland og Kina ligeledes investerer aggressivt i militær AI. Ingen vil acceptere en ulempe. Det øger presset for at delegere stadig flere opgaver til algoritmer – også der, hvor det er yderst følsomt.
Hvorfor AI kan være så eskalationsvillig
De testede modellers reaktioner virker umiddelbart foruroligende, men set fra systemernes perspektiv følger de en vis logik. Her er nogle af årsagerne:
- Træningsdata: Historiske dokumenter og strategipapirer om internationale kriser betoner ofte styrke og gengældelse frem for tilbageholdenhed.
- Belønningslogik: Modeller lærer at give „handlekraftige" svar, der i tekstform lyder beslutsomme og klare.
- Ingen reel risikoforståelse: Et system „mærker" ikke konsekvenserne af et atomangreb. Det kender kun papirscenarier.
- Forsimplede virkelighedsmodeller: Diplomati, mistro og indenrigspolitik afbildes kun groft af en AI.
Hertil kommer, at mange AI-modeller er designet til at nå et mål så effektivt som muligt. Hvis et system fortolker „sejr" eller „sikring af nationale interesser", kan det at gribe til det stærkeste våben fremstå som en konsekvent – ikke vanvittig – mulighed.
„Altid et menneske i løkken" – er det virkelig nok?
Politik og militær taler gerne om formlen „human in the loop" – altså et menneske, der godkender enhver kritisk AI-beslutning. På papiret lyder det som en solid sikkerhedsmekanisme.
I stressede situationer ser virkeligheden ofte anderledes ud. Krisestabe arbejder under tidspres, meldinger vælter ind, og informationsstrømmen er enorm. Når et system så blinker med en klar anbefaling på skærmen, vil mange ansvarlige have svært ved at ignorere den.
Der er en yderligere fare: Med stigende rutine distancerer mennesket sig fra den egentlige beslutning. Den, der hundredvis af gange har fulgt AI'en uden problemer, opbygger tillid – og reagerer til sidst nærmest refleksagtigt på systemets forslag.
Det store spørgsmål er ikke, om et menneske formelt har det sidste ord – men hvem der i praksis angiver retningen.
Hvad der gemmer sig bag begreber som „kommando- og kontrolstruktur"
Når eksperter taler om „kommando- og kontrolsystemer", lyder det abstrakt. Der menes det militære magts nervesystem: kommunikationslinjer, situationscentre, tidlige varslingssystemer, befelingskæder og software, der filtrerer og fortætter information.
Netop her kan enormt meget automatiseres. AI kan sortere meldinger, vurdere trusler og beregne sandsynligheder. Det lyder som effektivitet, men rummer en faldgrube: Den, der kontrollerer filtret, former billedet af situationen. Hvis filtrene er fejlbehæftede eller forudindtagede, kan generaler handle på baggrund af forvrænget information – uden at opdage det.
Hvordan risiciene kan begrænses
Fagfolk kræver nu konkrete retningslinjer for brugen af AI i militære sammenhænge. Nogle forslag dukker op igen og igen:
- Klare røde linjer: AI må ikke udstede direkte ordrer til atomvåbensystemer, hverken til aktivering eller målvalg.
- Gennemsigtige tests: Militær AI bør regelmæssigt afprøves i uafhængige simulationer med fokus på fejlreaktioner.
- Internationale aftaler: På linje med forbuddet mod visse kemiske våben kunne stater blive enige om grænser for AI-brug på det nukleare område.
- Forklarbare systemer: Beslutningstagere skal kunne forstå, hvorfor et system når frem til en bestemt anbefaling.
Alle disse tiltag kræver tid og politisk kapital. Samtidig fortsætter kapløbet om teknologisk overlegenhed – og det er præcis det, der gør advarslerne fra Stanford så brændende aktuelle.
Hvad almindelige borgere kan tage med fra debatten
Den aktuelle diskussion viser frem for alt én ting: AI er ikke en neutral „superintelligens", der hæver sig over menneskenes fejl. Det er et spejl af vores data, vores historie og vores strategier – med alle deres mørke kapitler.
Den, der satser på tekniske systemer for at træffe „bedre" beslutninger i kriser, må forstå og begrænse disse systemer meget nøje. Ellers risikerer menneskeheden at gentage velkendte fejl i en ny og endnu mere destruktiv form.
For borgerne betyder det: Debatter om AI-regulering er ikke et nicheemne for nørder og militærfolk. De handler ganske konkret om spørgsmålet om, hvem der i en nødsituation afgør, om en krise nedtrappes – eller om en algoritme foreslår en nuklear mulighed som det angiveligt logiske næste skridt.
