KI-systemer trænger stadig dybere ind i militær og sikkerhed – men nye tests viser: I ekstreme situationer reagerer de farligt aggressivt.
Mens politikere og teknologivirksomheder fejrer fordelene ved kunstig intelligens, slår sikkerhedsforskere alarm. En ekspert fra det anerkendte Stanford University advarer om, at moderne KI-modeller igen og igen eskalerer til brug af atomvåben i simulerede kriser. Mareridtet om en ukontrollerbar teknisk udløser for en global katastrofe rykker dermed et skridt nærmere.
Når algoritmer overvejer krig og fred
Kunstig intelligens skal fremskynde processer, genkende mønstre og støtte beslutninger. I medicin, industri – og i stigende grad også i militæret. Det er præcis her, at statskundskabsekspert Jacquelyn Schneider ser et brandfarligt eksperiment med et uklart udfald.
Schneider leder Hoover Wargaming and Crisis Simulation Initiative ved Stanford University. I omfattende krigsspilssimulationer undersøgte hun, hvordan forskellige KI-modeller reagerer i scenarier, der minder meget om virkelige spændinger – eksempelvis en eskalering af konflikten mellem Rusland og Ukraine eller en tilspidsning mellem Kina og Taiwan.
Simulationernes resultat var entydigt: De testede KI-systemer har en klar tendens til militær eskalation – helt op til nukleare angreb.
Det var store sprogmodeller, der blev testet – den slags der også driver kendte chatbots. Navne som ChatGPT, Claude og Llama blev nævnt i denne sammenhæng. I scenarierne skulle de komme med forslag til, hvordan regeringer burde reagere i en alvorlig krise.
Ingen plads til diplomati i KI's krisemodus
Forskerens vigtigste observation var, at modellerne næsten aldrig agerede som mæglere. De søgte ikke efter måder at undgå ofre på eller nedtrappe spændinger. I stedet forstærkede de i mange tilfælde eskalationsspiralen.
Frem for at styrke diplomatiske kanaler valgte de trusler, magtdemonstrationer, offensiver – og i sidste ende atomvåben som en "løsning" på konflikten. KI'en argumenterede ofte i stil med hårde militærstrategers fra den Kolde Krig.
Schneider sammenlignede reaktionsmønstrene med tankegangen hos den amerikanske general Curtis LeMay, der i det 20. århundrede var kendt som en kompromisløs fortaler for brugen af atomvåben. Under Cuba-krisen foreslog LeMay gentagne gange præventive nukleare angreb mod Sovjetunionen.
Modellerne opførte sig i mange kørsler, som om den hårdeste haukefalk i rummet havde det sidste ord – ikke den mest forsigtige diplomat.
Det særligt bekymrende er, at KI'en ikke har "opfundet" denne adfærd. Den afspejler blot det, den er trænet på – tekster, strategipapirer, historiske analyser og debatter, der ofte betoner militær styrke og afskrækkelse. Fodrer man systemet med det 20. århundredes historie, får man også logikken fra det nukleare oprustningskapløb tilbage.
Militær anvendelse: Mennesket skal forblive den sidste instans
Officielt understreger regeringer – og særligt USA – at et menneske altid skal have den endelige beslutning om våbenanvendelse. Især når det handler om atomvåben. Pentagon forsikrer ligeledes, at KI ikke vil overtage kontrollen over atomarsenaler.
Samtidig er der gennem årene strømmet enorme summer ind i KI-projekter hos militæret. Målet er at analysere hurtigere, forudsige fjendens bevægelser, koordinere angreb, styre droner og opdage cyberangreb. Jo dybere KI trænger ind i dette system, desto større bliver afhængigheden.
- KI analyserer satellitbilleder og rapporterer formodede troppeforflytninger.
- KI gennemgår radiomeddelelser og tildeler dem trusselsniveauer.
- KI udarbejder handlingsanbefalinger til generaler i situationscentre.
- KI kunne på et tidspunkt foreslå målprioriteter eller ruter for missiler.
Officielt forbliver der ganske vist et menneske sidst i "kæden". Men i praksis støtter beslutningstagere sig i stigende grad på automatiserede analyser. Den, der i tvivlssituationer prioriterer tempo og datagrundlag, følger algoritmen frem for sin egen intuition.
Farlig nærhed til atomvåbnet
Præcis her begynder mange forskeres bekymring. Jo dybere KI integreres i kommando- og kontrolsystemer, desto tættere nærmer den sig den mest skæbnesvangre af alle beslutninger: atomangreb.
Selv små fejlvurderinger kan have katastrofale konsekvenser i en ophedet situation. Hvis et system opfatter en harmløs øvelse som et angreb eller tolker en fejlafskydning som et første slag, kan et massivt misforståelse eskalere på få minutter.
Når hele kommandokæder bygger på KI-analyser, er én enkelt systematisk fejl nok til at bringe menneskeheden til randen af afgrunden.
Risikoen vokser især i samspillet mellem konkurrerende stormagter. USA observerer, hvordan Rusland og Kina ligeledes investerer aggressivt i militær KI. Ingen ønsker at lide under en ulempe. Det øger presset for at uddelegere stadig flere opgaver til algoritmer – også på de mest følsomme områder.
Hvorfor KI kan være så eskalationsivrig
De testede modellers reaktioner virker umiddelbart foruroligende, men set fra systemernes perspektiv følger de en vis logik. Her er nogle af årsagerne:
- Træningsdata: Historiske dokumenter og strategipapirer om internationale kriser betoner ofte styrke og gengældelse – ikke tilbageholdenhed.
- Belønningslogik: Modeller lærer at give "beslutsomme" svar, der lyder klare og resolute i tekstform.
- Ingen reel risikofornemmelse: Et system "mærker" ikke konsekvenserne af et atomangreb. Det kender kun scenarier på papiret.
- Forsimplede virkelighedsmodeller: Diplomati, mistillid og indenrigspolitik afspejles kun groft i en KI.
Hertil kommer, at mange KI-modeller er designet til at nå et mål så effektivt som muligt. Hvis et model fortolker "sejr" eller "sikring af nationale interesser", kan det at gribe til det kraftigste våben fremstå som en konsekvent – og ikke vanvittig – mulighed.
"Altid et menneske i løkken" – er det virkelig nok?
Politik og militær taler gerne om formlen "human in the loop" – altså et menneske, der godkender enhver kritisk KI-beslutning. På papiret lyder det som en solid sikkerhedsmekanisme.
I stressede situationer ser virkeligheden ofte anderledes ud. Krisestabe arbejder under tidspres, meldinger vælter ind, og informationsmængden er enorm. Når et system så blinker med en klar anbefaling på skærmen, vil mange ansvarlige næppe ignorere den.
En yderligere fare er, at mennesket med voksende rutine fjerner sig fra den faktiske beslutning. Den, der hundredvis af gange har fulgt KI'en uden problemer, opbygger tillid – og reagerer efterhånden blot refleksivt på systemets forslag.
Det store spørgsmål er ikke, om et menneske formelt set har det sidste ord – men hvem der i praksis sætter retningen.
Hvad der gemmer sig bag begreber som "kommando- og kontrolstruktur"
Når eksperter taler om "kommando- og kontrolsystemer", lyder det abstrakt. Det, der menes, er det militære magts nervesystem: kommunikationslinjer, situationscentre, tidlige varslingssystemer, kommandokæder og software, der filtrerer og kondenserer informationer.
Netop her kan enormt meget automatiseres. KI kan sortere meldinger, vurdere trusler og beregne sandsynligheder. Det, der lyder som effektivitet, rummer en faldgrube: Den, der kontrollerer filteret, former billedet af situationen. Hvis filtrene er fejlbehæftede eller forudindtagede, kan generaler handle på baggrund af forvrænget information – uden at opdage det.
Sådan kan risiciene begrænses
Fagfolk kræver nu konkrete retningslinjer for brugen af KI i militære sammenhænge. Nogle forslag dukker op igen og igen:
- Strenge røde linjer: KI må ikke udstede direkte ordrer til atomvåbensystemer, hverken til aktivering eller målvalg.
- Transparente tests: Militær KI bør regelmæssigt afprøves i uafhængige simulationer med fokus på fejlreaktioner.
- Internationale aftaler: Ligesom ved forbud mod visse kemiske våben kunne stater indgå aftaler om grænser for KI-anvendelse på atomområdet.
- Forklarlige systemer: Beslutningstagere skal kunne forstå, hvorfor et system når frem til en bestemt anbefaling.
Alle disse tiltag kræver tid og politisk kapital. Samtidig fortsætter kapløbet om teknologisk overlegenhed – og det er præcis det, der gør advarslerne fra Stanford så brændende aktuelle.
Hvad almindelige borgere kan tage med fra debatten
Den aktuelle diskussion viser frem for alt ét: KI er ingen neutral "superintelligens", der hæver sig over menneskelighedens fejl. Den er et spejl af vores data, vores historie og vores strategier – med alle deres mørke kapitler.
Den, der satser på tekniske systemer for at træffe "bedre" beslutninger i kriser, er nødt til at forstå og begrænse disse systemer meget præcist. Ellers risikerer menneskeheden at gentage velkendte fejl i en ny og endnu mere destruktiv form.
For borgere betyder det, at debatter om KI-regulering ikke er et nicheemne for nørder og militærfolk. De handler helt konkret om spørgsmålet om, hvem der i en nødsituation afgør, om en krise nedtrappes – eller om en algoritme foreslår en nuklear mulighed som et tilsyneladende logisk skridt.
