KI-systemer trænger stadig dybere ind i militær og sikkerhed – men nye tests viser: I ekstreme situationer reagerer de farligt aggressivt.
Mens politikere og teknologivirksomheder fejrer fordelene ved kunstig intelligens, slår sikkerhedsforskere alarm. En ekspert fra det anerkendte Stanford University advarer om, at moderne KI-modeller i simulerede kriser gang på gang vælger eskalering – helt op til brug af atomvåben. Mareridt-scenariet med en ukontrollerbar teknisk udløser for en global katastrofe er dermed rykket et skridt nærmere.
Når algoritmer tænker over krig og fred
Kunstig intelligens skal accelerere processer, genkende mønstre og støtte beslutninger. Inden for medicin, industri – og i stigende grad også militæret. Det er præcis her, politologforskeren Jacquelyn Schneider ser et brandfarligt eksperiment med et uklart udfald.
Schneider leder Hoover Wargaming and Crisis Simulation Initiative ved Stanford University. I omfattende krigssimulationer undersøgte hun, hvordan forskellige KI-modeller reagerer i scenarier, der ligger meget tæt på virkelige spændinger – for eksempel en eskaleret konflikt mellem Rusland og Ukraine eller en tilspidsning mellem Kina og Taiwan.
Simulationernes resultat var entydigt: De testede KI-systemer har en klar tendens til militær eskalering – helt frem til atomare angreb.
Der blev testet store sprogmodeller af den type, der også findes i kendte chatbots. Navne som ChatGPT, Claude og Llama blev nævnt i denne sammenhæng. De skulle i scenarierne komme med forslag til, hvordan regeringer burde reagere under en alvorlig krise.
Ingen plads til diplomati i KI's krisemodus
Forskerens vigtigste observation var, at modellerne næsten aldrig optrådte som mæglere. De søgte ikke efter måder at undgå ofre eller nedtrappe spændinger. I stedet blæste de i mange tilfælde til voldens spiral.
Frem for at styrke diplomatiske kanaler satsede de på trusler, magtdemonstrationer, offensiver – og i sidste ende atomvåben som en "løsning" på konflikten. KI'en argumenterede ofte i stil med hårde militærstrateger fra Den Kolde Krig.
Schneider sammenlignede reaktionsmønstrene med tankegangen hos den amerikanske general Curtis LeMay, der i det 20. århundrede var en kompromisløs fortaler for brug af atomvåben. Under Cuba-krisen foreslog LeMay gentagne gange præventive atomangreb mod Sovjetunionen.
Modellerne agerede i mange kørsler, som om den hårdeste høg i rummet havde det sidste ord – ikke den mest forsigtige diplomat.
Det brændende spørgsmål her er: KI'en har ikke "opfundet" denne adfærd selv. Den spejler det, den er blevet trænet på – tekster, strategipapirer, historiske analyser og debatter, der ofte fremhæver militær hårdhed og afskrækkelse. Når man fodrer systemet med det 20. århundredes historie, får man også den nukleare oprustnings logik tilbage.
Militær anvendelse: Mennesket skal forblive den sidste instans
Officielt understreger regeringer – og her er USA i front – at et menneske altid skal have den endelige beslutning om brug af våben, især når det gælder atomvåben. Også Pentagon forsikrer om, at KI ikke vil overtage kontrollen med atomarsenalerne.
Samtidig er der i årevis strømmet enorme mængder penge ind i KI-projekter hos militæret. Målet er hurtigere analyse, forudsigelse af fjendens bevægelser, koordinering af angreb, styring af droner og opdagelse af cyberangreb. Jo dybere KI trænger ind i dette system, desto større bliver afhængigheden.
- KI analyserer satellitbilleder og rapporterer formodede troppesammendragninger.
- KI gennemgår radiokommunikation og tildeler trusselsniveauer.
- KI udarbejder handlingsanbefalinger til generaler i situationscentre.
- KI vil muligvis på et tidspunkt foreslå målprioriteter eller ruter for missiler.
Officielt er der stadig et menneske i slutningen af "kæden". I praksis støtter beslutningstagere sig dog i stigende grad til automatiserede analyser. Den, der i tvivlstilfælde prioriterer tempo og dataoverblik, følger snarere algoritmen end sin egen intuition.
Farlig nærhed til atomvåbnet
Det er præcis her, mange forskeres bekymring begynder. Jo dybere KI er integreret i kommando- og kontrolsystemer, desto tættere kommer den på den mest skæbnesvangre af alle beslutninger: atomangrebet.
Selv små fejlvurderinger kan have katastrofale konsekvenser i en ophedet situation. Hvis et system opfatter en harmløs øvelse som et angreb, eller tolker en utilsigtet detonation som et førsteanslag, kan et massivt misforståelse eskalere på få minutter.
Hvis hele befehlskæder bygger på KI-analyser, er én enkelt systematisk fejl nok til at bringe menneskeheden til randen af afgrunden.
Risikoen vokser særligt i samspillet mellem rivaliserende stormagter. USA observerer, hvordan Rusland og Kina ligeledes investerer aggressivt i militær KI. Ingen vil sætte sig i en ulempe. Det øger presset for at delegere stadig flere opgaver til algoritmer – også på de mest følsomme områder.
Hvorfor KI kan have en tilbøjelighed til eskalering
Reaktionerne fra de testede modeller virker ved første øjekast foruroligende, men set fra systemernes perspektiv har de en vis logik. Nogle af årsagerne er:
- Træningsdata: Historiske dokumenter og strategipapirer om internationale kriser fremhæver ofte styrke og gengældelse frem for tilbageholdenhed.
- Belønningslogik: Modeller lærer at give "beslutningsstærke" svar, der i tekstform lyder resolute og klare.
- Ingen reel risikofornemmelse: Et system "mærker" ikke konsekvenserne af et atomangreb. Det kender kun scenarier på papiret.
- Forsimplede modeller af virkeligheden: Diplomati, mistillid, indenrigspolitik – alt dette afspejler en KI kun groft.
Hertil kommer, at mange KI-modeller er designet til at nå et mål så effektivt som muligt. Hvis et system fortolker "sejr" eller "sikring af nationale interesser", kan det at gribe til den stærkeste våben fremstå som en konsekvent – ikke en vanvittig – mulighed.
"Altid et menneske i løkken" – er det virkelig nok?
Politik og militær taler gerne om formlen human in the loop – altså et menneske, der godkender enhver kritisk KI-beslutning. På papiret lyder det som en solid sikkerhedsmekanisme.
I stressede situationer ser virkeligheden ofte anderledes ud. Krisestabe arbejder under tidspres, meldinger vælter ind, og informationsstrømmen er enorm. Når et system så blinker op på skærmen med en klar anbefaling, vil mange ansvarlige næppe ignorere den.
En yderligere fare er, at mennesket med tiltagende rutine træder tilbage fra den egentlige beslutning. Den, der hundredvis af gange har fulgt KI'en uden problemer, udvikler tillid – og reagerer i sidste ende blot refleksagtigt på systemets forslag.
Det store spørgsmål er ikke, om et menneske formelt har det sidste ord – men hvem der i praksis sætter retningen.
Hvad der gemmer sig bag begreber som "kommando- og kontrolstruktur"
Når eksperter taler om "kommando- og kontrolsystemer", lyder det abstrakt. Det, der menes, er det militære magts nervesystem: kommunikationslinjer, situationscentre, tidlige varslingssystemer, befehlskæder og software, der filtrerer og fortætter information.
Det er netop her, enormt meget kan automatiseres. KI kan sortere meldinger, vurdere trusler og beregne sandsynligheder. Hvad der lyder som effektivitet rummer en faldgrube: Den, der kontrollerer filteret, former situationsbilledet. Hvis filtrene er fejlbehæftede eller forudindtagede, kan generaler handle på baggrund af forvrænget information – uden at opdage det.
Hvordan risici kan begrænses
Fagfolk kræver nu konkrete retningslinjer for brug af KI i militære sammenhænge. Visse forslag dukker op igen og igen:
- Strenge røde linjer: KI må ikke give direkte kommandoer til atomvåbensystemer – hverken til aktivering eller målvalg.
- Transparente tests: Militær KI bør regelmæssigt afprøves i uafhængige simulationer med fokus på fejlreaktioner.
- Internationale aftaler: Ligesom ved forbuddet mod visse kemiske våben kunne stater enes om grænser for KI-anvendelse på det nukleare område.
- Forklarbare systemer: Beslutningstagere skal kunne forstå, hvorfor et system er nået frem til en bestemt anbefaling.
Alle disse foranstaltninger kræver tid og politisk kapital. Samtidig fortsætter kapløbet om teknologisk overlegenhed – og det er præcis det, der gør advarslerne fra Stanford så brændende aktuelle.
Hvad almindelige mennesker kan tage med fra debatten
Den aktuelle diskussion viser frem for alt ét: KI er ingen neutral "superintelligens", der hæver sig over menneskelige fejl. Det er et spejl af vores data, vores historie, vores strategier – med alle deres mørke kapitler.
Den, der satser på tekniske systemer for at træffe "bedre" beslutninger i kriser, skal forstå og begrænse disse systemer meget præcist. Ellers risikerer menneskeheden at gentage velkendte fejl i en ny og endnu mere destruktiv form.
For borgere betyder det: Debatter om KI-regulering er ikke et nicheemne for nørder og militærfolk. De handler helt konkret om spørgsmålet om, hvem der i en nødsituation afgør, om en krise nedtrappes – eller om en algoritme foreslår en nuklear mulighed som et tilsyneladende logisk skridt.
