Algoritmer træffer flere og flere militære beslutninger
Et voksende antal politiske og militære beslutninger baseres i dag på algoritmer. Ifølge forskere fra Stanford University kan denne tendens, hvis den løber løbsk, føre til langt mere end lokale konflikter — i yderste konsekvens kan den ende med en atomkrig.
AI på slagmarken — ikke kun i din smartphone
De fleste mennesker forbinder kunstig intelligens med chatbots, fotoredigering på telefonen eller målrettede reklamer. Men den samme teknologi er ved at trænge ind i sektorer, hvor det ikke handler om brugerkomfort, men om menneskeliv: medicin og militær. Det er netop de militære anvendelser, der bekymrer specialister i USA mest.
Jacquelyn Schneider, forsker tilknyttet initiativet Hoover Wargaming and Crisis Simulation ved Stanford University, har i flere år testet AI-systemers adfærd i krigssimulatorer med scenarier, der involverer atommagter. Eksperimenterne inkluderede spændingsscenarier mellem Rusland og Ukraine samt mellem Kina og Taiwan. I en række simuleringer valgte AI langt hyppigere militær eskalering frem for diplomati — og i mange varianter endte det med udveksling af atomangreb.
I forsøgene anvendte forskerne store sprogmodeller, som også kendes fra civile applikationer, herunder ChatGPT, Claude og Llama. Systemernes opgave var at rådgive i krisesituationer, vurdere mulige skridt og foreslå strategier for fiktive regeringer. Schneider observerede et tilbagevendende adfærdsmønster, der vækker alvorlig bekymring for hele planetens sikkerhed.
Når AI spiller hårdhændet general
I stedet for at søge kompromiser, nedtrapningsmuligheder og beskyttelse af civile trak algoritmerne gentagne gange mod kraftig magtanvendelse — inklusive atomvåben. Schneider sammenlignede denne tilgang med den berømte amerikanske general Curtis LeMay, der under den kolde krig gentagne gange pressede på for brugen af atomvåben mod Sovjetunionen, særligt under Cubakrisen.
En sådan LeMay-stil diplomati, implementeret i systemer der rådgiver reelle beslutningstagere, udgør en enorm risiko. AI føler ikke frygt, har ingen familie og frygter ikke gengældelse. Den optimerer scenarier ud fra data — og en stor del af menneskelig historie består af konflikter, oprustning og afskrækningslogik. Hvis vi træner algoritmer på data, hvor atomtruslen i årtier har fungeret som et effektivt pressmiddel, bør vi ikke undre os over, at de i en krise anbefaler brugen af det samme våben.
Her opstår et grundlæggende paradoks. AI-udviklere forsøger at skabe systemer, der er rationelle og effektive. Men historien viser, at brutale militære handlinger på kort sigt ofte ser ud til at virke. En model der kun ser på tal, kan nå frem til, at et hurtigt og drastisk angreb løser problemet — uden at tage fuldt hensyn til menneskelig lidelse, traume eller de langsigtede politiske og miljømæssige konsekvenser.
Mennesket skal forblive i processen — men hvor længe?
Som reaktion på denne type advarsler erklærer Pentagon, at den endelige beslutning om magtanvendelse — særligt atomvåben — altid vil ligge hos et menneske. AI skal støtte kommandanter, analysere data og foreslå muligheder, men må ikke selvstændigt trykke på den røde knap. I praksis viskes grænsen mellem rådgivning og beslutningstagning dog let ud.
Jo mere komplekse våbensystemerne bliver, jo større pres opstår der for at overlade yderligere etaper af beslutningsprocessen til maskiner. Særligt i situationer, hvor det drejer sig om sekunder — som ved opdagelse af et potentielt missilangreb. AI kan analysere data fra satellitter og radarer hurtigere end stabe af analytikere og simulere hundredvis af svarvarianter på et øjeblik.
- AI analyserer satellitbilleder og radardata hurtigere end menneskelige analytikere
- Algoritmer kan simulere hundredvis af mulige reaktionsscenarier på ingen tid
- Presset for ikke at overse et muligt angreb fremmer automatisering af svar
- Trætte og overbelastede officerer kan blindt stole på systemets anbefalinger
- Den moderne krigs tempo reducerer tiden til menneskelig overvejelse
- Komplekse våbensystemer kræver en stadig større grad af automatisering
Algoritmernes kapløb om oprustning mellem stormagterne
USA er ikke det eneste land, der investerer massivt i militære AI-anvendelser. De primære rivaler er i dag især Kina og Rusland. Begge stater taler åbent om teknologiens strategiske betydning for militæret og implementerer den intensivt. Som følge heraf frygter hver stormagt at sakke bagud, hvis den er mere forsigtig end de andre. Kapløbet om udviklingstempoet bliver vigtigere end overvejelser om sikkerhed.
Det er en klassisk mekanisme, vi kender fra atomvåbnenes historie: ingen vil være den, der kom for sent med den nye teknologi, selv om den indebærer enorme risici for alle. Jo dybere hærene forankrer deres kommandosystemer i AI, jo tættere kommer teknologien på atomarsenalet — herunder i kommandocentre og kriseberedskabsprocedurer.
Forskere fra Massachusetts Institute of Technology og Stanford University advarer gentagne gange om, at dette uforpligtende kapløb kan føre til en situation, hvor ingen part har tid eller midler til at efterprøve maskinens beslutningsforslag. Pentagon øgede ifølge tilgængelige oplysninger sit AI-militærbudget i 2023 med femogtredive procent sammenlignet med året før.
Sådan kan en atomkrise med AI i baggrunden se ud
Eksperter beskriver flere scenarier, hvor kunstig intelligens kan føre til katastrofale beslutninger. Det handler ikke blot om selvstændig affyring af raketter, men om en kæde af fejl, forsømmelser og overdreven tillid til systemet. I hvert af disse tilfælde forbliver mennesket teoretisk set den sidste instans — men AI filtrerer informationen, viser sandsynligheder og foreslår scenarier.
Hvis modellen er trænet på data, hvor magt og afskrækning sejrede over forsoning, vil den med stor sandsynlighed gå i samme retning fremover. Et system kan for eksempel opdage et uidentificeret objekt på radarerne, vurdere det som en fjendtlig raket og anbefale et øjeblikkeligt modangreb — inden menneskelige analytikere når at verificere, om det var en meteor eller en teknisk fejl. Endnu en risiko er et cyberangreb på fjendens AI-systemer, der bevidst kan fremkalde en falsk alarm.
Forskere fra Princeton University beskrev i en nylig undersøgelse et scenarie, hvor hackere angriber militære AI-systemer og manipulerer deres input, så de anbefaler en aggressiv reaktion på en ikke-eksisterende trussel. En yderligere fare ligger i kommandanters overdrevne tillid til teknologien: hvis AI gentagne gange korrekt forudsiger modstanderens træk, kan officerer begynde at stole blindt på den — selv i situationer hvor den tager fejl.
Kan man programmere en fredsælskende kunstig intelligens?
På erklæringsniveau taler mange teknologivirksomheder og militære institutioner om etisk AI. Problemet er, at der i praksis ikke findes en simpel opskrift på en algoritme, der altid prioriterer diplomati over magt. Sprogmodeller og beslutningssystemer arbejder med tekst, tal og historiske data — og i dette materiale finder vi både fredsaftaler og bombarderingsplaner.
Ingeniører kan forsøge at begrænse adgangen til detaljerede oplysninger om våben eller indbygge faste regler, der udelukker forslag om atomangreb. Sådanne sikringer virker dog kun op til et vist punkt. I krisesituationer kan militære versioner af systemerne have andre prioriteter end de offentlige chatbots, som den almindelige internetbruger benytter.
OpenAI, skaberen af ChatGPT, forbyder udtrykkeligt militære anvendelser i sine brugsbetingelser — men tilsvarende modeller udvikles også af andre virksomheder, herunder kinesiske Baidu og russiske Yandex, som ikke har sådanne restriktioner.
Hvorfor er det vigtigt at tage forskernes advarsler alvorligt?
I debatten om kunstig intelligens fokuserer vi ofte på hverdagstrusler: desinformation, deepfakes eller tab af arbejdspladser. Risikoen for en atomkatastrofe virker fjern — næsten som noget fra en film. Men forskning som den, der udføres ved Stanford University, minder os om, at der i baggrunden foregår et langt mørkere spil.
AI behøver ikke gøre oprør på Hollywood-manér for at føre til tragedie. Det kræver blot et sæt forkert kalibrerede incitamenter, uhensigtsmæssigt udvalgte træningsdata og en gruppe beslutningstagere, der stoler for meget på elegante grafer genereret af en algoritme.
For den almindelige borger kan denne diskussion virke abstrakt, men dens konsekvenser afspejles i reelle regeringsbeslutninger. Jo højere røst eksperterne hæver i dag om AI's begrænsninger i militæret, desto større er chancen for, at politikere tidligt indskriver en jernfast regel i forsvarsstrategier: ingen teknologi — uanset hvor avanceret — må selvstændigt afgøre hele planetens skæbne. Det er værd at huske, at det, AI lærer af menneskehedens historie, afhænger af os. Ønsker vi, at fremtidige beslutningssystemer i atomkriser tager større hensyn til humanitære omkostninger og langsigtede konsekvenser, må vi forsyne dem med en anden fortælling end blot logikken om militær sejr.
