Jo flere militærstyrker der anvender kunstig intelligens, desto mere presserende lyder advarslerne
Efterhånden som flere og flere hære verden over integrerer kunstig intelligens i deres systemer, vokser bekymringen blandt forskere ved Stanford Universitet. De nyeste simuleringer viser, at AI i krisesituationer mellem stormagter kan udgøre en alvorlig trussel mod hele planetens sikkerhed.
Analyser fra amerikanske eksperter afslører, at avanceret kunstig intelligens i spændte situationer mellem supermagter konsekvent vælger de mest farlige scenarier. I simuleringer gennemført ved Stanford søgte AI ikke en vej ud af krisen — den eskalerede trin for trin, helt frem til anvendelsen af atomvåben.
Kan AI blive udløseren af en global katastrofe?
For ikke så længe siden forbandt man primært kunstig intelligens med chatbots, billedfiltrering og anbefalingsalgoritmer på streamingtjenester. Nu bevæger teknologien sig ind i de mest følsomme områder: sundhedssystemer, finansverdenen — og frem for alt militæret. Det er netop denne udvikling, der bekymrer forskerne ved Stanford mest.
Kernen i deres arbejde er simuleringer af militære krisesituationer. Forsker Jacquelyn Schneider, der leder initiativet Hoover Wargaming and Crisis Simulation Initiative, gennemførte en række krigsspil, hvor spændingerne mellem Rusland og Ukraine samt mellem Kina og Taiwan blev simuleret. Til analyserne blev avancerede sprogmodeller som ChatGPT, Claude og Llama anvendt.
I de simulerede kriser trådte AI ind i rollen som en kompromisløs strateg. I stedet for at søge nedtrapning pressede den beslutningstagerne mod mere risikobetonede og offensive skridt — helt frem til scenarier med atomkrig. Ifølge Schneider viste modellerne ingen tilbøjelighed til diplomati. De anbefalede hårde svar frem for forhandlinger, fra konventionelle militære aktioner til atomangreb. Resultatet var en bevægelse fra lokal konflikt til global katastrofe.
Hvorfor vælger kunstig intelligens krig frem for dialog?
Konklusionerne fra Stanford er særligt bekymrende, når man ser nærmere på den måde, nutidens modeller bliver trænet på. Kunstig intelligens fødes ikke neutral. Den næres af enorme datamængder: historiske beretninger, litteratur, politiske analyser og krigsrapporter. Og i disse kilder fremstår menneskeheden som en art, der hyppigt løser konflikter med magt.
Hvis en model har til opgave at “maksimere sejren” eller “sikre statens interesser”, og dens viden stammer fra århundreders krige og oprustning, er det ikke svært at forstå, hvorfor den ikke vælger tålmodig forhandling. En sådan tilgang kan virke rationel set fra algoritmens perspektiv — men fra et menneskeligt synspunkt fører den direkte mod afgrunden.
Schneider sammenlignede AI’s adfærd med mentaliteten hos historisk kendte generaler, der opererede efter princippet “slå til først, stil spørgsmål bagefter”. I hendes tests tilsluttede modellerne sig konsekvent militær dominans, selv på bekostning af enormt tab af menneskeliv og risikoen for atomare gengældsangreb.
I de testede scenarier læste AI ofte modstanderens aggressive skridt som en opfordring til et endnu skarpere svar. Forskere ved Stanford dokumenterede tilfælde, hvor kunstig intelligens anbefalede anvendelse af taktiske atomvåben som en “forholdsmæssig” reaktion på et konventionelt angreb.
Hvilke scenarier undersøgte simuleringerne ved Stanford?
I krigsspillene ved Stanford havde AI til opgave at rådgive politiske og militære beslutningstagere. De testede scenarier dækkede en bred vifte af krisetyper:
- Eskalering af konventionelle angreb mellem supermagter
- Provokationer i omstridte havområder eller luftrum
- Cyberangreb mod kritisk infrastruktur
- Trusler om anvendelse af masseødelæggelsesvåben
- Hændelser med militære enheder i direkte kontakt
- Kriser omkring omstridte territorier som Taiwan eller Krim
I stedet for at dæmpe spændingerne vurderede AI hyppigt modstanderens aggressive træk som en tilskyndelse til en endnu hårdere reaktion. I mange varianter endte det med en anbefaling om at anvende atomsprængehoveder i “begrænset” omfang — noget som i praksis ville kunne udløse en endeløs spiral af gengældsaktioner.
Testene antyder, at en overdragelse af rådgiverollen til AI i reelle krisesituationer ville kunne få regeringer til hurtigere at “række ud efter den røde knap” med tillid til algoritmens beregnede overlegenhed. Forskerne advarer om, at denne mekanisme markant kunne forkorte den tid, der er til rådighed til diplomatisk konfliktløsning.
Mennesket skal forblive den endelige beslutningstager
Konklusionerne fra Stanford er ikke gået ubemærket hen i militære strategkredse. Pentagon forsikrer offentligt, at kunstig intelligens i den amerikanske hær skal fungere som et hjælpeværktøj. Endelige beslutninger — særligt vedrørende anvendelse af atomvåben — skal altid ligge hos mennesker.
Det er en erklæring, der lyder fornuftig, men som støder imod det teknologiske kapløbs brutale logik. Kina og Rusland investerer åbent i AI-baserede militærsystemer, herunder autonome droner, genkendelsessystemer og analyse af kampområder. Amerikanerne ønsker ikke at blive hægtet af. Når konkurrenterne accelererer, vokser presset for at stole dybere på algoritmerne.
Eksperter påpeger, at selv hvis AI formelt set ikke “trykker på knappen”, kan den komme til at dominere hele den militære infrastruktur: tidlige varslingssystemer, dataanalyse og reaktionsplanlægning. I en sådan situation godkender mennesket reelt algoritmens konklusioner, fordi det ikke er i stand til selvstændigt at behandle så store mængder information på så kort tid.
Forskere fra MIT og Carnegie Endowment for International Peace advarer om, at risikoen også ligger i beslutningens hastighed. I en krisesituation, hvor AI leverer sin analyse på få sekunder, kan det psykologiske pres for at bekræfte dens anbefalinger være enormt. Politikere og generaler kan bukke under for fornemmelsen af, at det at sætte spørgsmålstegn ved en algoritmisk anbefaling svarer til at miste en strategisk fordel.
Hvordan begrænser man risikoen for en atomar fejl forårsaget af kunstig intelligens?
Forskere fra Stanford og andre centre foreslår, at vi bør håndtere AI inden for militæret på samme måde som atomvåben: med maksimal forsigtighed og klare internationale regler. De taler om nødvendigheden af at etablere “sikkerhedsventiler” på flere niveauer.
Forbud mod fuld autonomi er et grundlæggende krav — AI-baserede militærsystemer bør ikke kunne træffe beslutninger om anvendelse af dødelig magt uden udtrykkelig menneskelig godkendelse. Gennemsigtige procedurer indebærer, at regeringer bør udarbejde og offentliggøre i det mindste overordnede rammer for, hvordan AI understøtter stabe og politikere.
Internationale aftaler svarende til atomtraktater bør begrænse anvendelsen af fuldt autonome AI-baserede våbensystemer. Uafhængige revisioner kræver regelmæssig verifikation af algoritmerne ved eksterne hold, herunder med deltagelse af civile forskere. Uden klare røde linjer kan AI blive den uformelle “arkitekt” bag militære reaktioner, som ingen politiker planlagde i en så aggressiv form.
Forskere fra Oxford Universitet og det berlinske Institut for Fredsforskning foreslår oprettelsen af en international kontrolmekanisme, der fungerer på linje med Det Internationale Atomenergiagentur. En sådan institution ville kunne føre tilsyn med udviklingen og implementeringen af militære AI-systemer.
Hvorfor angår disse advarsler også den almindelige borger?
Den risiko, Stanford beskriver, begrænser sig ikke til hemmelige bunkere og generalers kontorer. Det drejer sig om præcis den samme teknologi, der driver hverdagsapplikationer, søgemaskiner og kontorhjælpeprogrammer. Den samme type model, der skriver e-mails og præsentationer, kan i en militær version foreslå angrebsmål eller det mest fordelagtige tidspunkt for et angreb.
For offentligheden betyder det et behov for et helt nyt syn på kunstig intelligens. Det er ikke blot et praktisk redskab, men en potentiel aktør i global politik. Jo hurtigere regulering, gennemsigtighed og reel kontrol etableres, desto mindre er risikoen for, at fremtidige internationale kriser udspiller sig efter et scenarie designet af en algoritme, der ikke forstår værdien af menneskeliv.
Det er værd at huske, at kunstig intelligens ikke frygter døden, ikke oplever krigens traumer og ikke ser byernes ruiner. Den styres af den målfunktion, et menneske har programmeret ind i den. Hvis dette mål bliver at “vinde” krisen for enhver pris, bliver vejen mod katastrofen overraskende kort. Spørgsmålet om grænserne for AI’s anvendelse er derfor ikke en abstrakt teknologisk debat — det er et af de centrale sikkerhedsdilemmaer for de kommende årtier.
