En aftale der satte hele AI-branchen i brand
På få dage stod hele AI-industrien og så til, mens spørgsmålet om militær anvendelse af kunstig intelligens fik brugerne til at koge over. OpenAI underskrev først en aftale med det amerikanske forsvarsministerium – og reviderede den i hast, da statistikker over afinstallationer af ChatGPT skød op med næsten tre hundrede procent.
Da de første meldinger om samarbejdet mellem store AI-firmaer og Pentagon dukkede op i begyndelsen af marts, ventede de færreste en så voldsom reaktion fra offentligheden. På blot én weekend forvandlede ChatGPT sig i mange brugeres øjne fra en pålidelig assistent til et redskab forbundet med militærmaskineriet. Ifølge analysedata fra firmaet Sensor Tower steg antallet af daglige afinstallationer af ChatGPT-appen med to hundrede og femoghalvfems procent sammenlignet med det normale niveau. Denne eskalering tvang ledelsen i OpenAI til ekstraordinære skridt og offentlige undskyldninger.
Eksperter fra Center for American Progress påpeger, at konflikten mellem tech-giganterne og Pentagon afslører et grundlæggende problem i den nuværende AI-udvikling. Private virksomheder er i realiteten ved at fastlægge etiske grænser helt uden en klar lovgivningsmæssig ramme. Mariarosaria Taddeo fra Oxford University advarer om, at når den mest forsigtige aktør som Anthropic forlader forhandlingsbordet, lider sikkerheden i hele økosystemet. For dig som bruger betyder det, at beslutninger truffet nu i Washington og Silicon Valley vil påvirke funktionerne i dine apps om bare få år.
Hvor Anthropics hårde afvisning og Pentagons vrede startede
Hele historien begyndte med firmaet Anthropic, skaberen af sprogmodellen Claude, som modtog et lignende samarbejdstilbud. Pentagon ønskede at integrere deres AI i systemer, der i realtid kunne analysere enorme datamængder – fra satellitbilleder over efterretningsrapporter til sensordata fra kampzoner. Målet var at accelerere kommandørernes beslutningstagning direkte på slagmarken og forsyne dem med anbefalinger baseret på maskinbehandling af information.
For Anthropic udgjorde to etiske grænser en absolut begrænsning. For det første må modellen Claude ikke understøtte udviklingen af fuldt autonome våbensystemer – altså systemer, hvor en maskine uden menneskelig kontrol beslutter om magtanvendelse. For det andet må Claude ikke deltage i masseovervågning af almindelige borgere på amerikansk territorium. Disse betingelser satte tydeligt beskyttelsen af menneskerettigheder over armeens strategiske interesser.
Set fra militærplanlæggernes perspektiv viste begge betingelser sig som uacceptable. Ifølge presseoplysninger satte Donald Trumps administration Anthropic på en sortliste over enheder, der blev nægtet adgang til offentlige kontrakter. Firmaet havde opbygget et ry som en kompromisløst etisk virksomhed – men mistede et potentielt lukrativt marked. Dario Amodei, administrerende direktør i Anthropic, forsvarer det offentligt som en strategi for langsigtet ansvarlighed.
Situationen kompliceres af, at Claude ifølge mediekilder alligevel anvendes i operationer forbundet med spændingerne mellem USA, Israel og Iran – på trods af den formelle blokering af firmaet i udbudsprocedurer. Pentagon har ikke kommenteret disse påstande, hvilket efterlader mange spørgsmål ubesvarede. Taddeo bemærker hertil, at en sådan situation blot bekræfter behovet for gennemsigtig regulering på Kongres-niveau.
Hvordan OpenAI underskrev det, Anthropic afviste
Den fredag, hvor det stod klart, at Anthropic trådte ud af spillet, underskrev OpenAI en aftale, der i praksis fyldte det hul, som konkurrenten efterlod. ChatGPT skulle rette sig mod forsvarsapplikationer, og aftalens detaljer forblev delvist hemmeligholdte. Sam Altman, administrerende direktør i OpenAI, offentliggjorde dagen efter en erklæring, hvori han hævdede, at de forhandlede beskyttelsesforanstaltninger angiveligt var endnu strengere end dem, Anthropic havde været villig til at acceptere.
Denne meddelelse skulle beskytte firmaet mod kritik, men hos mange fremstod den som et forsøg på at udnytte rivalens principfasthed. På de sociale medier dukkede der straks op anklager om forræderi mod erklærede værdier og om at sælge sig til militærkontrakter. Hashtagget CancelChatGPT voksede hurtigt i styrke, og aktivistiske brugere begyndte at organisere en boykot af OpenAIs produkter.
Brugernes reaktion var lynhurtig og hård. Data fra Sensor Tower viste, at den gennemsnitlige daglige afinstallationsrate for ChatGPT-appen steg med to hundrede og femoghalvfems procent sammenlignet med det typiske niveau. På få dage forvandlede ChatGPT sig fra et symbol på ansvarlig AI til et redskab forbundet med krigsindutrien. Analytikere fra tech-medierne konstaterede enstemmigt, at OpenAI ikke havde oplevet en tilsvarende negativ bølge, ikke engang under tidligere kontroverser om licensstridigheder.
Altman trådte mandag frem med en offentlig undskyldning og indrømmede, at kommunikationen havde været forhastet og uforberedt. Han lovede en revision af vilkårene i kontrakten med forsvarsministeriet og forsikrede om, at firmaet tager AI’s værdier alvorligt. Ifølge eksperter i krisekommunikation var der tale om et typisk skridt, efter at krisen var løbet løbsk. Altman måtte erkende, at kontraktens økonomiske tiltrækningskraft på det tidspunkt havde vejet tungere end en omhyggelig offentlig debat.
Hvilke konkrete ændringer OpenAI lovede i kontrakten
Under pres fra offentligheden og en voksende boykot tilføjede OpenAI flere meget specifikke bestemmelser til kontrakten. De vigtigste vedrører overvågning af amerikanske borgere og efterretningstjenesternes adgang til modellerne. Firmaets ledelse hævder ganske vist, at heller ikke den oprindelige version tillod sådanne overskridelser, men eksplicitte formuleringer i teksten skal berolige kritikerne.
De vigtigste ændringer omfatter:
- et udtrykkeligt forbud mod bevidst brug af OpenAIs systemer til overvågning af borgere i USA
- blokering af automatisk adgang for efterretningsagenturer som NSA uden en separat offentligt godkendt kontraktændring
- en erklæring om, at AI skal støtte analytikere, men ikke erstatte mennesket i beslutninger om magtanvendelse
- regelmæssige revisioner af modelimplementeringen under tilsyn af uafhængige eksperter
- gennemsigtig rapportering om de typer opgaver, ChatGPT udfører i forsvarsektoren
- retten for OpenAI til ensidigt at opsige kontrakten, hvis de etiske principper overtrædes
Det er en delvis tilnærmelse til Anthropics tilgang, men forskellen forbliver synlig. Anthropic valgte hellere at give afkald på kontrakterne end at give efter for Pentagons krav. OpenAI valgte vejen med tilføjede begrænsninger og opretholdelse af samarbejdet. Ifølge Taddeo fra Oxford University fungerer en sådan strategi kun, når der eksisterer et uafhængigt kontrolorgan, der er i stand til at verificere overholdelsen af løfterne.
Lignende debatter foregår i Europa, hvor Europa-Parlamentet forbereder en forordning om kunstig intelligens kendt som AI Act. Lovgivere i Bruxelles foreslår en risikoklassificering af applikationer og forbud mod visse anvendelser inden for masseovervågning. Repræsentanter for NATO understreger samtidig, at mennesket formelt altid forbliver i beslutningssløjfen i nuværende systemer – men at det psykologiske pres for at acceptere AI’s anbefalinger vokser i takt med dens sofistikering.
Hvorfor militæret interesserer sig så stærkt for kunstig intelligens
I baggrunden for hele striden ligger en bredere vision for moderne væbnede styrker. Platforme udviklet af eksempelvis firmaet Palantir integrerer allerede nu data fra mange kilder – sensorer, droner, satellitter og efterretningsrapporter – og præsenterer dem for kommandører i form af færdige anbefalinger. Ifølge repræsentanter for forsvarsindustrien giver sådanne systemer mulighed for hurtigere reaktion på trusler og koordinering af enheder i realtid.
Generativ AI tilbyder endnu en dimension af kapaciteter. ChatGPT kan hurtigt aggregere tekstrapporter på forskellige sprog, identificere nøgleinformation og foreslå scenarier for den videre situationsudvikling. Militæret forventer sig af disse redskaber en acceleration af beslutningsprocesserne og en reduktion af den kognitive belastning hos kommandører, der er oversvømmet med information fra snesevis af kanaler.
Her opstår imidlertid en grundlæggende spænding mellem fordel og risiko. Generative modeller lider af såkaldte hallucinationer og er i stand til at producere urigtige oplysninger med fuld overbevisning om deres rigtighed. I civile applikationer ender det på det værste med et pinligt svar i en chat. På slagmarken kan en sådan fejl betyde uskyldige menneskers død eller en eskalering af konflikter baseret på falske data.
Forskere fra Massachusetts Institute of Technology offentliggjorde for nylig en undersøgelse om store sprogmodellers pålidelighed i kritiske situationer. De fandt, at fejlraten stiger ved arbejde med ufuldstændige eller modstridende informationer – præcis de betingelser, der er typiske for militære operationer. Studiets forfattere anbefaler flertrins kontrol af output og væsentlige investeringer i systemernes forklarbarhed, inden de tages i brug i kampsituationer.
Hvordan Claude drager fordel af ChatGPT-krisen
Mediestormen udløste en øjeblikkelig effekt på app-markedet. Da brugerne afinstallerede ChatGPT, søgte mange af dem efter et alternativ. Det naturlige valg blev netop Claude – modellen, hvis producent var gået i åben konfrontation med Pentagon. OpenAIs krisehåndtering byggede i praksis en gratis markedsføringskampagne for Anthropic op om ét enkelt budskab: vi gav ikke efter.
Data fra App Store viser, at Claude-appen lørdag sprang til førstepladsen på downloadlisterne og holdt den position mindst frem til torsdag. Amerikanske medier skriver, at Claude overgik ChatGPT i antallet af nye installationer – noget der for blot få uger siden virkede urealistisk. Dario Amodei ønsker ganske vist ikke offentligt at drage fordel af konkurrentens problemer, men tallene taler deres tydelige sprog.
På de sociale medier startede en organiseret pressekampagne rettet mod OpenAI. Hashtagsene CancelChatGPT og QuitGPT blev populære, idet de opfordrede til permanent at forlade firmaets produkter, så længe det samarbejdede med militæret. Nogle aktivistbevægelser ser det som en prøve på, om brugerpres reelt kan ændre AI-giganternes adfærd.
Eksperter i virksomhedsreputation bemærker, at et sådant præferenceskift har langsigtede konsekvenser for OpenAI. Ifølge undersøgelser vokser brugernes tillid til tech-virksomheder med gennemsigtighed og falder, når de ser modsætninger mellem erklærede værdier og faktiske handlinger. Sam Altman har gentagne gange hævdet, at OpenAI opstod som en nonprofitorganisation med fokus på sikker AI-udvikling – og det er netop dette billede, der nu er ved at krakelere.
Hvad almindelige AI-brugere bør gøre nu
For de fleste mennesker kan dette militære puslespil lyde som noget meget fjernt. Alligevel vil beslutninger, der træffes nu i Washington og Silicon Valley, direkte afspejle sig i funktionerne i telefon-apps om få år. Hvis sprogmodeller trænes på data fra militære operationer, kan de blive bedre til at forstå strategiske analyser – men kan også tilegne sig de fordomme, der er typiske for forsvarsektoren.
For brugere er det en god anledning til at undersøge, hvilke betingelser de virksomheder, der tilbyder AI, fastsætter i deres dokumenter. Definerer de klart, hvem de samarbejder med? Erklærer de grænser for overvågning og militære applikationer? Markedspres erstatter ganske vist ikke lovgivning, men det viser virksomhederne, at omdømme er blevet en reel valuta.
Vi ser stadig oftere en spænding mellem innovationshastighed og stabilitet samt sikkerhed. Generative modeller udvikler sig i et svimmelhed hastighed, men deres tilbøjelighed til hallucinationer kan få dramatiske konsekvenser i militære, medicinske eller finansielle applikationer. Grænsen mellem assistent og medbeslutningstager er ved at blive udvisket – og netop nu pågår kampen om, på hvilken side af denne streg AI burde stoppe.
