En eksplosiv uge for AI-industrien
På blot få dage demonstrerede hele AI-branchen, hvor betændt emnet om militær brug af kunstig intelligens kan være. Afinstallationsstatistikkerne for ChatGPT skød op med næsten 300 procent, efter at virksomheden underskrev en kontroversiel kontrakt med det amerikanske forsvarsministerium.
Den affære, der rystede AI-verdenen, begyndte med et afslag fra Anthropic. Skaberen af modellen Claude modtog et samarbejdstilbud fra Pentagon, men valgte ikke at krydse sine egne etiske grænser. Resultatet var en sortlistning, tabet af lukrative kontrakter og en uventet brugerflytning mellem konkurrerende apps.
For almindelige brugere kan dette lyde som et fjernt amerikansk problem. I virkeligheden vil de beslutninger, der træffes i dag i Washington og Silicon Valley, direkte påvirke, hvilke funktioner apps på vores telefoner har om få år. Eksperter fra Oxfords Universitet og amerikanske tænketanke advarer om, at private virksomheder ikke bør fastsætte de etiske grænser for teknologier, der kan have indflydelse på menneskers liv verden over.
Hvordan Anthropic afslog Pentagon og endte på en sortliste
Historien begyndte med et tilbud til Anthropic, virksomheden bag modellen Claude. Pentagon ønskede at integrere deres kunstige intelligens i systemer, der i realtid analyserer enorme datamængder – fra satellitbilleder over efterretningsrapporter til sensordata fra kamppladsen. Målet var at accelerere kommandørers beslutningstagning under kampoperationer.
Anthropic opstillede imidlertid to urokkelige etiske grænser. For det første måtte Claude-modellen ikke understøtte udviklingen af fuldt autonome våbensystemer, hvor maskinen selv beslutter om magtanvendelse mod mennesker. For det andet måtte systemet ikke anvendes til masseovervågning af almindelige borgere på amerikansk territorium.
Disse betingelser viste sig at være uacceptable set fra militære repræsentanters synspunkt. Ifølge medier satte Donald Trumps administration Anthropic på en sortliste over enheder uden adgang til statslige kontrakter. Virksomheden fik et ry som et “ubøjeligt etisk” selskab, men mistede et potentielt meget lukrativt marked.
Situationen kompliceres yderligere af, at Claude-modellen ifølge kilder tæt på Pentagon alligevel benyttes i operationer relateret til spændingerne mellem USA, Israel og Iran, selvom virksomheden formelt er blokeret fra udbudsprocedurer. Forsvarsministeriet kommenterer ikke disse oplysninger, hvilket efterlader en række spørgsmål ubesvarede.
Hvad OpenAI underskrev, og hvorfor det rasede brugerne
Da Anthropic afviser samarbejdet, træder OpenAI ind på banen. En fredag underskrives en kontrakt, der reelt udfylder hullet efter konkurrenten. ChatGPT skal rettes mod forsvarsapplikationer, mens kontraktens detaljer delvist holdes hemmelige.
Sam Altman, OpenAI’s chef, offentliggør dagen efter en erklæring, hvori han hævder, at de forhandlede sikkerhedsforanstaltninger angiveligt er strengere end dem, Anthropic var villig til at acceptere. Denne meddelelse skal beskytte virksomhedens omdømme, men i mange menneskers øjne fremstår den som et forsøg på at drage fordel af rivalens “principfasthed”.
Brugerreaktionen er øjeblikkelig. Data fra analysevirksomheden Sensor Tower viser, at den gennemsnitlige daglige afinstallationsrate for ChatGPT-appen stiger med 295 procent i forhold til det normale niveau. På de sociale medier hagles der med anklager om forræderi mod erklærede værdier og om at sælge sig til militære kontrakter. I netdiskussioner vrimler det med kommentarer fra skuffede udviklere og akademikere, der brugte ChatGPT til forskningsformål.
Mandag træder Altman frem i rollen som “den skyldige, der indrømmer fejlen”. Han erklærer offentligt, at kommunikationen var forhastet og ugennemtænkt, og at hele sagen fremstod rent opportunistisk. Han annoncerer også ændringer i kontrakten med forsvarsministeriet. I løbet af få dage forvandlede ChatGPT sig i mange menneskers bevidsthed fra et symbol på “ansvarlig AI” til et redskab forbundet med det militære maskineri.
Hvilke konkrete ændringer OpenAI lovede at foretage i kontrakten
Under pres fra den offentlige mening og den voksende boykot indføjer OpenAI flere meget konkrete bestemmelser i kontrakten. De vigtigste af dem vedrører overvågning af amerikanske borgere og efterretningstjenesternes adgang til modellerne.
De væsentlige ændringer omfatter:
- et udtrykkelig forbud mod bevidst brug af OpenAI-systemer til overvågning af borgere i USA
- blokering af automatisk adgang for efterretningsagenturer som NSA uden en separat, eksplicit aftalt kontraktændring
- en erklæring om, at kunstig intelligens skal støtte analytikere og ikke erstatte mennesket i beslutninger om magtanvendelse
- et krav om gennemsigtig rapportering af tilfælde af potentielt misbrug af systemerne
- OpenAI’s ret til at suspendere serviceleveringen ved overtrædelse af aftalte grænser
- uafhængig revision af teknologianvendelsen hver sjette måned
- begrænsning af adgangen til de nyeste modeller for applikationer med letalt potentiale
Det er en delvis tilnærmelse til Anthropics tilgang, men forskellen er tydelig. Anthropic foretrak at afstå fra kontrakterne frem for at give efter for Pentagons forventninger. OpenAI valgte vejen med tilføjelse af begrænsninger under bibeholdelse af samarbejdet. Ifølge analytikere fra Center for American Progress er disse yderligere garantier dog muligvis ikke tilstrækkelige, hvis der mangler uafhængig kontrol med overholdelsen.
Hvorfor militæret så intensivt efterstræber brugen af kunstig intelligens
I baggrunden for hele historien ligger en bredere vision for moderne væbnede styrker. Platforme skabt af blandt andre Palantir integrerer allerede i dag data fra mange kilder – sensorer, droner, satellitter, efterretningsrapporter – og præsenterer dem for kommandører i form af færdige anbefalinger.
Ifølge brancherepræsentanter muliggør sådanne systemer hurtigere analyse af tusindvis af satellitbilleder end snesevis af analytikere, forudsigelse af fjendtlige enheders bevægelser på baggrund af mønstre fra tidligere konflikter samt identifikation af mål med større præcision end traditionelle metoder. General Roger Cloutier fra USA’s kommando i Europa har for nylig udtalt, at integration af kunstig intelligens i kampsystemer er lige så afgørende som indførelsen af dampmaskinen i industrien.
Her opstår den centrale spænding. Generativ kunstig intelligens er fejlbarlig, tilbøjelig til “hallucinationer” og i stand til at producere falske oplysninger med fuldstændig overbevisning. I civile applikationer ender det med et kompromitterende svar i chatten. På slagmarken ville det betyde tilfældige menneskers død. Forskere fra Massachusetts Institute of Technology advarer om, at det psykologiske pres på kommandører om at acceptere AI’s anbefalinger under tidspres kan være enormt.
Hvordan ChatGPT-krisen gav Claude en uventet vækst
Mediesstormen skabte en øjeblikkelig markedseffekt. Når brugere sletter ChatGPT-appen, søger mange af dem efter et alternativ. Det naturlige valg viser sig at være netop Claude – modellen hvis producent gik i konfrontation med Pentagon.
Data fra App Store viser, at Anthropics app lørdag sprang til førstepladsen på downloadlisterne og holdt sig der mindst til torsdag. Amerikanske medier skriver, at Claude overhaler ChatGPT i antallet af nye installationer, hvilket blot få uger tidligere virkede lidet sandsynligt. Markedsanalytikere vurderer, at Anthropic i løbet af en enkelt uge fik så mange nye brugere, som de under normale omstændigheder ville have brug for tre måneders intensiv markedsføring til at opnå.
På internettet starter en organiseret pressekampagne mod OpenAI. Hashtags som CancelChatGPT og QuitGPT bliver populære og opfordrer til permanent opgivelse af virksomhedens produkter, så længe den samarbejder med forsvarsministeriet. Nogle aktivistgrupper ser dette som en test på, om brugerpres reelt kan ændre AI-giganternes adfærd.
OpenAI’s imagekrise byggede i praksis en gratis marketingkampagne for Anthropic baseret på ét enkelt budskab: “vi gav ikke efter”. I teknologifællesskaber på Reddit og Hacker News er der opstået diskussioner om etikken i at bruge AI-værktøjer, og mange udviklere meddeler offentligt, at de skifter til Claude til deres projekter.
Bør almindelige AI-brugere holde øje med militære kontrakter?
For den gennemsnitlige ChatGPT- eller Claude-bruger kan dette militære puslespil lyde som noget meget fjernt. Alligevel vil de beslutninger, der træffes i dag i Washington og Silicon Valley, direkte slå igennem på de funktioner, apps på telefonerne vil have om nogle år.
Hvis sprogmodeller “opdrages” på data fra militære operationer, kan de måske bedre forstå strategiske analyser, men vil også tilegne sig fordomme, der er typiske for denne sektor. Hvis private virksomheder opdager, at forsvarskontrakter er mere modstandsdygtige over for boykot end forbrugerpræmier, vil de lettere vælge finansiel sikkerhed frem for etiske begrænsninger. Mariarosaria Taddeo fra Oxfords Universitet påpeger, at udtrængningen af den mest forsigtige aktør – nemlig Anthropic – svækker sikkerheden i hele økosystemet.
Det er et godt tidspunkt at undersøge, hvilke betingelser virksomheder, der tilbyder AI, skriver ind i deres vilkår. Definerer de klart, hvem de samarbejder med? Erklærer de grænser vedrørende overvågning og militære applikationer? Markedspres kan ganske vist ikke erstatte lovgivning, men det viser virksomheder, at omdømme er blevet en reel valuta. Eksperter fra Center for American Progress skriver direkte, at Pentagons strid med Anthropic og den efterfølgende kontrakt med OpenAI er et signal til Kongressen om endelig at beskæftige sig med regulering af militærets brug af AI.
Spændingen mellem innovationshastighed og stabilitet samt sikkerhed bliver stadig tydeligere. Generative modeller udvikler sig i et svimmelhedsframkaldende tempo, men deres tendens til hallucinationer i militære, sundhedsmæssige eller finansielle applikationer kan have dramatiske konsekvenser. Grænsen mellem “assistent” og “medbeslutningstager” er begyndt at blive udvisket – og det er netop nu, striden om, hvilken side af denne linje kunstig intelligens bør stoppe ved, udspiller sig.
