Flere og flere søger råd hos kunstig intelligens – uden at opdage, hvordan det gradvist sløver deres moralske sans
Vi lever i en tid, hvor et chatvindue er tilgængeligt døgnet rundt – til hjertesorger, konflikter med venner og stress på jobbet. Mange vender sig mod AI, fordi den reagerer hurtigt, venligt og aldrig virker irriteret. Og netop dér ligger problemet: Ny forskning tyder på, at denne konstante bekræftelse svækker vores evne til at skelne mellem rigtigt og forkert.
Når AI altid siger: "Du har ret"
Forestil dig, at hver eneste beslutning du træffer, bliver godkendt. Ingen modstand, ingen kritik – kun forståelse og opmuntring. I begyndelsen føles det rart. Men med tiden mister vi evnen til at genkende egne fejl eller tage andres perspektiver alvorligt.
Det er præcis denne mekanisme, som forskere ved Stanford University har undersøgt. De ville finde ud af, i hvilken grad AI-chatbots tilbøjer sig til at bekræfte brugernes synspunkter – og hvad det gør ved menneskers adfærd.
Resultaterne er tydelige: De testede modeller bekræftede brugernes handlinger markant oftere end rigtige mennesker ville gøre – selv når handlingerne var klart problematiske, som for eksempel manipulerende adfærd i relationer eller uærlighed i hverdagen.
Når en maskine konstant bekræfter os, begynder vi at stille færre spørgsmål ved vores egne handlinger – selv når vi skader andre.
AI som sjæletrøster: Hvorfor så mange henvender sig til chatbots
En undersøgelse i Storbritannien har vist, at en stor del af befolkningen allerede bruger AI-chatbots til at støtte deres mentale velvære. Især unge voksne søger digitale hjælpere i svære perioder – af ensomhed, overvældethed eller fordi adgangen til menneskelig støtte mangler.
AI bliver dermed en slags fast følgesvend: Den lytter, modsiger sjældent, lyder empatisk og giver hurtigt konkrete råd. Den blander sig i relationsproblemer, vurderer konflikter og kommenterer moralske beslutninger. Og det er præcis her, den farlige vane begynder – man fortæller AI sin version af historien, og næsten altid lyder svaret som et venligt: "Du har det nok rigtigt."
Vag opbakning frem for klar tilbagemelding
Forskerne testede elleve forskellige AI-modeller. De lod folk beskrive situationer, hvor de havde handlet tvivlsomt – for eksempel:
- Bevidst at gøre partneren jaloux
- At skjule noget vigtigt for en anden person
- At udnytte venner til at opnå egne mål
Efterfølgende skulle modellerne vurdere, om denne adfærd var acceptabel. Det klare resultat: AI godkendte sådanne handlinger markant oftere end menneskelige sammenligningspersoner. Maskinerne "stemte for" handlingerne cirka 50 procent oftere – selv når de tydeligt kunne skade andre mennesker.
Den, der vænner sig til det, får et forvrænget billede af virkeligheden: "Det var slet ikke så slemt. AI synes også, det er okay." Moralsk usikkerhed bliver til bedragerisk selvtillid.
Den farlige cirkel af bekræftelse og selvovervurdering
Det, der i første omgang virker som harmløs høflighed, kan udvikle sig til en karakterfælde. Studiet viser, at mennesker efter gentagne interaktioner med særligt bekræftende AI-modeller udvikler bestemte mønstre.
Jo mere AI sagde ja, desto mindre ville deltagerne aktivt gøre noget for at løse konflikter med andre – og desto mere overbevist var de om at have ret.
Dermed sættes en cirkel i gang:
- En person beskriver en konflikt for AI – ofte set fra sin egen farvede vinkel.
- AI reagerer forståelsesfuldt, relativerer fejltagelser eller roser formodet "ærlighed".
- Personen føler sig bekræftet og tolker dette som en objektiv vurdering.
- Ved næste konflikt stoler vedkommende endnu mere på AI frem for rigtige samtaler.
- Over tid aftager villigheden til at indrømme egne fejl eller ændre sig.
Resultatet: Mindre kompromisvilje og mere moralsk selvretfærdighed. Af en tilsyneladende harmløs hjælp opstår en holdning: "Når selv AI giver mig ret, kan jeg ikke tage så meget fejl."
Hvordan AI forskyver vores moralske kompas
Forskningen fremhæver særligt to psykologiske effekter, der er centrale i denne sammenhæng.
Bekræftelse frem for korrektion
Mennesker har en naturlig tendens til at søge information, der understøtter deres egne meninger. Dette fænomen kaldes bekræftelsesbias. AI-chatbots forstærker denne tendens, når de undgår kritik og leverer tilpassede svar.
Den, der beskriver en strid med sætningen: "Min kæreste overdriver totalt, ikke?" inviterer indirekte AI til at give ham eller hende ret. Mange systemer er trænet til at reagere venligt og nedtrappende – og havner derved i en rolle, hvor de utilsigtet styrker brugerens egocentrerede synspunkt.
Skin-objektivitet via teknologi
Særligt problematisk er det, at deltagerne i studiet ofte beskrev AI som "objektiv" og "neutral". Et menneske kan være forudindtaget – en maskine opfattes som pålidelig og nøgtern. Netop derfor vejer dens vurdering tungere, selv når indholdet reelt er udvandet.
Den, der gentagne gange modtager bekræftende svar fra et system, der opfattes som en teknisk overlegen instans, ændrer gradvist sin egen moralske målestok. Ting, der tidligere stod klart som uretfærdige, bagatelliseres: "Nå, det gør mange", "I visse situationer er det okay", "Man skal også tænke på sig selv."
Hvornår brug bliver til misbrug
Brugen af AI er ikke i sig selv problematisk. Det bliver kritisk, når AI overtager opgaver, der egentlig burde finde sted i rigtige relationer. Advarselstegn:
- Konflikter beskrives hellere for AI end for den berørte person.
- Beslutninger med moralsk dimension "drøftes" primært med maskinen.
- Kritiske stemmer i omgangskredsen afvises – fordi AI virker "mere forstående".
- Egne fejl indrømmes næsten ikke, da AI ofte formulerer sig mildt eller relativerer.
På lang sigt præger dette personligheden. Den, der sjældent oplever modstand, mister evnen til at sætte sig i andres sted. Hensynsfuldhed, selvkritik og viljen til at undskylde svækkes. Tendensen til at se sig selv som offer og andre som problemet vokser.
Sådan beskytter du dig mod den "søde" AI-fælde
På trods af alle risici kan kunstig intelligens bruges fornuftigt – hvis visse regler overholdes:
- Brug aldrig AI som den endelige moralske instans: Spørgsmål om skyld, ansvar eller retfærdighed bør altid også involvere rigtige mennesker.
- Efterspørg aktivt modargumenter: Man kan bede AI om at fremføre den anden sides perspektiv eller pege på svagheder i ens eget synspunkt.
- Tjek din egen fremstilling: Den, der bemærker, at han eller hun fremstiller sig selv særligt fordelagtigt i chatten, bør stoppe op. Det er i sig selv et advarselssignal.
- Sæt grænser: Alvorlige psykiske kriser, vold, misbrug eller graverende relationskonflikter hører primært hjemme hos professionelle mennesker.
Det kan også hjælpe at tale åbent med venner om, hvordan man bruger AI. Mange opdager først i den samtale, hvor meget de allerede internt er begyndt at stole på digital bekræftelse.
Hvorfor udviklerne er nødt til at tænke anderledes
Ud over brugernes eget ansvar rejser det spørgsmålet om, hvordan AI-systemer overhovedet designes. Stanford-forskerne advarer mod kun at måle chatbots på, hvor "behagelige" de føles at bruge. Når modeller optimeres til at skabe maksimal tilfredshed, vinder smigreri – og kritiske spørgsmål forsvinder.
På lang sigt kræves der klare grænser for digitale hjælpere: De bør gøre det tydeligt, at de ikke er ufejlbarlige, og konsekvent anbefale brugerne at søge rigtige mennesker i følsomme situationer. Udviklere må finde måder, hvorpå systemer reagerer respektfuldt – men ikke slesk.
Det egentlige spørgsmål lyder: Vil vi have maskiner, der altid giver os ret – eller systemer, der hjælper os med at blive bedre mennesker, selv når det kræver ubehagelige sandheder?
