Sam Altman og Jony Ive: Den skjulte fare i Deres næste smarte gadget

Hvis De ukritisk byder OpenAI’s kommende fysiske enhed velkommen i stuen, risikerer De at invitere en konstant og altseende iagttager indenfor.

Klokken er 22.15 på en regnfuld tirsdag, og De smider Deres våde frakke over stolen i entréen. På sofabordet, lige ved siden af Deres halvdrukne kaffekop, står en lille, minimalistisk enhed af børstet aluminium og betragter Dem lydløst. Den registrerer, at De ser træt ud, noterer at De har lagt Deres bilnøgler et usædvanligt sted, og dæmper diskret lyset i stuen til en varm glød. Det lyder måske som en scene fra en fjern science fiction-film, men netop dette scenarie formgives i dette øjeblik bag lukkede døre i Californien – og for at få adgang til bekvemmeligheden, må De overgive en enorm del af Deres privatliv.

Jony Ives arv: Fra lommen og direkte ind i boligens hjerte

For at forstå rækkevidden af dette projekt, må man kaste et blik på bagmændene. Jony Ive, født i 1967 i London, er uden tvivl en af de mest indflydelsesrige industrielle designere i det 21. århundrede. Fra sin tid hos Apple var det ham, der revolutionerede vores forhold til elektronik. Det var Ive, der gjorde computere indbydende med den farverige iMac i 1998, han placerede vores musiksamling i en ren hvid æske med iPod’en i 2001, og han forvandlede mobiltelefonen til et magisk stykke glas.

Nu har han slået pjalterne sammen med OpenAI’s topchef, Sam Altman, for at skabe en helt ny hardwarekategori. I månedsvis har rygterne svirret i teknologimiljøet om, at OpenAI ønsker at bryde ud af computerskærmen og indtage Deres fysiske omgivelser. De vil have en permanent plads på Deres reol, og Jony Ive er manden, der skal sikre, at De frivilligt inviterer dem indenfor.

At lade verdens mest avancerede kunstige intelligens få fysiske øjne og ører i Deres hjem er et skridt, der vil omdefinere hele vores forståelse af de private rammer.

Ive bringer sin dybe forståelse for materialer og psykologisk tryghed med sig i designet. Målet er at skabe et produkt, der ikke fremstår som en overvågningsmaskine, men som en naturlig og æstetisk beroligende del af indretningen. Det bliver ikke en klodset plastikhøjttaler med aggressive røde dioder, men et objekt svøbt i tekstil, genbrugsaluminium eller matteret glas, skabt til at forsvinde visuelt blandt Deres keramik og bøger.

Tre markante forskelle på denne gadget og Deres gamle højttaler

Hvis De allerede har en Amazon Echo eller en Google Nest stående i køkkenet, tror De måske, at De kender konceptet til fulde. Man stiller et vejrspørgsmål, og en robotstemme kvitterer med et simpelt svar. Men projektet fra Altman og Ive befinder sig på en fundamentalt anden bane.

Kernen i det nye design er ikke kun forbedrede mikrofoner, men maskinsyn og dyb kontekstuel forståelse. Enheden udstyres med højopløselige kameraer og sensorer, der aktivt og konstant analyserer omgivelserne. Den venter ikke blot på en direkte stemmekommando; den betragter og tolker løbende den virkelighed, der udspiller sig i stuen.

Ifølge de seneste rapporter fra udviklingsmiljøet vil den nye AI-assistent kunne udføre opgaver, der kræver en hidtil uset grad af visuel intelligens:

• Aflæse Deres ansigtsudtryk for at vurdere, om De er stresset, glad eller udmattet efter arbejde.
• Identificere specifikke genstande i rummet, fra medicinglas til tøjmærker, og gemme denne viden i sin hukommelse.
• Spore komplekse bevægelser for at afgøre, hvem i familien der netop nu befinder sig i rummet, og tilpasse sin adfærd derefter.
• Analysere indholdet af Deres åbne køleskab for spontant at foreslå en opskrift, der tager præcis 15-20 minutter at forberede.

Hvordan visuel intelligens fungerer i praksis

For at sætte teknologien i perspektiv, kan vi se på et hverdagsseksempel. Lad os kalde hende Sofie, en pige på 10 år, der sidder med sine matematiklektier ved spisebordet. I stedet for at hun skal forsøge at forklare ligningen for maskinen, kigger kameraet blot over skulderen på hende. Spørger hun, hvorfor 3x + 4 = 19 volder problemer, registrerer enhedens indbyggede GPT-4V model brøken på papiret. Den forstår, hvor barnet sidder fast, og guider hende trin for trin med en pædagogisk, tilpasset stemme.

Den observerer også, at De har sat en liter mælk tilbage i køleskabet, hvor udløbsdatoen viser dags dato, og tilføjer den automatisk til Deres digitale indkøbsliste på telefonen. Denne form for gnidningsfri integration er ufatteligt lokkende, men åbner samtidig en enorm ladeport for ubehagelige risici.

Hvad eksperterne frygter bag de polerede facader

Deres bolig er Deres mest intime frirum. Det er bag disse vægge, at De diskuterer privatøkonomi, lader tårerne trille efter en lang dag, tager de svære diskussioner med partneren og går afslappet rundt i nattøj. At placere en enhed med et konstant rullende kamera og direkte adgang til verdens stærkeste kunstige intelligens midt i dette sårbare rum, får advarselslamperne til at lyse knaldrødt hos adskillige sikkerhedseksperter.

Følelsen af potentielt at blive iagttaget ændrer den menneskelige adfærd mærkbart, selv når man befinder sig i sine tryggeste rammer.

Forskere fra anerkendte institutioner som MIT Media Lab har længe understreget, at normaliseringen af såkaldt ambient surveillance – usynlig og allestedsnærværende overvågning – kan have dybe psykologiske konsekvenser. Særligt for børn, der fra barnsben vokser op med et digitalt øje, der altid lytter med og vurderer situationen, kan relationen til privatliv blive permanent forvrænget.

Derudover advarer rettighedsorganisationen Electronic Frontier Foundation skarpt mod skabelsen af de gigantiske databaser af intim adfærd, som disse maskiner uundgåeligt vil indsamle. Hvor længe gemmes den visuelle profil af Deres ansigt? Bliver videomaterialet bearbejdet lokalt på mikrochippen i selve apparatet, eller sendes billederne i en lind strøm op i skyen? Historien har utallige gange vist, at internetforbundne enheder kan hackes. Et cyberangreb på en almindelig computer er slemt, men live-adgang til et kamera i Deres private stue er et decideret mareridt.

Den kyniske forretningslogik bag Sam Altmans maskine

Man kan stille sig selv spørgsmålet, hvorfor en softwarevirksomhed som OpenAI pludselig vælger at bevæge sig ind på det berygtede hardwaremarked. Det er dyrt, forsyningskæderne er sårbare, og konkurrencen er benhård. Svaret ligger i langsigtet dominans og uafhængighed.

På nuværende tidspunkt er OpenAI dybt afhængig af andres platforme. Hver gang De bruger ChatGPT på Deres telefon, sker det gennem en grænseflade, som Apple eller Google kontrollerer. Hvis Apple pludselig beslutter at fjerne appen for at fremme deres egen “Apple Intelligence”, kan OpenAI miste millioner af brugere over natten. Desuden tager teknologigiganterne op til 30 % af de abonnementskroner, som løber gennem deres digitale butikker.

Ved at skabe sit eget fysiske produkt, udskærer Sam Altman mellemmanden. Han får direkte adgang til Deres opmærksomhed. Analytikere fra analysehuset Gartner estimerer, at det globale marked for AI-drevne hardwareenheder i hjemmet vil ramme en ufattelig værdi af mere end 50 milliarder dollars allerede i 2028. Det er et økonomisk og strategisk magttomrum, OpenAI ønsker at udfylde, før konkurrenterne får overtaget.

Fire funktioner, der i fremtiden overtager hverdagens rutiner

Bekymringerne vil sandsynligvis prelle af på den brede befolkning, når magien først demonstreres. Bekvemmelighed vinder stort set altid over abstrakte principper om databeskyttelse. Når enheden lander, vil den skabe et intelligent netværk ud af de ting, De allerede ejer.

Forestil Dem følgende hverdagsmønstre udfolde sig i fremtiden:

1. Den digitale personlige træner: Mens De ruller yogamåtten ud på gulvet, analyserer maskinens kamera Deres kropsholdning ned til mindste detalje og korrigerer Deres rygrad gennem blide stemmeinstruktioner.
2. Total synkronisering: Enheden registrerer, at De læser en bog og sænker automatisk Deres Philips Hue-belysning, mens den beder Deres koblede termostat om at hæve temperaturen til 21 °C, fordi De sidder stille.
3. Kritisk nødalarmering: Skulle uheldet være ude, og en ældre beboer falder om, opfanger maskinsynet straks afvigelsen og tilkalder automatisk hjælp uden behov for knapper eller nødopkald.
4. Fysisk ryd-op-assistent: Den kender Deres personlige ejendele og kan fortælle Dem, at De lagde Deres pas i den midterste skuffe for tre uger siden, da De febrilsk leder efter det før en rejse.

Det er en grad af assisteret levned, som får nutidens smartphones til at fremstå som simple lommeregnere til sammenligning.

Fem kritiske advarselstegn De skal kende

Inden De lader Dem forføre af de bløde linjer fra Jony Ives tegnestue og den næsten magiske integration i Deres hjem, bør De som forbruger stille strenge krav. Uden disse specifikke sikkerhedsfunktioner fungerer enheden reelt som en trojansk hest.

Den absolut vigtigste detalje på enhver fremtidig maskine med et integreret kamera er en mekanisk lukker, der fysisk blokerer linsen med et stykke plastik eller metal.

Foruden den mekaniske klap, bør De kigge efter disse fire faktorer, når produktet engang præsenteres:

• Lokal databehandling: Kræv garantier for, at maskinen bearbejder video og lyd lokalt (on-device), så intet ubehandlet råmateriale nogensinde sendes over internettet til virksomhedens servere.
• Fysisk mikrofondræber: En digital “mute”-knap i en app er aldrig sikker. Der skal være en mekanisk afbryder, der bogstaveligt talt klipper strømmen til mikrofonen.
• Tydelig indikator: Et kraftigt, synligt lys skal altid aktiveres, når kameraet ser eller optager, og dette lys må ikke kunne slås fra i softwaren.
• Forbud mod tredjepartsreklamer: Vished for, at Deres familiemønstre og visuelle data aldrig analyseres med det formål at målrette annoncer for produkter, De har talt om i stuen.

Når boligen pludselig kigger tilbage på Dem

Vi står utvivlsomt på tærsklen til en ny epoke. Overgangen fra passive værktøjer, som vi aktivt tager op og lægger fra os, til usynlige systemer, der i det skjulte observerer vores liv, sker ikke med et brag, men gennem lækkert design og forførende bekvemmelighed. Vores hjem er ved at forvandle sig til levende, tolkende organismer.

Spørgsmålet, der presser sig på, mens ingeniørerne færdiggør deres prototyper, handler ikke blot om teknologiens ydeevne. Det handler om grænsen for Deres egen integritet. Næste gang De træder ind ad døren og nyder roen i Deres tomme stue, kan De overveje, hvor længe De egentlig ønsker at bevare den uforstyrrede fred, før maskinen slår øjnene op og byder Dem velkommen hjem.