Er Apple-ledelsen redd for at kunstig intelligens nå er kommet så langt, men også sånn på avveie, at den både kan føre oss på villspor, gi oss feilaktige svar på viktige spørsmål og til og med true privatlivets fred?
Dette kan være noe av kjernen i det som i amerikanske teknologi-medier beskrives som en tilnærmet borgerkrig – i hvert fall maktkamp – internt i Apple om videreutviklingen av selskapets virtuelle assistent, Siri. Du vet, taleassistent-teknologien som har noen av sine røtter i Norge.
Stikkord i den sammenheng er den norsk-amerikanske teknologi-gründeren Dag Kittlaus som i sin tid solgte teknologi-grunnlaget for Siri til Apple. Her finner vi også en aldri så liten historisk tråd tilbake til forskningsmiljøet rundt Telenor ved århundreskiftet, da Kittlaus blant annet var med på å utvikle Telenors mobile ungdomstjeneste Djuice.
Siri-historien er nok glemt eller helt ukjent for de fleste som benytter Siri i dag. Som for eksempel til å be Home Pod-en om å spille litt smooth jazz, slik jeg gjorde da jeg begynte å skrive denne artikkelen. Slik musikk gjør meg til en mer avslappet og dermed også kanskje litt mer kreativ skribent når tankene får flyte fritt av gårde til de myke tonene. Uten å bli ledet helt på avveie, som skjer når jeg ber Siri om å spille «musikk jeg liker». For da kommer distraherende støyende gammel rock og blues. Hvor mye KI/AI som trengs for å finne ut hva slags musikk jeg liker, vet jeg ikke. Jeg har ikke spurt ChatGPT ennå.
Tilbake til KI/AI-debatten: ChatGPT er et begrep som har stått i sentrum for mange artikler i senere tid. Bak forkortelsen skjuler det seg en digital samtalepartner – en bot. Den samme stavelsen som vi finner i slutten av robot.
Først: Hva er OpenAI?
Boten er utviklet av en organisasjon som kaller seg OpenAI og er i stor grad basert på kunstig intelligens. Forkortet KI på norsk eller AI – for Artificial Intelligence – på engelsk. OpenAI er et forskningslaboratorium etablert i San Francisco i 2015, med Elon Musk som en av de første styremedlemmene sammen med andre kjente IT-folk og investorer. I utgangspunktet som et såkalt non-profit-foretak, men med et stadig viktigere kommersielt underbruk kalt OpenAI Limited Partnership.
OpenAI-systemene er fundamentert på superdatamaskiner bygd over Microsofts Azure-plattform. Microsoft stilte opp med én milliard dollar i 2019 og har fulgt opp med 10 milliarder dollar nå i 2023, ifølge Wikipedia.
Dernest: Hva er ChatGPT?
OpenAI lanserte prototypen av ChatGPT-boten i november 2022, så det er altså ganske ny teknologi. Navnet er en sammensetning av ordet chat – prat eller samtale – og forkortelsen GPT, som står for den litt mer innfløkte formuleringen generative pre-trained transformers. Forenklet forklart en slags «dyp opptrening» basert på veldig store tekstmengder og mye annen avansert teknologi der kunstig intelligens og maskinlæring er viktige stikkord.
ChatGPT har skapt mange overskrifter de siste fem-seks månedene, om alt fra påstander om mange feilaktige og «dumme» svar på spørsmål som ChatGPT-boten er blitt stilt, til mer alvorlige anklager om at tjenesten misbrukes til eksamensjuks blant elever og studenter.
Alt fokuset på kunstig intelligens har nå også bidratt til å trekke indre stridigheter hos Apple fram i lyset. Det er nettpublikasjonen The Information i San Francisco som har gått ut med påstanden etter å ha intervjuet over et seksti-talls tidligere ansatte knyttet til utviklingen av KI/AI og maskinlæring hos Apple.
The Information er en nettpublikasjon med dyrt abonnement – opptil 999 dollar i året avhengig av hvilken pakke man velger – myntet på toppledere i IT-verdenen. Artiklene er grundige, går i dybden og er gjerne basert på mange intervjuer og tidkrevende granskning. Derfor har The Information stor troverdighet. Publikasjonen samarbeider blant annet litt med Bloomberg.
The Information har også tidligere viet Apple stor oppmerksomhet. Wikipedia trekker fram en historie fra 2022 om Apples topphemmelige satsing på elbil-utvikling. Ifølge publikasjonen skal Apples programvaresjef Craig Federighi ha vært skeptisk til prosjektet. I den forbindelse nevnes en episode der en angivelig selvkjørende elbil-prototyp skal ha vært nær på å kjøre ned en fotgjenger. Godt grunnlag for skepsis.
Og så: Maktkamp hos Apple
Men nå er det altså kunstig intelligens – og Siri – som er i fokus. Her følger The Information opp en påstand fra avisen New York Times tidligere i april 2022 om at Siri er basert på en «clunky» database som gjør at det tar ukevis å oppdatere Siri selv med enkle basisfunksjoner.
Apples problematiske forhold til sine egen Siri-teknologi skal ha ført til at de delene av Apples organisasjonsapparat som steller med denne teknologien, er blitt organisasjonsmessig dysfunksjonell og har mistet sine ambisjoner, ifølge nettstedet 9TO5Mac.
Dette skal i sin tur ha ført til at Apple har mistet viktige nøkkelmedarbeidere innen AI-teknologi som har gått til konkurrentene. I 2019 sikret Apple seg tre viktige medarbeidere på dette feltet gjennom oppkjøpet av firmaet Laserlike: Srinivasan Venkatachary, Steven Baker og Anand Shukla. Nå har alle tre gått over til Google. Det hjalp ikke at Apples toppsjef Tim Cook selv prøvde innstendig å overtale dem til å bli, heter det.
Misnøyen med Siri skal angivelig ha smittet over på teamet som nå er i innspurten på utviklingen av Apples såkalte «mixed reality»-hodesett. Dette produktet har det gått mange og sterke rykter om i lengre tid, med antatt lansering i inneværende år. Lederen for teamet, Mike Rockwell, skal ha uttrykt misnøye med stemmestyringen av hodesettet via Siri.
Privatlivets fred
Apple-ledelsens skepsis til AI og tilhørende teknologier som ChatGPT skal dels ha sitt utspring i Apples særdeles sterke overbevisning om at beskyttelse av privatlivets fred er og vil fortsatt være et av Apples sterkeste konkurransefortrinn.
Apple-entusiaster plasserer gjerne Google og Apple på hver sin ytterkant i disse spørsmålene. Satt på spissen lever Google av å samle mest mulig informasjon om sine kunder og brukere, noe som genererer store annonseinntekter, mens Apple helst ikke vil at data om brukerne skal forlate Apple-enhetene – Mac-ene, iPhone-ene, iPad-ene og Apple TV-ene – som brukerne benytter.
Om å dumme seg ut
Det andre nøkkelpunktet i Siri-debatten hos Apple skal dreie seg om mye av det som har skjedd i kjølvannet av ChatGPT-lanseringen, heter det. Det har vært mye morsomt å lese om utallige sprø svar som ChatGPT-boten angivelig skal ha gitt på spørsmål fra brukerne.
For eksempel fikk et innlegg i Aftenposten av forfatteren Knut Faldbakken stor oppmerksomhet. Forfatterens sønnesønn hadde spurt ChatGPT om hvem Knut Faldbakken var. «Svaret var en lapskaus av desinformasjon», skrev Faldbakken. Om den – i skrivende stund – høyst levende forfatteren sto det for eksempel at han døde i 2020.
Faldbakken fikk imidlertid noen krasse tilsvar fra enkelte lesere, som blant annet mente at han ikke hadde forstått forskjellen på en tekstgenerator og et digitalt oppslagsverk.
Dagbladets Dinside-redaksjon, som har en egen teknologi-seksjon, gjorde på sin side en aldri så liten test av Snapchats svar på ChatGPT, kalt MyAI. Dinside refererte blant annet til en VG-omtale der MyAI foreslo Quisling som en norsk helt og at nettstedet Barnevakten lot MyAI foreslå farlige rampestreker. Journalisten stilte også noen spørsmål til MyAI om seg selv og fikk noen rare svar. I tillegg blir politiet sitert på å komme med advarsler mot at unge kan få tvilsomme svar fra slike AI-systemer.
Lammet av maktkamp?
Alt dette er bare eksempler på mye av det som Apple-ledelsen angivelig er redd for når det gjelder KI/AI og maskinlæring, ifølge MacRumors, som også har studert rapporten hos The Information. Helt siden 2018 har Siri-teamet vært mer eller mindre lammet av maktkampen mellom folk i Apples ledersjikt, heter det.
Tid og penger skal ha vært sløst bort ved at data om Siri er blitt neglisjert. I mellomtiden har utålmodige ildsjeler blant ingeniørene gått videre til andre bedrifter i protest mot Apples konservative holdning og uvilje til å omfavne AI og virtuelle assistenter som ChatGPT og andre AI-teknologier.
Et eksempel, ifølge MacRumors: Apple-ledelsen foretrekker angivelig at svarene som Siri gir på forespørsler fra brukerne, skal være forhåndsskrevet av et tjuetalls personer som jobber for Apple framfor å være generert av kunstig intelligens. Siri skal også ha blitt forhindret fra å oppgi iPhone-priser hvis noen brukere skulle spørre Siri om det. I stedet er Siri blitt instruert til å henvise de som spør, til Apples nettsider.
Ellers som norske Siri svarte da jeg spurten om prisen på iPhone 14 Plus: «Alt du trenger å vite å om iPhone, finnes på Apple sine nettsider». Takk for hjelpen, Siri.
AI-ingeniører hos Apple skal ha prøvd i månedsvis å overtale Siri-utviklerne til å gå med på at ikke alle Siri-svar trenger «menneskelig» verifisering. Slik verifisering vil gjøre det umulig å skalere opp Siri til å kunne svare på det store utvalget av spørsmål som folk ønsker stille. Men Siri-staben holder på sitt og sier nei, ifølge MacRumors.
Teamet skal også ha sagt nei til et forslag om at brukere skulle kunne rapportere feil eller i hvert fall uenighet om noen av svarene fra Siri, for da ville hun ikke lenger fremstå som allvitende.
I leserkommentar-feltet hos MacRumors er det mange som er enig i kritikken mot Apples AI-politikk. Et av de få unntakene er en leser som skriver at Siris tale-svar lyder perfekt – i hvert fall på svensk.
