Bekymra for at kunstig intelligens hindrer selvstendige valg

Dette intervjuet med Inga Strümke ble publisert 22. august 2022. Hun er nå aktuell med boken Maskiner som tenker. Algoritmenes hemmeligheter og veien til kunstig intelligens. «Elegant innføring i kunstig intelligens» skriver Vårt Lands anmelder, Daniel Joachim Kleiven, om boken.

– Hvis du møter noen for første gang og forteller at du jobber med kunstig intelligens …

– Åh, det prøver jeg å unngå.

– Ja, hva sier folk da?

– Det var kanskje verre før da jeg måtte si at jeg var fysiker, for det er en bra måte å jage folk vekk på. Enten virker jeg veldig utilnærmelig eller bare sykt kjedelig. Men hvis jeg sier at jeg jobber med kunstig intelligens, spør folk ofte om maskinene kommer til å overta verden.

– Er det et sannsynlig scenario at maskinene blir smartere enn oss?

– Ja, det er det, og det er en mye bedre formulering enn at maskinene overtar verden. Jeg synes den aller beste formuleringa er om maskinene kommer til å klare å løse problemer som ikke vi klarer å løse. Og svaret på det er allerede ja: det finnes problemer som ikke vi klarer å løse, men som maskiner har klart, for eksempel når det kommer til strategispill. Det er imidlertid ikke fordi maskinene har et ønske eller en motivasjon om å slå oss, men fordi et menneske har hatt en motivasjon om å lage en maskin som kan utkonkurrere mennesker. Og grunnen til at folk stiller det spørsmålet i det hele tatt er jo: er dette en trussel for oss?

---

Nøkkelbegreper

• Kunstig intelligens: Datateknologi som styrer seg selv og løser oppgaver uten kontinuerlige instrukser fra mennesker. Forkortes gjerne AI (artificial intelligence).
• Bot: En algoritmestyrt tjeneste som ofte skal etterligne et menneske, for eksempel som chatpartner på ei nettside.
• Metaverset: Begrep som brukes om et altomsluttende internett, en egen digital virkeliget.

---

– Mener du det er en trussel?

– Det jeg faktisk er bekymra for om er en trussel, er at vi ikke helt forstår konsekvensen av motivasjonene vi gir til disse maskinene. Når teknologiselskapene bruker kunstig intelligens for å holde folk lenge på YouTube, Netflix eller sosiale medier, manipulerer det menneskelig adferd. Da begynner det å bli vanskelig for oss å ta selvstendige valg.

– Vi møter jo allerede kunstig intelligens i hverdagen vår, tenker du det er noen måter hvor det brukes feil?

– Det er når det brukes til insentivering, når kunstig intelligens gir oss behov og belønninger i oss, slik som i de tilfellene hvor algoritmer skal holde oss lenge på ei nettside. De som utvikler mest kunstig intelligens i dag gjør det i et kapitalistisk system. Da er ikke poenget å lage gode liv, men å tjene mye penger. Jeg sier ikke at kapitalismen er ond, men når motivasjonen er å tjene penger, blir det et annenrangs problem at det går på bekostning av gode liv, og også menneskets autonomi.

– Tidligere i sommer mente en Google-ansatt at selskapet hadde utvikla en maskin med bevissthet, et utsagn som har skapt kontroverser. Uavhengig av han som person, er det sannsynlig at det utvikles en «bot» med bevissthet?

– Bevissthetsspørsmålet er grisevanskelig, for vi har ikke noen definisjon av det. Slik jeg forstår bevissthet er det en opplevelse av å være seg selv, så jeg kan ikke bevise at du har en bevissthet. Men jeg tenker at du også er en person, som tenker litt som meg, kommer fra samme prosess, så du tror nok også at du er deg selv. Så da blir scenarioet: her er det en maskin som imponerer meg med sin kommunikasjon, men har den en opplevelse av hva det er å være seg? I så fall ramler det inn massevis av etiske spørsmål: Er det greit å være kjip mot den, slå den av eller omprogrammere den?

– Men tror du vi kan lage en bot som vi med sikkerhet kan svare ja om på det spørsmålet?

– Hvis man tror at det som gir oss bevissthet bare er atomer i hjernen, og atomene i hjernen er det ikke noe spesielt med, da må jo svaret være ja. Men hvis det som gir oss bevissthet er noe annet, noe mystisk, så kan kanskje ikke digitale datamaskiner representere det. Det kommer an på hvilket nivå bevissthet oppstår på. Hvis det er noe rent emergent, noe som bare dukker opp, så tenker jeg svaret åpenbart er ja.

---

Inga Strümke (f. 1989)

• Født i Tyskland, oppvokst i Narvik.
• Har doktorgrad i partikkelfysikk fra Universitetet i Bergen.
• Jobber som forsker på kunstig intelligens ved Norwegian Open AI Lab, NTNU.
• Er spaltist i Morgenbladet, foredragsholder for TEDx og hyppig gjest i NRK-programmet Abels tårn.

---

– Vil tanken om en Gud være et svar på det eventuelle mystiske?

– Her må jeg passe meg litt for hva jeg sier. Hvis det er kun de to kategoriene vi har å gå ut ifra, at det enten er materielt eller noe mystisk, da må det mystiske være at bevisstheten kommer fra en plass utenfor og ikke har oppstått fra seg selv. Da begynner jeg med én gang å lure på hva som kan være hensikten med å gi mennesker en bevissthet? Og da må jeg spekulere i motivasjonen til noen som ikke er sånn som meg i det hele tatt, og det tenker jeg at jeg har null grunnlag for å gjøre. Da blir min gjetning like god som hvem som helst sin gjetning.

– Ok, halvveis tilbake på jorda igjen. Hva slags teknologisk revolusjon tror du vi kan ha i vente?

– Vi omtaler den tida vi er inne i nå som den fjerde industrielle revolusjon. Ikke bare med tanke på kunstig intelligens, men også genteknologi, kvantedatamaskiner og så videre. Den potensielt femte industrielle revolusjon vil da være når maskinene faktisk tar bedre avgjørelser enn oss. Når vi ikke lenger er de beste beslutningstakerne på vår planet, for da blir spørsmålet: hvem hører vi på da?

– Så en datamaskin kan vise oss hvordan vi skal løse klimakrisa?

– Jeg elsker det spørsmålet, for det trenger vi ikke en datamaskin til. Det vet vi hvordan vi skal gjøre. Akkurat på klima er jeg litt radikal. Vi må rett og slett stenge kranene. Men her tror jeg en maskin kunne kommet med en «gameification», gjort problemet om til et spill og gjort det gøy for oss å redde planeten.

– Hvordan henger det sammen at du er radikal på klima, men har jobbet som petroleumsfysiker i Statoil?

– Hah, ja, jeg trodde at jeg fikk jobb i et moderne energiselskap som skulle bort fra olja. Så fikk jeg jobb på Troll oljefelt, hvor jeg satt og styrte oss dit vi kunne finne mest olje. Da hadde jeg en slags personlig krise. Det er mange som spør hva som gjorde at jeg sa opp i Statoil for å ta doktorgrad, men for meg ble det et spørsmål om hvem jeg er.

– Du studerte partikkelfysikk og teoretisk fysikk, men du syntes kunstig intelligens var spennende også før du begynte å jobbe med det?

– Ja, det har fascinert meg lenge. Grunnen til at jeg ble fysiker var at jeg synes det er så kult at vi har tilgang til å forstå virkeligheten. Det er egentlig helt sykt at vi ikke bare vaser rundt på jordoverflaten og klarer å finne mat uten å bli mat, men at vi også kan forstå oss på stjerner og planeter, ting som det ikke er noen selvfølge at skulle være tilgjengelig for oss. Da er den neste fantastiske tingen at vi har hjerner som klarer å bli kloke på ting kun gjennom observasjoner, som igjen gir oss neste steg: kanskje ikke vi er de eneste «maskinene» som klarer å forstå oss på virkeligheten. Og kanskje vi kan klare å bygge slike maskiner, altså kunstig intelligens.

– Hva er det minst nerdete en partikkelfysiker og AI-forsker bruker tid på?

– Det er masse! Klatring, sykling, løping, padling. Sport er jo ikke så veldig nerdete? Jeg har spydd masse av høydesyke i Himalaya, gått over Grønland, seilt over Jærens rev, jeg gjør masse sånt. Når jeg ikke er på jobb, så er jeg ikke på jobb.

– Er det noe befriende med å befinne seg på de få plassene hvor vi ikke er omringet av teknologi?

– Ja, faktisk! Når jeg hører teknologioptimistene som sier at om 20 år lever vi kun i metaverset, tenker jeg Gud forby, har dere ikke en kropp? Det er så mye av livene våre som ikke trenger å digitaliseres, ingenting av mennesket trenger egentlig det. Teknologien er her for å gjøre livene våre lettere, ikke for å flytte livet til en plattform.