Ekspert utfordrer kirken om kunstig intelligens

Den ferske vinneren av Brageprisen for boka Maskiner som tenker lar seg gjerne utfordre når Vårt Land spør henne om hvordan kirken kan ta i bruk kunstig intelligens (KI) på en smart måte:

– Da må jeg spørre tilbake: Hva har kirken lyst til å oppnå? Det er det viktigste å vite. Vet man ikke det, vil det neppe hjelpe å bruke KI, verken for kirken eller for bedrifter i andre bransjer. Hvis kirken har lyst til å nå ut til flere, tror jeg KI kan brukes til å lage annonser på Instagram. Hvis man vil gjøre gudstjeneste mer appellerende, kan man bruke AI til å gjøre en analyse av hva slags messer som gjør at unge mennesker får lyst til å komme tilbake. Veldig mye av kunstig intelligens handler om å optimalisere veien til et mål. Da må man virkelig vite hva målet er.

– Hvordan ser kirkens mål ut for deg?

– Jeg tenker jo at de kristne prøver å oppnå det gode liv. Kanskje kunne de tenkt på muligheten for gamification, der man får poeng når man gjør det bra. Dette brukes på stadig flere områder, for eksempel hos tilbydere av sparkesykler, der du premieres når du har kjørt langt. Kanskje man kunne gjort et spill ut av det gode liv?

---

Inga Strümke [34)

• Vant årets Bragepris for sakprosa med boka Maskiner som tenker (Kagge forlag), som har solgt i over 40.000 eksemplarer
• Har doktorgrad i partikkelfysikk og forsker på kunstig intelligens ved NTNU.
• Fast gjest i programmet Abels tårn på NRK og skriver teknologispalte i Morgenbladet
• Styremedlem i Norsk råd for digital etikk
• Dedikert isklatrer

---

Sosial kreditt

Den profilerte forskeren på kunstig intelligens påpeker at mange av oss allerede har valgt å utsette oss for et system med sosial kreditt gjennom måten vi presenterer oss selv på sosiale medier.

– Vi ber en stor mengde mennesker vi ikke kjenner evaluere det vi fyller livene våre med. Vi lengter etter sosial aksept og tilbakemelding, og vi overlater det til algoritmene.

– Må vi regne med en framtid der vi får poeng og poengtrekk for alt vi gjør, slik kommunistpartiet har innført i Kina?

– Vi ser at det er meget mulig, og vi beveger oss i en retning hvor det er enkelt å gjøre, fordi det ligger så mye data om oss overalt. Bedrifter gir oss jo kreditt allerede, så spørsmålet er om staten vil gjøre det i framtiden. I Norden i dag ser jeg heldigvis ingen tegn til at det er i ferd med å skje. Det offentlige er per i dag de som tolker personvern aller strengest.

Tas på alvor

Strümke har gått fra å være en relativt anonym person i Norge til å opptre i alle kanaler i løpet av det siste året. På Arendalsuka i høst var hun i ilden 15 ganger. Boka hennes har solgt i over 40 000 eksemplarer. Kunstig intelligens er i vinden.

– Jeg så definitivt ikke dette komme. Forlaget var usikker på om kunstig intelligens var noe å satse på. Men jeg føler meg fortsatt som den samme, en litt kaotisk forsker som mest av alt bare har lyst til å komme seg ut på tur.

– Men du har kanskje fått noen nye muligheter?

– Helt klart. For å ta et eksempel: For ett år siden slet jeg med å komme i kontakt med stortingspolitikere. Nå hører de villig på meg og tar meg på alvor. Det gjelder samtlige partier. Så jeg opplever at min forskning er med på å påvirke den retningen som samfunnet tar. Det er en utrolig god følelse.

Maskinen: «Ikke dø!»

At datamaskiner slår mennesker i sjakk er ikke mer sjokkerende enn at en motorsykkel kjører fra sprinteren Usain Bolt, skriver Strümke i bestselgerboka. For henne er ikke kunstig intelligens noe mystisk, slik det er for mange av oss andre. Men hun kan bli overrasket hun også.

I et intervju med bladet Fri Flyt tidligere i år fortalte hun om en samtale hun hadde med Bings chatbot. Det handlet om hennes store lidenskap for isklatring. Veldig fort penset Bing samtalen inn på fare og død. Bing lurte på hva Inga tenkte om døden og sa at den ikke ville at hun skulle dø.

– Mine eksistensielle tanker kommer enn så lenge ikke fra maskiner. Jeg blir på grensen til provosert når folk sender meg skjermbilder av oppsiktsvekkende ting chatboter har sagt. De gjenspeiler jo bare tekster de har trent seg opp på. Jeg syns det er dårlig tidsbruk av mennesker å lese maskingenerert tekst. De kan inneholde gode formuleringer, men de er ikke meningsfylte av den grunn.

Et av de vanligste spørsmålene folk stiller til chatboter er faktisk: Kan jeg få snakke med et menneske?

—  Inga Strümke, forsker på kunstig intelligens

– I boka skriver du at bevissthet kan beskrives som følelsen av å være seg selv. Kan maskiner få den følelsen?

– Jeg tror absolutt at de kan få det. For er det noen som er flinke til å analysere sine egne tilstander, så er det maskiner. De har jo mye mer oversikt over hva som skjer inni dem selv enn det vi mennesker har.

– Kanskje maskiner i framtiden må gå til psykolog?

– Ja, kanskje det. Heldigvis er det lettere å omprogrammere maskiner enn mennesker. Hvis maskinen har et traume, tror jeg det lettere kan slettes fra hukommelsen, sier Strümke og ler.

Trussel for menneskeheten

I boken Maskiner som tenker forteller hun at 170 AI-forskere spådde følgende for ni år siden:

• At AI ville nå igjen menneskelig intelligens innen 2050 og superintelligens innen 2080.
• At det er en tredjedels sannsynlighet for at denne utviklingen vil være en trussel for menneskeheten.

– Jeg må starte med å si at dette er en spekulasjon. Det er magefølelsen til relevante folk, men dog magefølelse. Superintelligens eller overmenneskelig intelligens finnes allerede, men jeg deler ikke frykten for at det skal true menneskeheten. Det jeg er mer bekymret for er at vi mennesker skal slutte å ta beslutninger og slutte å se konsekvensene av beslutninger som tas på våre vegne av maskiner. Derfor må vi vri på forskningsinnsatsen. I dag handler det om å gjøre maskinene bedre. Vi må forske tilsvarende på hvordan vi ivaretar sikkerheten.

Strümke rister på hodet av denne mangelen. Hun trekker følgende sammenligning:

– Tenk om vi i forrige århundre bare hadde utviklet fly for alle pengene og ingen hadde tenkt på sikkerheten. Da hadde alle flyene falt ned i hodet på oss. Så ja, akkurat nå synes jeg utviklingen er uheldig.

Akkurat nå synes jeg utviklingen er uheldig.

—  Inga Strümke, KI-forsker

– Er det i våpenindustrien at AI blir mest skremmende?

– Nei, jeg tror det er gjennom sosial manipulering. I alt som kan utgjøre en trussel mot demokratiet. Det foregår så mye manipulativ informasjonsformidling at det skaper konflikter mellom oss. Selv om vi lever i en postmoderne verden der alle kan ha sin egen sannhet, er det likevel skummelt at vi mister en felles virkelighetsforståelse. Det gjør at vi mister evnen til å diskutere med hverandre.

Ønsket om et menneske

– Forstår du at folk kjenner på digital avmakt?

– Ja. Et av de vanligste spørsmålene folk stiller til chatboter er faktisk: Kan jeg få snakke med et menneske? Vi stoler jo ikke på maskinene, vi vet at de ikke har noen interesse for å sette seg inn i vår situasjon. Så det er et paradoks: Vi skal effektivisere og digitalisere som bare fy, mens kundene sitter med ett eneste ønske: å få snakke med et menneske.

– Hvorfor er det ingen som går motsatt vei?

– Fordi driveren i verden er økonomisk vekst. Dette er noe av det som klør og bekymrer meg. Hvorfor kan vi ikke bruke noe av overskuddene til å beholde menneskene, selv om maskiner kan gjøre jobben billigere. De gjør likevel ikke samme jobben. De gode møtene mellom mennesker forsvinner, og de gjør livene våre fattigere. Livskvalitet belønnes ikke i dagens økonomiske system. Jeg syns det er gått for langt.