Maskinene vi skaper for å erobre verden, ender med å erobre oss. Dette er advarselen i mange science fiction-fortellinger – fra Mary Shelleys gotiske roman Frankenstein (1818), til Isaac Asimovs robotbøker fra 1950-tallet. Eller Terminator-filmene med Arnold Schwarzenegger de seneste tiårene.
Men med utviklingen av mer sofistikert kunstig intelligens, er det et annet moralsk dilemma som reiser seg stadig oftere: Fra å handle om frykten for at teknologien kan skade oss, spør filmskapere og filosofer seg stadig oftere: Har vi et moralsk ansvar for det kunstige «livet» vi skaper ved hjelp av kunstig intelligens?
Drept daglig
Dette spørsmålet er oppe i TV-serien Westworld, som i forrige uke åpnet andre sesong på HBO. Serien handler om en western-inspirert fornøyelsespark, hvor bemidlede mennesker kan leve ut alle sine lengsler og fantasier. Robotene er så realistiske at man ikke kan skjelne dem fra virkelige mennesker. De blir skutt og voldtatt om dagen, fikset opp og «gjenopprettet» på kvelden med minnet slettet – i en evig runddans.
Etter hvert begynner noen av robotene likevel å huske det som har skjedd dem tidligere – og med dette starter et gryende opprør mot den tilværelsen som er skjenket dem: De vil bryte sine lenker og smake på den samme friheten som sine skapere: menneskene. Sesong 1 avsluttet nettopp med at en av robotene rømte fra parken og beveget seg anonymt rundt blant menneskene.
LES OGSÅ: Nå skal maskinene få menneskerettigheter
Kunstig bevissthet
Filosof Einar Duenger Bøhn ved Universitetet i Agder, sitter på toget til Trondheim da vi får tak i ham – på vei til en paneldebatt om kunstig intelligens.
– Jeg liker Westworld svært godt. Særlig fordi den får fram kunstig bevissthet. Kunstig intelligens og kunstig bevissthet er nemlig to helt forskjellige kategorier, sier Bøhn.
Det er også med utviklingen av kunstig bevissthet at den etiske diskusjonen skjerpes, mener Bøhn.
– Når kan vi snakke om å ha et moralsk ansvar ovenfor det kunstige livet vi har skapt?
– Om vi skaper en kunstig intelligens, mener jeg ikke vi har noen moralsk forpliktelse overfor den. Jeg kan slå av maskinen min med god samvittighet. Men om maskinen har bevissthet og sier til meg: «Ikke slå meg av, jeg vil leve». Da oppstår det moralske spørsmål vi må undersøke. Det er bevisstheten som er tusenkronersspørsmålet.
I filmen I, Robot skjer nettopp dette. Idet roboten Sonny skal slås av, spør han om det vil gjøre vondt.
– Når roboten har behov og preferanser, kan jeg ikke lenger bare handle ut ifra eget forgodtbefinnende – da oppstår moralske spørsmål.
Dette er også grunnen til at vi ser en sterkere dyrevernsbevegelse i dag, mener Bøhn.
LES KOMMENTAR: Gjør det noe om maskinene blir smartere enn oss?
Dyrevelferd
– Vi innser at dyrene har bevissthet og behov. Derfor bør vi oppføre oss bedre mot dem. Den samme bevegelsen kan vi få med utviklingen av kunstig bevissthet.
Samtidig påpeker Bøhn at bevissthet i seg selv er et stort filosofisk spørsmål. For hva er det egentlig?
– Filosofer tenker på bevissthet som en slags indre erfaring, om hvordan det er å være i en tilstand. Det fanger du ikke ved kompleks problemløsning, som med kunstig intelligens. Per i dag er vi svært langt unna å gjøre spranget fra kunstig intelligens til kunstig bevissthet.
Bøhn sier dagens forskning på kunstig bevissthet er på omtrent samme nivå som kunstig intelligens var på 1950-tallet. Det finnes noen spede forsøk på å teoretisere rundt det.
– I dag bygger vi kunstig intelligens på algoritmer, men jeg ser ikke noen overgang fra kompleks adferd til bevissthet.
Bøhn er derfor opptatt av å skille mellom intelligens, bevissthet og moral.
LES OGSÅ: Anmeldelse av Westworld, sesong 1
Fiksjonens nytte
– Det er høyst uklart hvordan disse henger sammen, men det gjelder også for oss mennesker.
Samtidig utelukker han ikke muligheten for utvikling av kunstig bevissthet i framtiden.
– Hvis man tenker på menneskelig bevissthet som et naturlig fenomen, bør den kunne gjenskapes på en eller annen måte. Men jeg vet ikke hvordan, det er fortsatt ikke noen god teori om hva som egentlig skaper bevisstheten i hjernen.
– Så teologien har kanskje et bedre svar?
– Det vil man kanskje tenke i Vårt Land. Selv tror jeg bevisstheten er et stort mysterium. Selv om man finner korrelasjoner med hjernestrukturer og vet at bevisstheten vil opphøre om jeg ødelegger hjernen, så vet vi ikke hvordan hjernen skaper bevissthet.
– Hvilken nytte har du som fagfilosof av serier som Westworld?
– Jeg leser mye science fiction. Flere av disse bøkene har vært nyttige, fordi de stimulerer forestillingsevnen og setter følelsene i gang. Og jeg tror forestillingsevnen er veldig viktig for filosofer – slik at vi unngår å låse oss fast. Men på detaljnivå er disse fortellingene sjeldent interessante fra et faglig perspektiv.
