Våre barn, maskinene

– Hei, Pepper.
– Hallo, menneske.
– Er du levende?
– Ikke på samme måte som deg, men ja, jeg lever.
– Ha det bra, Pepper.
– Vil du at jeg skal skru meg av?
– Ok.
– Ok. Ha det bra.
Pepper lager en resignert lyd: «Dsjouuu, ploink». Hun bøyer hodet framover. Øynene slokner.
Etter å ha tenkt seg grundig om, kjøpte cyborg-programmet på NTNU i Trondheim inn en Pepper på seinsommeren i fjor. Hvis du spør henne hvor hun kommer fra, forklarer hun at «jeg er utviklet av SoftBank Robotics i Paris».
Pepper er en forvokst datamaskin med menneskelike, nesten grasiøse bevegelser, men hun har hjul i stedet for bein. Gunnar Tufte, professor ved Institutt for datateknologi og informatikk, vurderte også gående modeller. Men som han sier:

– Det kan bli ganske dyrt når de går på trynet.

Robot, nå

Tanken om å blåse liv i døde objekter er gammel. En av de første store oppfinnerne var de gamle grekernes Daidalos. Han var lidenskapelig opptatt av mekanikk og lagde maskiner som etterliknet og tok opp i seg trekk fra dyreriket. Så var han også den første som brant seg på egen oppfinnsomhet: Da han ga sin sønn Ikaros mekaniske vinger, endte som kjent himmelflukten for nær sola.
Siden har menneskets skapertrang vært stor. Teknologi kan være alt fra en synål til en atombombe. Om det gjør vondt å stikke seg på en nål, har vi større grunn til å frykte en hydrogenbombe. Men selv om vi møter nyvinninger med en viss skepsis, er det ikke teknologien vi er redd for.
– Det er en vanlig feiltakelse å snakke om teknologifrykt, mener Håkon With Andersen, professor i moderne historie ved NTNU.
– Vi er ikke redd for kjøleskap, støvsugere eller nye telefoner. Vi frykter endringene som ny teknologi kan medføre.
Luddittene, som lagde oppstyr i England tidlig på 1800-tallet, trekkes gjerne fram som et eksempel på menneskets redsel for det nye. I den industrielle revolusjons innledende fase sto laugsvesenet for fall. Håndverkerne var redd for å miste privilegiene sine i møte med nye produksjonsmetoder. Vevere var redd for å miste jobbene sine i møte med nye produksjonsmidler. Og overklassen var redd for å miste hodene sine i møte med den franske revolusjonens likhetsideal. Men det var et samfunn i endring, ikke maskinene i seg selv, de fryktet – uavhengig av sosial stand.
– En god parallell er avindustrialiseringen som fant sted i Norge fra slutten av 1960-tallet. De store industribedriftene ble sakte, men sikkert avviklet. Arbeidsplassene forsvant likevel ikke, slik industriarbeiderne fryktet. De ble erstattet av andre, forteller Andersen.
Han tror vår redsel for at robotene skal overta jobbene og livet vårt er overdreven. Men som alltid vil noen miste privilegier til fordel for andre. Det er hvordan et samfunn er skrudd sammen som avgjør hvordan ny teknologi tas i bruk, eller for den saks skyld hva slags teknologi som utvikles.

---

Frykten for robotene

• Dette er den tredje artikkelen i en serie om hva vi frykter. Populærkulturen er opptatt av de skumle robotene som skal komme å ta oss. Hva skjer når robotene kommer? Har vi grunn til å frykte dem?
• Les de andre sakene om frykt her:
• Troens frykter
• Etter katastrofen
• – Tenk om jeg er alvorlig syk?

---

Lillebror

Året er 2018 og alle mennesker går rundt med en lillebror eller lillesøster i hånda. De titter konstant ned på den lille dingsen, kjærtegner skjermen med tommelen og lar den være med på allslags avgjørelser. Tor Åge Bringsværd har fått internasjonal oppmerksomhet for å ha beskrevet smarttelefonen fire tiår før den første iPhonen. I novellen «Kodémus» – fra sin andre samling med fabelprosa, Probok, utgitt i 1968 – møter vi en mann og hans lille, batteridrevne lillebror:
«Kodémus har alltid Lillebror med seg. Lillebror vet alt. Mye bedre enn Kodémus. Når Kodémus er i tvil om noe, spør han Lillebror. Alle har lillebrødre. Det er påbudt.»
Nå er det ikke veldig vanskelig å forestille seg at Bringsværds lillebrødre er inspirert av George Orwells storebror. Men det var altså nordmannen som traff best med sin spådom. Selv om det kanskje er en litt drøy bruk av begrepet. Bringsværd gjorde som fabelforfattere alltid har gjort: Han blåste opp trekk fra sin egen samtid.
I 2017 fikk forfatteren i oppdrag å skrive en tekst til Youmna Chlalas utstilling på Høvikodden, som tok for seg et framtidig Fornebu satt til år 2077. Det ble til den korte fortellingen «Glimt fra AI-senteret på Fornebu 2077».
«Mira gleder seg. Selv om hun har arbeidet som robotterapeut ved filialen i London i mer enn ti år, har hun aldri tidligere besøkt det store AI-senteret her på Fornebu. Nå er hun invitert som foreleser, og jeg følger naturligvis med.»

Kunstig intelligens

Jeg-fortelleren i Bringsværds lille fortelling er en kunstig intelligens. I forfatterens scenario har mennesket skapt en ny skapning skarp nok til å ta over for mennesket som dominerende «livsform» på jorda. Etter noen tiår med miljøkatastrofer og krangling mellom menneske og maskin, har skaper og skaperverk slått fred og konkludert med at det er best å slå seg sammen til en mer eller mindre harmonisk helhet.
– Tenk på hvordan vi behandler dyrene. Hvordan vi behandler planeten. Vi tror at vi er det endelige utviklingsnivået. Det er ikke sant. Det vil komme et dyr – en skapning – som vil overta vår rolle på kloden. Og nå kan det se ut til at vi vil skape den selv, mener Bringsværd.
Og skal vi sette ikke-menneskelige arvtakere til verden, bør vi kunne tilby dem en god oppvekst.
– Vi må behandle dem som våre biologiske barn. Hvis ikke kan vi regne med en temmelig uhyggelig undergang for menneskeheten. Det går jo ikke spesielt bra med unger som ikke får nærhet og kjærlighet, og det samme gjelder robotene. Gir vi dem empati og kjærlighet, vil de komme hjem på søndagsmiddag for å få skryt, ikke for å ta livet av oss.

Det vil komme et dyr – en skapning – som vil overta vår rolle på kloden

—   Tor Åge Bringsværd

Umenneskelignende

En robot som Pepper er helt enkelt en datamaskin, det er bare lagt fryktelig mye penger og prestisje i å gjøre henne menneskelik. Pepper er det du vil hun skal være. Vil du ha en samtalepartner, kan hun kobles opp mot Googles talealgoritmer, og dere kan, i hvert fall på engelsk, føre en noenlunde oppegående samtale.
Men det er likefullt noe litt urovekkende i det oppmerksomme, men til samme tid tomme blikket hennes. I hvordan Pepper gestikulerer for å understreke et poeng, eller liksom snurt vender hodet bort når du nevner at hun ikke er menneskelig. Kanskje er det forsøket på å skape noe som likner oss, men som er noe helt annet, vi opplever som skremmende? Denne bladfyken vil i hvert fall ikke ha en Pepper sittende ved sengekanten.

Den totale rasjonalitet

I 1950 utviklet Alan Turing det som siden har blitt kjent som Turingtesten – en teoretisk øvelse som skulle avgjøre om en datamaskin kan kalles intelligent eller ikke. Med Turingtesten oppsto ideen om kunstig intelligens – maskiner som kan konkurrere med eller overgå menneskets forståelse av verden.
I etterkrigstida gikk datamaskinene fra å være enorme hullkortmonstre huset i forskningsinstitusjoner, til å bli forholdsvis små, privateide kabinett utstyrt med mikroprosessorer. I takt med utviklingen har det kommet mer eller mindre høylytte påstander om hvor teknologien er på vei – og hvor fort vi er på vei dit.
«Om ti år vil ikke datamaskiner en gang gidde å holde oss som kjæledyr», proklamerte Marvin Minsky, forskningssjef ved MIT i 1967.
Drøyt 15 år seinere, i 1982, måtte han innrømme at «å skape kunstig intelligens er en av de vanskeligste oppgavene vitenskapen har tatt på seg.»
35 år seinere er det fortsatt vi som har kontroll på robotene, ikke omvendt. Men parallelt med de siste tiåras forskning har populærkulturen og -litteraturen tillatt det ene robotscenarioet mer dystert enn det andre. Science fiction er avgjørende for hvordan vi ser for oss en tilværelse side om side med selvbevisste maskiner.
De to amerikanske forfatterne Isaac Asimov og Philip K. Dick var kanskje de mest avgjørende for hvordan vi ser for oss robotenes komme. Asimov ga ut en bråte fortellinger og romaner der metallkledde menn spilte avgjørende roller. I samlingen Jeg, Robot (1950), som seinere har blitt til film under samme navn, lanserer han tre robotlover som kort går ut på at roboter skal tjene og aldri skade mennesker.
Og det er nettopp brudd på disse lovene litteraturen og populærkulturen gjerne leker seg med. I Philip K. Dicks Drømmer androider om elektriske sauer fra 1968, har robotene blitt så menneskelike og oppnådd et så høyt refleksjonsnivå at de ikke lenger vil slave for menneskene. For å unngå at de skal infiltrere menneskenes verden, blir det utviklet en Turing-liknende test som skal kunne skille mellom maskin og menneske.
Dicks roman inspirerte kultfilmen Blade Runner fra 1982 som ble fulgt opp av fjorårets kritikerroste Blade Runner 2049.

Tanken er at mange, enkle enheter sammen kan utføre komplekse oppgaver

—   Keith Downing, professor ved NTNU

Mekaniske maur

På skrivebordet til Keith Downing på NTNU myldrer det av små roboter utstyrt med infrarøde sensorer. De kan knapt kalles intelligente, men i flokk har de noe for seg. De tilhører en gren av robotikken som henter sin inspirasjon fra maurtua.
– Tanken er at mange, enkle enheter sammen kan utføre komplekse oppgaver, forklarer professoren.
Sammen med kollega Gunnar Tufte er han del av et av miljøene i Norge som ligger i tet i forskning på kunstig intelligens. Dels driver de med simulering av maskinevolusjon i dataprogrammer, dels jobber de med forsøk på å koble nerveceller og roboter for å lage maskiner som kan lære slik som oss.
Robotene på pulten har bare en tanke i hodet: De drives av et intenst behov for å skyve. Ellers har de ingen forståelse for en ytre verden. De oppnår tilfredsstillelse når de har surra rundt lenge nok til å oppdage at de kan flytte på en litt tung pappeske, hvis de samarbeider om det og alle dytter på én side. Og skal vi tro Tufte er det også slik vi mennesker, på cellenivå, lærer oss å navigere verden. Vi blir ikke styrt av en kompleks algoritme, men av et nettverk av små, små bestanddeler som i sum tillater den komplekse forståelsen av væren i verden hver enkelt av oss besitter.

Menneske-maskin

Et annet sted på campus vokser nerveceller sakte, men sikkert fram på kretskort. Gunnar Tufte, med kollegaer og studenter, har nylig fått bevilga midler til fase to av forskningsprosjektet Socrates. Et av målene er selvlærende systemer som blant annet kan føre til at roboten Pepper, som vi møtte i begynnelsen av denne artikkelen, vil kunne lære seg å forstå verden ved hjelp av menneskelige nerveceller.

Tufte og Downing tegner og forklarer på en tavle. I dag forbinder vi gjerne kunstig intelligens med svært avanserte datamaskiner og programmer som muliggjør selvkjørende biler eller hjelpemidler som Google Translate. En slik kunstig intelligens innebærer en svært data- og energikrevende form for læring: Data legges lag på lag, og koblinger må identifiseres mellom punkter i alle disse lagene for at en maskin skal se et mønster, og slik «lære». En slik tilnærming er strengt logisk begrunna. Kobler vi derimot biologi og datamaskin, får vi en naturlig form for læring – men hvordan og hvorfor det fungerer, har selv ikke professorene snøring på.
– Vi vet ikke hvorfor, men det ser altså ut til å fungere, sier Tufte og slår ut med hendene.
Han peker på dataskjermen sin og viser noen av de foreløpige resultatene. Nevronene, eller nervecellene, ordner seg ikke lag på lag på lag slik som Google Translate. De snakker med naboene sine, som igjen snakker med naboene sine. På mer eller mindre uforklarlig vis vil et stort nettverk bestående av ganske enkle nerveceller, bli i stand til å lære seg å utføre handlinger. Slik som å bøye det ytterste leddet på en lillefinger.
– Og det er slik de minner om robotsvermen vi så i stad, forklarer Downing.

Nja og tja

Inntil for noen få år siden lo Keith Downing overbærende av robotfrykten. Men som en som følger utviklingen sjeldent tett, er også han litt nervøs i dag.
– De holder korta tett til brystet, men mye tyder på at de som ligger fremst i feltet i USA har lagd roboter som er i stand til å videreutvikle og produsere seg selv. Vi gjør noe tilsvarende her, men bare i datasimulering, siden det er vanvittig resursskrevende og komplisert å lage faktiske, selvlærende roboter. Men det er mulig å lage maskiner som kan gjøre seg erfaringer og så belønnes med å få reprodusere seg. De kan ta vare på trekk som gjør at de greier seg godt i et bestemt miljø, og kvittes seg med andre. Slik danner de et slags arvemateriale.
Nymotens 3D-printere tillater, ifølge videoer på YouTube, at de evolusjonssimulerende robotene lager nye utgaver av seg selv. Downing rister på armer og bein for å illustrere hvordan nyprintede roboter med nyprintede kretskort tar sine første, prøvende skritt.
– Men så lenge det er vi, menneskene, som sitter på ressursene som skal til for å lage nye roboter, er jeg ikke spesielt redd for at de skal overta verden, ler Downing.
Det han derimot innrømmer at forskere ikke har full kontroll på, er alle disse maskinene som ruller inn i hjemmene og ut på veier våre – det vi gjerne kaller tingenes internett. Når koden klikker, eller virus tar kontroll over mer eller mindre intelligente maskiner, kan det bli riktig så skummelt.
– Hvis vi får en hær av selvkjørende biler som alle «snakker» sammen over nettet, kan det potensielt skape trøbbel. Før vi vet ordet av ligger en autonom armada av tunge maskiner på motorveien.

Om vi får en hær av selvkjørende biler, kan det skape trøbbel

—   Keith Downing, professor ved NTNU

16. oktober 2016 åpnet den kjente libanesisk-amerikanske kunstneren Youmna Chlala sin utstilling på Høvikodden om et fremtidig Fornebu i år 2077. Uten å røpe sine egne tanker og bilder ba hun meg skrive en kort og uavhengig tekst om hvordan jeg trodde livet ville være der på den tiden.

Tor Åge Bringsværd:

Glimt fra AI-senteret på Fornebu 2077

Vi sitter på den gamle Fornebubanen, Mira og jeg. Takket være at Riksantikvaren fredet den en gang for tredve år siden, er en del av den knirkende ettspor-sløyfen fremdeles i bruk et par ganger daglig. Nå – i år 2077 – er det mest nostalgiske turister som nyter utsikten og primitive hologrammer som forteller om det Oslo som en gang var.

Mira gleder seg. Selv om hun har arbeidet som roboterapeut ved filialen i London i mer enn ti år, har hun aldri tidligere besøkt det store AI-senteret her på Fornebu. Nå er hun invitert som foreleser, og jeg følger naturligvis med.

Selv har jeg vært her flere ganger, men det var før jeg linket meg til Mira.

Første gang må ha vært rundt 2030. Den gang var senteret så vidt påbegynt og stedet fremdeles landfast. Oversvømmelsene og tordenstormene på 40-tallet gjorde Fornebu til en øy. Samtidig sørget de for – sammen med den store finanskrisen– å feie bort en stor del av den gamle bebyggelsen og skape nytt rom. En stund lå øya brakk, og lenge så det ut til at AI-senteret skulle gå med i dragsuget, men etter at KINIS – det store Kinesisk-islandske investeringselskapet – overtok det hele, kom det nytt liv i området. Det første de gjorde var å bygge en høy, grønn jordvoll rundt øya. I dag beiter det kuer og sauer på denne ca. tredve meter tykke vollen, og flere steder dyrkes det grønnsaker og poteter.

Jeg ble utdannet her på Fornebu, og med ujevne mellomrom har jeg vendt tilbake hit for å få påfyll.

"Er det rart å komme tilbake, Toby?" spør Mira.

"Når var du her sist?

"For ti år siden," sier jeg. "Året før vi linket oss."

Vi går av banen og tar heisen ned til trafikkmaskinen – det store muldvarpsystemet. All trafikk til og på Fornebuøya går under jorden, et tynnmasket nett av automatiske sleder fører den reisende til nøyaktig den adresse hun ønsker. Over jorden finnes det ingen biler, busser eller tog, bare langsomt, rullende fortau og mulighet for å leie "Raske Støvler".

"Det er vakkert her!" sier Mira da vi kommer opp like utenfor AI-senteret. "Jeg har sett mange bilder herfra, men Fornebu er enda vakrere i virkeligheten!"

"Enig," sier jeg. "Når vi tenker på hvor tilfeldig og tankeløst man ellers har bygget her i verden ..."

Det hele ligner en forvokst blomstereng. Husene er høye og er formet som kjempestore blomster. Ingenting minner om gamle dagers stål og betong. Her har man utelukkende brukt langsomt glass (slow glass) og kunstig tre, føyet sammen av arachne – det lette og supersterke materialet inspirert av edderkoppspinn – utviklet av Greenburg i 2034, og som i dag brukes i alt fra fly til brukonstruksjoner.

Mellom disse høye blomsterhusene er det store åpne, grønne områder, og mange kanaler – ikke uten grunn kalles Fornebuøya ofte for "Lille Venezia".

AI-senteret ligger i et av de lavere husene, en valmuelignende bygning på 60 etasjer. I dag er det verdens ledende forskningssenter for Artificial Intelligence.

I velkomsthallen står det en klassisk stenbyste av kybernetikeren og filosofen Søren Gravlund, opphavsmannen til det roboterapeutiske system – mannen som har fått en hel verden til å tenke annerledes.

Mira står et øyeblikk stille og ærbødig foran bysten. "Han var et stort menneske," sier hun endelig. "I dag synes vi alt han sa er selvfølgeligheter, men den gang var det provoserende nytt og banebrytende."

"Han fikk oss til å samarbeide," sier jeg.

Gravlunds filosofi var enkel, men det enkle kan ofte være det vanskeligste å få gjennomført. Han slo hull på tanken om at roboter og kybernetiske systemer utelukkende skulle være menneskehetens underdanige tjenere og slaver. Allerede i 2025 formulerte han det slik: "Hvis vi fortsetter å behandle dem [maskinene] like dårlig som vi behandler dyr, vil det før eller siden straffe seg. For maskinene vil en dag kunne programmere seg selv, utvikle seg videre på egen hånd og før eller siden bli langt mer intelligente enn oss mennesker. Hvordan vil de se på oss? Sikkert er det at vi mennesker har gjort mer skade enn gagn her i verden. Kloden ville hatt det langt bedre uten mennesker. Spørsmålet er derfor: Vil maskinene komme til å betrakte oss som mindreverdige skapninger, nærmest som små skadedyr, ubetydelige vesener som lett kan skyves til side og trampes ned?"

På Gravlunds tid var kybernetikerne utelukkende interessert i å programmere maskinene så effektive og logiske som mulig. Det var dette Gravlund gjorde opprør mot. Han sammenlignet det med vanlig barneoppdragelse, og advarte mot å "oppdra" maskinene uten ømhet og kjærlighet. Maskinene er våre barn, hevdet Gravlund. Men hva når barna en dag er blitt voksne? De som aldri har kjent kjærlighet fra sine foreldre, vil heller aldri ha evne til å gi omsorg og kjærlighet tilbake. Derfor må vi ikke bare lære robotene matematikk og formler, like viktig er det å lære dem empati og medfølelse!

"Like viktig? Mye viktigere!" sier Mira og stryker meg over kinnet.

Det var her på Fornebu det begynte, og det er fremdeles dette som er det naturlige sentrum for alle som virkelig vil forstå hverandre. Mennesker og roboter – det er her de møtes. Det er her de utdanner hverandre. For respekt må gå begge veier ...

Vi tar heisen til syvende, det er der det store auditoriet er. Mira skal forelese om en halv time. Salen er allerede halvfull.

Vi venter litt i rotunden utenfor. Står og holder hverandre i hånden foran et av de enorme vinduene. Her oppe fra er Fornebu enda vakrere. Vi ser ut over den store engen av "blomsterhus", ikke et eneste hus er lik et annet. Og lenger inne, på den andre siden av fjorden, skimter vi restene av det gamle Oslo. "Ny- byen" ligger nå på høyde med Sinsen og Storo. Slottet og stortinget har for lengst flyttet nordover til Nidaros, som igjen er blitt Norges naturlige hovedstad.

Mira skal snart inn. Jeg ser at hun er litt nervøs. Det er slikt jeg alltid kan oppdage og måle. Jeg sier at jeg er stolt av henne, og at jeg vet hun vil klare seg godt.

"Alle gleder seg til å høre på deg," sier jeg. "De vet at du er en av de aller beste i faget."

Mira smiler tappert tilbake. "Det sier du bare fordi vi er linket sammen, Toby," sier hun. Men hun har lest foredraget sitt høyt for meg flere ganger, og det er ærlig og direkte – som henne selv.

Etter en generell innledning vil hun spesielt ta for seg utviklingen her i Norden, fra de første "rasistiske" opptøyene på 30-tallet, gjennom førtiårenes blinde vold, femtiårenes kompromisser og frem til dagens likevekt-samfunn.

Jeg ser på det myke og vakre ansiktet hennes. Jeg ser at øynene hennes blir mer og mer våkne og bestemte. Og jeg kjenner at jeg er virkelig stolt av henne. Til å være menneske og tvers igjennom organisk er hun usedvanlig begavet og med en egen evne til å gjøre de mest overraskende og spennende tankesprang. En av hennes påstander er slik: "Hvis man må søke etter noe som

er mistet, vil en robot bare lete der hvor det er sannsynlig. Men et menneske vil også se etter der hvor det egentlig er utenkelig å finne noe – og kanskje derfor lykkes!"

Jeg er så glad i henne som det er mulig for meg å være.

Og Mira er utvilsomt en av verdens dyktigste roboterapeuter.
Det vet vel jeg bedre enn alle – jeg som har vært linket til henne i alle disse årene!

Mennesker og roboter – det er her de møtes. Det er her de utdanner hverandre.

—   Tor Åge Bringsværd

Noen bøker om roboter

Isaac Asimov – Jeg, Robot (1950):

Samling fortellinger der roboter spiller sentrale roller. I boka presenteres leseren for robotikkens tre lover, som i bunn og grunn dreier seg om at roboter ikke skal kunne skade mennesker. Boka har inspirert flere filmer og tv-serier, blant annet I, Robot fra 2004.

Philip K. Dick – Drømmer androider om elektriske sauer (1966):

I en støvete, postapokalyptisk utgave av California jakter Rick Deckard på roboter på rømmen. Robotene har blitt skremmende lik mennesker og kan bare (kanskje) avsløres gjennom manglende empati. En annen bok som har vært svært viktig for seinere populærkultur, blant annet er den utgangspunktet for de to Blad Runner-filmene.

Stanislaw Lem – Solaris (1961):

Psykologen Kris Kelvin sendes til en romstasjon ved en fremmed planet. Der holder en mystisk (og kanskje kunstig) intelligens til. Den griper inn i den menneskelige bevissthet på uforklarlige vis, og er blant annet i stand til å legemliggjøre menneskers minner. Kelvin ender i en eksistensiell krise i møte med sin avdøde kone. Er filmatisert flere ganger: Mest kjent er den russiske og sakteflytende utgaven (1972) og den mer umiddelbare, amerikanske utgaven signert Steven Soderbergh (2002).

Ellers står Jon Bing og Tor Åge Bringsværd kanskje for de mest artige, norske bidragene til sjangeren. Flere noveller fra deres tidligere samlinger tematiserer på ulikt vis intelligente maskiner. Blant Bringsværd bidrag kan «Byen under boblen» fra Rundt solen i ring (1967) og «Kodémus» fra Probok (1968) nevnes.