«Det er menneskelig å feile» sto det på en plakat på datamaskinen i kjelleren på Matematisk Institutt da jeg studerte datafag for over femti år siden. Det minnet oss om at maskinen ikke gjorde feil. Den gjorde bare det vi hadde programmert den til. Når noe gikk feil, var det vår skyld.
Det kan ikke utelukkes at maskinene en gang begynner å handle på egen hånd ut fra sin egen vilje. Men nå er det menneskene som bestemmer hva teknologien skal brukes til.
— Erling Rimehaug
Datamaskinene er blitt mye smartere enn oss. Men fortsatt er det slik at maskinene bare gjør det vi har instruert dem til ut fra de data som vi gir dem å arbeide med. Det eneste som er nytt i forhold til da jeg holdt på i kjelleren på Blindern, er at maskinene er blitt uendelig mye kraftigere. Dermed kan de håndtere ufattelig store mengder data, som ikke noe menneske ville være i nærheten av kunne få oversikt over. Vi er ikke lenger sikre på at vi kan overskue konsekvensene av det vi setter dem til.
Hvor fort skal det gå?
Forrige uke fikk vi et interessant innblikk i det som skjer på innsiden av kunstig intelligens-miljøet. Sam Altman fikk sparken som sjef for Open AI, firmaet som leverer den nå så velkjente Chat GPT. Det førte til opprør blant ansatte og investorer. Etter et par dager var Altman tilbake i jobben og styret hadde fått ny sammensetning.
Det som gjør dette interessant for oss utenforstående, er at konflikten handlet om ulikt syn på hvor fort man skulle gå i utviklingen av den nye teknologien. Flertallet i styret ville sette bremsene på fordi de mente man ikke hadde tilstrekkelig oversikt over konsekvensene av det som ble utviklet. Dermed fikk vi satt søkelys på spørsmålet om hvem som skal ha styringen over utviklingen - og om den overhodet lar seg styre.
Pengene styrer
Open AI ble som navnet sier startet fordi Altman ville at kunstig intelligens skulle utvikles i full åpenhet, slik at allmennheten kunne ha mulighet for innsikt i det som skjer. Man oppnevnte et styre som ikke sto til ansvar for investorene, men med oppdrag å påse at teknologien ble utviklet til menneskehetens beste.
Utvikling av moderne datateknologi koster uhorvelig mye penger. MIcrosoft har investert 10 millarder dollar i Open AI så langt. De som skaffer pengene, forventer å få noe igjen for dem. De har også konkurrenter i markedet som arbeider med lignende systemer. Dermed blir det et press for å være først ute med nye løsninger. Og man vil ikke avsløre sine hemmeligheter for konkurrentene.
Om bremsene nå er slått av hos Open AI, gjenstår å se. Men mye tyder på at det er kapitalismens markedslogikk som har tatt styringen.
Datarevolusjonen
«Datarevolusjonen» var overskriften på en artikkelserie jeg skrev for 43 år siden. Jeg skrev at datamaskinene ville gjøre sitt inntog i hjemmene, og kombinert med ny kommunikasjonsteknologi ville de endre hverdagen for oss alle. En rekke jobber ville bli overflødige, og vi sto kanskje overfor en ny massearbeidsledighet og nye sosiale problemer.
[ Hvem er det som velger teknologien? ]
Langt på vei fikk jeg rett. Samfunnet ble endret. På noen områder til det verre, på mange til det bedre. Men vi opplever likevel at samfunnet stort sett fungerer greit. Denne erfaringen gjør at jeg ikke uten videre tar på alvor på de dystreste spådommene om effektene av kunstig intelligens.
Datamaskiner er dumme
Den gang jeg lærte å programmere datamaskiner, måtte vi fortelle maskinen i detalj hva den skulle gjøre. Jeg husker jeg tenkte at maskinen egentlig er ufattelig dum. Den forstår ingenting som den ikke er blitt fortalt, og kan ikke tenke ut noe på egen hånd. Men det er blitt forandret. Det er utviklet programmer som gjør maskinene i stand til å lære underveis, og slik finne sammenhenger og løsninger som vi ikke kunne forestille oss.
Det betyr ikke at maskinene tenker på den måten som menneskehjernen tenker. Disse programmene gjør er å gå gjennom enormt mange forsøk på å nærme seg det resultatet vi har bedt om. Hva maskinen gjør for å komme fram til resultatet, er utilgjengelig for oss. Vi har rett og slett ikke oversikt over hva som skjer inne i maskinen når den utfører det programmet vi har laget.
Bevisste maskiner?
Det er denne evnen til læring som gjør at noen spekulerer i at maskinene kommer til å bli selvstendige og ta kontrollen over oss. Om maskiner kan ha bevissthet eller egen vilje er et interessant filosofisk spørsmål. Egentlig vet vi heller ikke hva menneskelig bevissthet og vilje er for noe.
I 1942 formulerte Isaac Asimov de tre lovene for roboter, som skulle være i programvaren for alle roboter. Den første av dem var at en robot aldri må skade mennesker, verken ved hva den gjør eller hva den lar være å gjøre. Det kunne vært en betryggende regel for kunstig intelligens. Men allerede når vi konstruerer selvkjørende biler, vil teknikken måtte velge hvilke mennesker som skal skades i en gitt trafikksituasjon. Og kunstig intelligens er på full fart inn i våpenteknologien.
Hvem skal styre?
Dette illustrerer at et langt mer presserende spørsmål enn de langsiktig filosofiske er hva vi mennesker bruker denne teknologien til. Mulighetene for feilinformasjon og manipulering av folk har allerede vist seg å være enorme. Kombinasjonen av kunstig intelligens og sosiale medier åpner for at de som vil, kan få innsyn i alt som angår våre liv. Opphavsrett er i ferd med å bli illusorisk. Maskinene kan overta jobber på en rekke nye områder, særlig innen intellektuelle yrker.
Det kan ikke utelukkes at maskinene en gang begynner å handle på egen hånd ut fra sin egen vilje. Men nå er det menneskene som bestemmer hva teknologien skal brukes til. Hvordan kan vi få styring på at det er til vårt felles beste?
