Det blir omtalt som vår nye gud - som ikke kan kontrolleres

Vi er allerede omringet av kunstig intelligens (KI), blant annet chat-roboter, reklame og nyheter som blir plukket ut for deg automatisk.

Under Lerchendalkonferansen diskuterte Norges beste hoder kunstig intelligens, hvor er vi egentlig på vei?

Om vi ikke endrer retning, kan vi gå mot en mørk fremtid, tror Tonje Hessen Schei, som har regissert dokumentaren iHUMAN, en film om kunstig intelligens.

Hun har troen på at vi er i ferd med å skape noe som er smartere enn oss mennesker. Som kan løse fattigdom, sykdommer og klimaproblemene, blant annet. I enda større grad enn det KI kan.

– Når jeg spurte han om han var redd, og han sa ja uten å blunke, gikk det kaldt nedover ryggen min.

–  Jeg har sett hvor fort teknologien går, og utvikler seg de siste årene. Det er naivt å tro at kunstig generell intelligens (KGI) overhodet ikke er mulig.

Superintelligens - det siste vi gjør

KGI blir av flere omtalt som en bevisst skapning, med egne mål. Tonje er usikker på hvordan KGI vil se ut når det kommer.

– Det er et veldig stort spørsmål, hva er egentlig bevissthet? Jeg har møtt veldig mange av dataingeniørene som er noen av de fremste i verden på dette feltet, og de har mange forskjellige diffuse definisjoner på dette.

– Når KGI begynner å lage egen KGI, da får du det vi kaller superintelligens, intelligens så å si uten begrensninger. Den kan potensielt kan dra ut i verdensrommet, kolonisere seg og i følge Jürgen Schmidhuber, ofte omtalt som faren av KI, vil denne KGIn utforske universet på en måte vi ikke kan fatte selv.

– For meg handler det ikke så mye om å lage en kunstig intelligens som har en bevissthet, men at vi er iferd med å utvikle en teknologi som er enormt effektiv, og finner løsninger som vi ikke forstår, og der er vi allerede kommet langt på vei i dag. 

– Jürgen Schmidhuber mener han allerede har laget en robot som er nysgjerrig og kreativ, så det er jo starten på en slags bevissthet kanskje? 

Det er flere rundt om i verden som har KGI som målet med arbeidet sitt. Flere selskaper skal ha satt seg som mål å utvikle KGI innen 5 år. forteller Tonje.

Ilya Sutskever, som er forskningsleder i Open AI tror vi er i ferd med å skape noe som er fullstendig annerledes fra det vi har laget så langt. Han er redd det blir utviklet som våpen hvis vi tar feil valg underveis.

– For eksempel falske nyheter kommer til å bli tusen millioner ganger verre, og data-angrep kommer til å ha en helt annen skala enn i dag, sier han i filmen.

Han blir støttet opp av blant andre Max Tegmark, som mener KGI vil enten bli det beste eller det verste som har skjedd menneskeheten.

Møtene med Ilya gjorde et stort inntrykk på regissøren.

– Det å se frykten i øynene hans, han synes at det utvikles så enormt fort, uten at det er satt på et rammeverk for det, det er på vei til å å komme utenfor vår kontroll. Da jeg spurte han om han var redd, og han sa ja uten å blunke, gikk det kaldt nedover ryggen min.

Selskaper er større enn nasjoner

Hun mener det er viktig at vi nå legger grunnlaget for å ta hvert eneste skritt riktig. Slik at den KI-en som vi bruker i dag, brukes og implementeres på riktige måter.

– Da tenker jeg på etikk, men også juridisk. Vi trenger å etablere et internasjonalt lovverk, slik at vi vet at dette går riktig vei. Vi må finne ut hvilke verdier vi vil programmere inn, og hvordan rammer vi utvikler KI’en under vil jo være avgjørende for hvordan kunstig intelligens utvikler seg videre.

– For meg handler det om kontroll. Nå er det på tide at vi tar kontroll over hvordan denne teknologien utvikle og brukes, slik at vi ikke ender med at denne teknologien kontrollerer oss.

Kina er et land som har omfavnet KI med begge armer. I en enkel del av Kina har de blant annet et poengsystem, hvor KI bestemmer hvor mye du kan få i lån osv. Dette systemet er også knyttet opp mot kameraprogram med ansiktsgjenkjenning som er spredd over alt. Har du gått på rødt lys, så vet KI-en det, og du mister poeng. Tonje synes vi ikke skal la Kina stoppe et slikt regelverk.

– Det er mange forskere som bruker Kina som argument mot et internasjonalt rammeverk, Kina kommer mest sannsynlig ikke til å godta et internasjonalt regelverk for KI, og mange frykter at Kina derfor kommer derfor til å ta ledelsen i KI-kappløpet. Men det argumentet holder ikke for meg. Vi må sett den røde streken. Vi har klart det med atom- og kjemiske våpen, så vi må jobbe for dette med KI også.

Hun tror et slikt regelverk ville fungert godt på den måten at også de store selskapene som Google og Amazon måtte ha åpnet opp om hva de egentlig driver med.

– Det er selvfølgelig mulig at noen vil lese dette om ti år og riste på hodet.

De bruker mer penger på kunstig intelligens enn hele nasjoner. De operer fullstendig uten åpenhet, i en industri i sterk konkurranse, det er et kappløp om å utvikle den beste KI-en. En internasjonal lov kan kreve åpenhet rundt hvordan denne teknologien brukes.

Hun mener det viktigste vi må gjøre nå er å informere, og opplyse befolkningen om hva som skjer.

– Vi som nasjon er i en veldig sterk posisjon til å gjøre dette riktig. Vi har sterke norske verdier som ligger i bunn for hvordan vi har bygd opp samfunnet vårt, vi er rike, og har en liten befolkning. Vi ligger langt framme teknologisk også.

– Vi må investere mer i kunstig intelligens, og vi nå er det utrolig viktig at vi gjør dette på riktig måte. Vi må ha det norske verdigrunnlaget i grunn.

– Vi vil ikke få en bevisst skapning

Inge Harkestad, ekspert på kunstig intelligens i Tekna, tror vi kan få KGI i løpet av vår levetid, men ikke en bevisst skapning.

– Det spørs veldig på hva man mener med generell kunstig intelligens. Hvis man mener et system som «bor» inne i en datamaskin og kan gjøre nær sagt alle ikke-fysiske oppgaver like godt som et menneske, så kan det nok skje i vår levetid. Hvis man derimot mener en form for bevisste, superintelligente skapninger, så nei, det tror jeg ikke vil skje i overskuelig fremtid.

– Det er selvfølgelig mulig at noen vil lese dette om ti år og riste på hodet over at noen hadde så liten tro på generell kunstig intelligens. Men det er kanskje like mulig at de vil smile av at vi brukte ord som intelligens om en teknologi som maskinlæring. Det er et godt verktøy til mange oppgaver, men personlig vil jeg ikke sette noe likhetstegn mellom maskinlæring og intelligens.

Han forklarer at vi må ta følgende steg for å utvikle teknologien så langt som filmen iHUMAN skisserer: 

1. I første omgang er jeg mest interessert i den såkalt «smale» eller «svake» kunstige intelligensen vi prøver å få til i dag. Det første steget vi bør jobbe med, er å forbedre den eksisterende teknologien og ta den i bruk til spesialiserte og samfunnsnyttige oppgaver. Her gjenstår det ennå mye arbeid og teknologiutvikling.

2. Det neste steget, og noe jeg mener er et viktig poeng med å prøve å utvikle en mer generell kunstig intelligens, er å gjøre datasystemer bedre til generell problemløsning. Det vil utvide verktøykassen vår.

3. Så kan man tenke seg flere steg på veien mot den generelle kunstige intelligensen mange ser for seg, for eksempel mer hjerneforskning. Spørsmålet er hva vi ønsker å oppnå. Vil vi prøve å gjenskape måten mennesker tenker og fungerer? Hvorfor vil vi i så fall det? Jeg tror det er minst like sannsynlig at vi på veien oppdager andre teknologier og muligheter som er mer matnyttige enn å lage en kunstig versjon av den menneskelige intelligensen.

4. Men kommer vi til å se selvstendige, bevisste, kunstige skapninger som lever et slags eget, uavhengig liv, og som blir likeverdige eller til og med overgår oss? Vel, jeg tror ikke det. I så fall tror jeg det først må skje et kanskje siste og avgjørende steg: utvikling av kunstig bevissthet. Det steget vet jeg ingenting om, men jeg tror ikke det skjer av seg selv. Jeg tror kanskje ikke vi får det til om vi prøver. Og jeg tror ikke vi bør prøve på det.

– Og dette tror jeg uansett også avhenger av definisjoner. Hva er egentlig bevissthet? Hva er likeverd? Og for den saks skyld, hva er læring og intelligens? Dette er interessante, men kanskje mer filosofiske enn teknologiske spørsmål, sier han.

Inge Harkestad (til høyre i bildet) håper vi utvikler kunstig intelligens med fokus på at mennesker fortsatt skal oppleve frihet. Foto: Privat.

I dokumentaren blir KGI omtalt som vår nye gud. Og det ligger kanskje noe i det? Det er blant annet allerede startet en KI-religion.

– Det er en artig sammenligning. Det styrer mye av livet vårt, og det gir oss mye mening, så når det blir smartere enn oss så skjønner jeg at noen tenker slik på det. Jeg tror jo ikke på en Gud, men om KI i framtiden får mer kontroll så håper jeg vi har lagt det riktige grunnlaget, sånn at vi i hvert fall står ovenfor noe vi kan kalle en god makt sier Tonje.

Harkestad synes iHUMAN tar opp mange interessante problemstillinger som er relevante her og nå.

– Det gjelder blant annet skjevheter i data, diskriminering, selvforsterkende tilbakekoblinger, manglende transparens, manipulering av så vel forbrukere som politiske systemer, redusert privatliv, overvåkning, falske videoer, falske nyheter, den dominerende posisjonen til datagigantene og så videre. Alt dette er viktige samtaler i vår tid. Generell kunstig intelligens er neppe like presserende. Det kan være interessant på sin måte, men da fra et mer filosofisk synspunkt, sier han.

Det var mange gode foredrag og diskusjoner under Lerchendalkonferansen. Under kan du se flere bilder fra samlingen. Alle bildene er tatt av Jens Petter Larsen: