– Teknologer alene kan ikke få diktere løsningene

Medieviter og teknologigründer Ida Aalen var en av dem som gikk hardt ut og kritiserte smittesporingsappen som ble lansert i april. I en kronikk i Morgenbladet skrev hun blant annet at teknologi kamuflerer politikken og fritar politikere for ansvar. Nå skal hun holde innlegg om temaet på Tekna-arrangementet Teknologidagen 2020 den 29. oktober. Dit kommer også assisterende helsedirektør Espen Rostrup Nakstad og administrerende direktør i Forskningsrådet John-Arne Røttingen, for å snakke om hva vi har lært av pandemikrisen. Arrangementet er digitalt og kan følges gratis av alle interesserte.

Tror teknologi tryller

Tekna Magasinet har snakket med Ida Aalen og spurt henne om hun mener teknologer har fått for stor makt?

– Jeg synes ikke de ekte teknologene fått for mye makt, nesten heller for lite makt. Men jeg mener at selve teknologien har fått for mye makt, i den forstand at folk som ønsker å vise handlekraft, har veldig lett for å ty til teknologiske løsninger, sier hun.

– Folk som ikke selv har dyp forståelse for teknologi, kan nærmest se på teknologi som noe magisk, som trylling som kan komme inn og løse problemer, mens folk som selv er dypt inne i teknologien, vet at i virkeligheten er ting mye mer komplisert, og at det kan finnes veldig mange ulike løsninger på det samme problemet.

Folk som selv er dypt inne i teknologien, vet at i virkeligheten er ting mye mer komplisert.

Ifølge Aalen handler problemet først om fremst om at når du har en ledelse som ikke har så dyp forståelse, og det kommer en teknolog inn med en løsning, så kan det bli tatt for god fisk og den beste løsningen.

– Hvis det ikke finnes noen i den ledelsen med riktig kompetanse som kan stille de riktige og kritiske kontrollspørsmålene, så kan teknologen få for mye makt.

–  Mener du at det burde vært flere teknologer inne i ledelsen av bedrifter og i det offentlige?

– Ja, det synes jeg. Men man kan selvfølgelig ikke forvente at folk skal være eksperter på alt. Men å ha «broen» mellom teknologene og de som kan sette løsningen inn i en samfunnsmessig kontekst der den faktisk skal brukes, er viktig.

Oversolgte teknologien

Angående smittesporingsappen som Ida Aalen var raskt ute og kritiserte, forklarer hun at det ikke var bluetooh-teknologien eller det at man skal spore smitte, hun reagerte på, men hun satte et stort spørsmålstegn ved om man hadde tenkt nok på om den ville virke i praksis ut fra hvordan folk er og oppfører seg.

– Jeg har inntrykk av at de som har jobbet med appen selv kanskje primært har sett på den ut fra et forskningssynspunkt. At løsninger for hvordan samle data, og hvordan bevegelsene i samfunnet skjer, var det de først kunne ha nytte av. Men etter hvert som ideen om utvikling av appen kom lenger og lenger opp i hierarkiet, så begynte det å handle om å redde liv.

Aalen forteller at hun reagerte veldig på at Erna Solberg sto på en pressekonferanse og sa at denne appen kan redde liv.

– Det synes jeg er hårreisende store ord. Ingenting i praksis tyder på det kan redde liv. Hvis man sier «Hei, du kan bidra med grunnforskning», er det noe helt annet enn å si «Bruk denne, så vi kan redde ditt eller noen andres liv». Det går ut over tilliten til teknologiske løsninger hvis man går for hardt ut og lover for mye på vegne av teknologi. Det blir å overselge det.

Teknologi kamuflerer politikk

–  I en kronikk i Morgenbladet skrev du at teknologi kamuflerer politikken, hva mener du med det?

– Teknologi ses ofte på som noe nøytralt eller objektivt – som et regnestykke der to pluss to er fire. Det blir bare en handling som utføres. Men i utformingen av en slik app ligger mange valg som er tatt. Det handler for eksempel om verdimessige valg, politiske valg og hvordan man vekter ting mot hverandre. Hvor fort ønsker man å åpne samfunnet og hvem ønsker man å beskytte er viktige spørsmål.

– Men slike ting blir lett mer usynlig når man sier at det er en app. Slik mener jeg at teknologi kamuflerer politikken. Et eksempel er hvordan Simula responderte på responsen fra Ekspertutvalget som Helse- og omsorgsdepartementet oppnevnte. Simula kalte noe av kritikken for personlige meninger. Men når et ekspertutvalg mener noe om sentral lagring versus lokal lagring, kan man ikke avfeie det som personlige meninger.

– Jeg mener at det da er tatt noen valg som ligger dypt nede i kildekoden. Det er ikke bra når andre teknologer som er kritiske til hvordan det er gjort, får som svar at de uttrykker personlige meninger. Da ser man hvordan valg er blitt kamuflert.  

De færreste skjønner kildekoder

Ida Aalen peker på at de færreste av oss kan lese kildekode.

– Journalister kan for eksempel sette seg inn i dokumenter, brev og høringsuttalelser og stille kritiske spørsmål til politikere og byråkrater ut fra disse. Men veldig få kan lese kildekode og kanskje peke på at noen eksperter sier det og andre det. Hvis man kan mer om noe enn noen andre, har man mer makt over samtalen og kan nå frem med det man tror på som mer objektivt eller nøytralt.

–  Hvordan kan vi benytte oss av teknologisk innovasjon og samtidig sikre at teknologien ikke går på bekostning av våre demokratiske rettigheter?

– Vi har en digitaliseringsminister og vi har et grønt skifte. Da ønsker vi innovasjon, ny teknologi og oppstartbedrifter.  Jeg tror vi i hvert fall må bort fra en retorikk der vi tror at fordi noe digitaliseres, automatisk betyr at det er blitt bedre eller at det er et gode.

En teknolog som ikke klarer å svare på spørsmål fra for eksempel en sosiolog eller statsviter eller en jurist, fortjener heller ikke vår tillit.

– Å lage teknologiske løsninger er mer komplekst enn at to pluss to er fire. I de prosessene må vi sørge for at man ikke lar teknologer alene få lov til å diktere løsningene. En teknolog som ikke klarer å svare på spørsmål fra for eksempel en sosiolog eller statsviter eller en jurist, fortjener heller ikke vår tillit.

Ida Aalen mener vi må se på teknologi som et verktøy som utformes av noen, og at verdenssynet vårt låses på en måte inn i utformingen av verktøyet.

Ikke gjør det hvis det ikke kan forklares

– Hvis noe er for vanskelig til at det kan forklares, da høres det ut som teknologer gjør ting de ikke burde. Og hvis de blir stresset av at folk forstår hva de gjør, så er det kanskje et tegn på at de kanskje ikke burde gjøre det, sier hun.

–  Du utvikler selv teknologiske løsninger – hva tenker du om løsninger i forhold til brukerne?

– Jeg jobber i et gründerselskap kalt Confrere der vi lager løsninger for digitale samtaler med helsevesenet. Det er mange politiske valg som er tatt der også. Vi har for eksempel utformet løsningen ut fra at legens tid er mer dyrebar enn pasientens tid. På legekontoret må du sitte på venterommet til legen sier det er klart.

Det var ikke åpenbart at det måtte være slik i den digitale løsningen, men der har vi tatt et valg. Vi tror det må være slik for at det skal fungere. Pasienten får tilsendt en lenke og må vente til legen tar kontakt med deg via lenken. Også når det gjelder personvern er vi strengere enn vi er pålagt juridisk. Vi har for eksempel droppet cookies/målrettet reklame som følger deg rundt på skjermen hvis du har vært inne og kikket på et produkt. Det har vært et bevisst valg som reflekterer et verdimessig syn, sier Ida Aalen.