Tastetrykk kan avsløre overgriperne på nettet

Vi vet at over en halv million overgripere jobber dag og natt for å lure barn og unge. De går helt målrettet på offeret sitt. Kanskje har de kontakt med hundre unger samtidig, og så er det kanskje en eller to som svarer. Jeg tenkte at slik kan vi ikke ha det.

Dette sier Tekna-medlem Hege Tokerud (44). Hun er medgründer og daglig leder i selskapet AIBA som utvikler programvare som skal kunne detektere overgrepssamtaler i sanntid i sosiale medier og i onlinespill. Hovedmålet er å sikre barn og unge på internett.

Kinomodus Slå av kinomodus Minispiller

Dobling av saker på 5 år

– Cybergrooming er et økende problem, og noe et hvilket som helst barn kan bli utsatt for som spiller online-spill eller er på sosiale medier med en kommunikasjonsfunksjon. Vi vet at over en halv million overgripere jobber dag og natt for å lure barn og unge til enten å sende bilder eller videoer av seg selv, eller i verste fall møte dem fysisk og begå seksuelle overgrep. Når vi snakker med politiet, forteller de at det har vært en dobling av saker de siste 5 årene. Det vil si at cybergrooming er i ferd med å bli et eksponentielt problem globalt.

Vi besøker Tokerud og hennes kollegaer på Gjøvik. AIBA springer ut fra forskningsmiljøet ved NTNU der Tokerud, som selv kommer fra Eina på Toten, har gode nyheter å fortelle om.

AIBA har ettårsjubileum akkurat i disse dager. Samtidig kan de også feire at de har gått «live» med sin første kunde og sitt første produkt for et par uker siden, med selskapet MovieStarPlanet.

– Det er veldig gøy. Vi analyserer nå nærmere en million chatlinjer hver dag. MoviStarPlanet  er en stor global spillaktør som har barn og unge på plattformen sin i hele verden, sier Tokerud.

Hege Tokerud startet AIBA sammen med professor Patrick Bours ved Gjøvik NTNU. Bours har forsket på kontinuerlig autentisering og adferdsbiometri i mange år, og er oppfinneren bak produktet AIBA har utviklet.

Patrick Bours forskningsprosjekt

Den driftige «Totningen» har sivilingeniørutdanning fra datateknikk og industriell økonomi og teknologiledelse ved NTNU i Trondheim. Etter hvert var det hvordan mennesker bruker teknologi og kommersialisering av teknologi hun synes var mest spennende.

Det førte til at hun etter studiene jobbet på kommersialiseringsenheten ved NTNU i Trondheim ett år, og deretter i investeringsselskaper og som konsulent i mange år.

Da Gjøvik ble en del av NTNU i 2016, trengte de å bygge opp kommersialiseringsenheten på Gjøvik.

– Jeg sa ja til å lede dette. Det var en kjempemulighet til å bli koblet inn mot forskere her, sier hun.

AIBA er hennes femte selskap basert på forskning ut fra informasjonssikkerhetsmiljøet på NTNU Gjøvik.

– Jeg hadde hørt om forskningsprosjektet til professor Patrick Bours ved Gjøvik NTNU, og tenkte wow, dette må vi få ut i markedet. Han har mer enn 20 års erfaring i kontinuerlig autentisering og adferdsbiometri, det vil si å gjenkjenne folk kontinuerlig mens for eksempel samtaler foregår, og har jobbet med AIBA-prosjektet siden 2017..

Overtar for manuelle overvåkere

Tokerud forteller at de nå har jobbet sammen i fire år.

– Det startet som en idé til en app på telefonen til foreldre. Men vi visste at vi var helt avhengig av å få teknologien inn i spillene, så vi har brukt mye tid og utvikling på å få løsningen ut i markedet til spill-leverandører og inn i sosiale medier.

Hun forteller at den største konkurrenten deres i dag er at de aller fleste spill har ansatte som overvåker spillet for å se om noen rapporterer om uønskede hendelser i spillet. Da vil overvåkeren gå inn i spillet og se på hva som har skjedd. De jobber altså veldig manuelt og reaktivt. Det finnes også ordlistebaserte løsninger som fanger opp uønskede ord som for eksempel f-ordet.

– Vi har utviklet en programvare basert på adferdsbiometri og maskinlæring som spillene kobler seg til. I tillegg har vi utviklet et grensesnitt de kan jobbe direkte i. Via produktet vårt får spillaktørene muligheten til å jobbe proaktivt og stoppe uønskede samtaler før skade oppstår, slik at de i større grad kan sørge for at spillet er trygt for spillerne hele tiden.

AIBA springer ut fra forskningsmiljøet ved NTNU Gjøvik og har snart 8 ansatte, her representert ved Sushma Venkatesh, Marcus Hülsdau, Hege Tokerud og Gard Støe.

Ord og tastetrykk kan avsløre

– Hva er det som særmerker en voksen fremfor et barn når de spiller eller chatter?

– Det er et godt spørsmål, og noe vi bruker maskinlæring for å finne ut av, sier Hege Tokerud. Hun forklarer at maskinlæringsassistenten/roboten deres ser kjennetegn som vi mennesker har vansker med å oppdage.

– Det vi vet er at barn og voksne bruker forskjellige ord og måter å uttrykke seg på. Programmet vårt analyser ord og setningsoppbygging. I tillegg har vi mulighet til å registrere tastetrykk. Hvordan du taster på og bruker mobilen, eller hvordan du taster på pc-tastatur er veldig forskjellig. Alle har sin unike måte å skrive på – som at alle har sin egen måte å spille piano på. Det kan dreie seg om hvor hardt du trykker, hvor lenge du holder nede, eller for eksempel hvor fort du taster. Vi ser at det er skiller mellom voksne og barn.

Tokerud opplyser at de samarbeider med politiet, og at riksadvokaten har gitt dispensasjon slik at de har fått innsyn i etterforskningsmateriale .

– Vi har analysert over 50 millioner beskjeder i datasett fra pilotkunder og politiet, og bruker innsikten i datamaterialet til å forstå adferd. Vi har laget en risikoskåringsmodell som kontinuerlig skårer alle pågående samtaler i et spill.

Tokerud forteller at noe som gjør løsningen til AIBA unik, er at de i tillegg til unik tilgang på chatdata mellom barn og unge, bruker en kombinasjon av åpne og tilgjengelige AI/ML (kunstig intelligens/maskinlæring)-modeller i tillegg til det de utvikler selv. De benytter en «mixtures of experts»-modell, det vil si at de benytter allerede tilgjengelige og åpne AI-modeller, og der det ikke finnes gode nok modeller, utvikler de selv.

Må hente mer penger

Etter ett års drift er de 7, og snart 8 medarbeidere. I fjor hentet de 7 millioner kroner fra 5 ulike investorer.

– De pengene skulle egentlig holdt i halvannet år, men vi har hatt større fremgang på AI/ML-utviklingen enn vi trodde var mulig og har gått «live» med første kunde mye tidligere enn vi først trodde var mulig. Det betyr at vi kunne starte produktutviklingen tidligere, så vi går nå en større runde for å hente kapital før sommeren, fortrinnsvis fra investorer med et globalt perspektiv og som kjenner spillbransjen fra innsiden og som kan gi oss tilgang til nettverket deres slik at vi får større sjanse til å lykkes. Pengene skal brukes til å rekruttere flere talenter, både tekniske og kommersielle.

For AIBA har globale ambisjoner.

– Vi ønsker at vår løsning skal implementeres i alle spill og alle sosiale medier rundt omkring i hele verden. Målet vårt er at alle barn og unge skal være trygge når de er på nett, sier Hege Tokerud.

Hege Tokerud har mange års erfaring i kommersialisering av teknologi, og har startet flere selskaper ut fra NTNU Gjøvik. Hun var en av 50 Tech-kvinner i Abelias kåring av fremragende kvinner innen teknologi 8. mars i år.