KI som global mulighet og risiko

Kinomodus Slå av kinomodus Minispiller

Sendt direkte kl. 17:00 24. februar 2025

Et antall ledende KI-forskere og teknologiselskaper ser på kunstig intelligens, spesielt AGI (Artificial General Intelligence), som en potensiell løsning på globale utfordringer som klimaendringer, sykdommer og fattigdom. Google DeepMinds motto «Løs intelligens og bruk det til å løse alt annet» illustrerer denne visjonen. Andre forskere aviser dette som spekulativt og hype-preget.

Mange hevder den raske KI-utviklingen medfører betydelige risikoer. Det er bekymringer knyttet til økende energiforbruk fra datasentre, diskriminering, misbruk til kriminelle formål, falske nyheter og krigføring. Anthropics CEO advarer om at KI snart kan misbrukes til å utvikle masseødeleggelsesvåpen. Demokratiseringen av teknologien gjør det enklere for menneskene å lære seg nye skills, men dette gjør det også enklere for kriminelle å utnytte sårbarheter i våre systemer, og ta i bruk mer avanserte teknikker. Samtidig øker prisene på avanserte KI-tjenester, noe som utfordrer ideen om demokratisering av teknologien. USA stenger ute mesteparten av verdens land fra mulighet til å bruke de beste KI-chipene til KI-beregninger.

Hvordan kan vi bruke KI for å skape en bærekraftig fremtid for alle?

Flere fremtredende forskere, inkludert Nobelprisvinner Geoffrey Hinton, advarer også om eksistensielle risikoer ved superintelligent KI. En fersk rapport fra Apollo Research viste at ledende KI-systemer kan «prøve å lure» sluttbrukere når de instrueres til å følge spesifikke mål «for enhver pris». Samtidig har det globale KI-kappløpet eskalert med Trump administrasjonens fjerning av Bidens KI-reguleringer og tilrettelegging for storstilte energi-infrastrukturutbygginger for å drifte planlagte datasentre for mange hundre milliarder dollar. Det trykkes helsides annonser i Washington Post med formaninger til Trump om å vinne KI-krigen mot Kina. Forstår vi godt nok hvor vi er på vei og konsekvensene vi står ovenfor? Er det mulighetene eller risikoene som vil dominere KI-fremtiden? Hva kreves for å lykkes? Vi ønsker dere hjertelig velkommen til å utforske disse viktige temaene sammen med oss!

Innledere

• Olle Häggström, professor i statistikk ved Chalmers og forfatter av den internasjonalt anerkjente boken «Here Be Dragons: Science, Technology and the Future of Humanity»
• Lillian Røstad, professor i informasjonssikkerhet og daglig leder i Simula Research Laboratory
• Anders Eidesvik, KI-politisk rådgiver fra tenketanken Langsikt, tidligere journalist med utdanning innen politikk, filosofi og økonomi
• Sølve Eidnes, PhD og Seniorforsker hos SINTEF Digital, innen maskinlæring (ML) for industrielle prosesser samt utvikling av fysikk inspirert ML.

Det var FTU - Forum for teknologi og utviklingssamarbeid som inviterte i samarbeid med Tekna Big Data..