Ja, kunstig intelligens må følges med argusøyne

Kronikk i Fredrikstad Blad 07.01.2021

Sverre F. Nielsen skriver i FB 30. desember et kritiske svar til min kronikk om kunstig intelligens (KI). Tittelen på hans svar er ”Javisst er det spennende, men også skremmende”. 

Nielsen spør hva som vil skje med arbeidsplassene når vi har programmer som gjør bedre jobb enn menneskene. Han tar opp problematikk rundt personvern og kritikkverdige forhold ved de store selskapene i feltet. Han skriver at utviklingen må diskuteres og følges med argusøyne, vi kan ikke bare stå på sidelinjen og juble over unge visjonærer i Silicon Valley. Jeg kunne ikke være mer enig i både Nielsens tittel og punktene Nielsen tar opp i sitt svar.

I min kronikk ville jeg vise de teknologiske framskrittene innenfor kunstig intelligens de siste årene og hvor raskt utviklingen nå går i feltet, eksemplifisert ved to algoritmer som kom ut i 2020. De samfunnsmessige konsekvensene diskuterte jeg ikke. Jeg setter pris på at Nielsen tar opp problematikken, for denne diskusjonen er en av de viktigste diskusjonene i vår tid. 

Som Nielsen påpeker fikk Norge i begynnelsen av 2019 en egen digitaliseringsminister, Nikolai Astrup. Han gjorde utvilsomt en god jobb, og basert på innspill blant annet fra NORA, utarbeidet regjeringen en nasjonal strategi for kunstig intelligens. Strategien ble fremlagt 14. Januar 2020, og bygde i stor grad på EUs ambisjon om å være verdensledende på etisk og ansvarlig kunstig intelligens. Ett av fem kapitler i strategien er viet ansvarlig og pålitelig bruk av kunstig intelligens, derunder personvern og etiske prinsipper for bruk av kunstig intelligens.

Spørsmål rundt ansvarlig og pålitelig bruk av kunstig intelligens er noe NORA og NORA-forskere jobber med daglig. Vi har gjort mye på dette området, nedenfor følger et par eksempler.

NORA-forskere er representert i Den nasjonale forskningsetiske komité for naturvitenskap og teknologi (NENT), som i 2019 utarbeidet Forskningsetisk betenkning om kunstig intelligens. Denne ble jeg bedt å kommentere, se gjerne min kommentar på nett, der tar jeg opp mange av utfordringene rundt kunstig intelligens.

NORA-forskere og jeg selv har også vært aktive i opprettelsen av NORDE Norsk råd for digital etikk, et råd bestående av fagpersoner fra ulike fagområder og sektorer med kompetanse på digital etikk. Leonora Bergsjø er leder for rådet, hun har sammen med Håkon Bergsjø skrevet boken Digital etikk. Alex Moltzau, som leder NORDEs gruppe for Klima, ble nylig ansatt i NORA med spesielt ansvar for KI-etikk og –politikk. 

Jeg deler absolutt Nielsens bekymringer. Det er ekstremt viktig at Norge har en bevisst og god politikk innenfor dette viktige fagområdet som raser i vei i høyt tempo. Tilsynsorganer som Datatilsynet blir viktige, bruk av KI må reguleres på en god måte, vi må ha presiseringer av problematikken i lovverket. Nielsens bekymring om at det i stor grad er store, amerikanske firmaer som driver feltet framover er høyst reell. Som en motvekt til den private forskningen og utviklingen er det viktig at det blir tilrettelagt for en oppskalering både av KI-utdannelsen og den frie KI-forskningen innenfor norske universiteter og forskningsinstitutter, hvor etikk må ha sentralt fokus. NORA har vært pådriver for et eget emne i KI-etikk i doktorgradsutdannelsen, som fra 2021 vil bli gitt ved Universitetet i Oslo.

Norge må være med å styre utviklingen i riktig retning, og vi må være med å utvikle de gode verktøyene. I min kronikk skrev jeg om AlphaFold, en algoritme som vil kunne bli viktig innenfor bioteknologi og f. eks. for utvikling av medisiner. Men det er DeepMind (Google) som eier algoritmen, og det er uvisst hvordan den vil bli brukt. Med god og fokusert innsats kunne vi laget en mer åpen og tilgjengelig versjon av algoritmen i Norge.

Som jeg skrev over var den norske KI-strategien god, men den krever oppfølging. Etikk og ansvarlig bruk av kunstig intelligens er ikke noe man gjør seg ferdig med i en strategi, det er et tema som må ha kontinuerlig fokus. 14. januar 2021, akkurat ett år etter at strategien ble fremlagt, skal NORA i samarbeid med Cluster for Applied AI i Halden og de andre store, norske aktørene innenfor kunstig intelligens, sette fokus på dette i et åpent webinar. Hva skal Norge gjøre for å bli en god KI-nasjon? Hvilke utfordringer står vi overfor? Hvordan bør politikken rundt dette være? Hvordan følges strategien opp best mulig? Jeg oppfordrer både Nielsen og andre interesserte til å melde seg på webinaret. Denne debatten er for viktig til å bli overlatt til et lite mindretall.

Kunstig intelligens – «dette vil forandre alt»

 

Kronikk i Fredrikstad Blad 29.12.2020

AI-pioneren Alan Turing stilte i 1950 spørsmålet ”kan maskiner tenke?” og han foreslo en test for å avgjøre dette spørsmålet, som har blitt hetende Turing-testen. Selv om maskinene enda ikke har bestått denne testen har vi sett en ekstrem utvikling innenfor fagfeltet kunstig intelligens i 2020. Nå er de beste algoritmene så gode at de fint kan lure oss til å tro at de er mennesker, i alle fall for en kortere stund.

Turing, mannen som knakk tyskernes koder under krigen og som med det sparte millioner av menneskeliv, åpnet sin 1950-artikkel med den klassiske setningen: I propose to consider the question, "Can machines think?" Jeg liker å definere dette som kunstig intelligens sin fødsel, selv om begrepet kunstig intelligens (artificial intelligence) først ble innført fra 1956. På 50-tallet hadde stadig flere forskere blitt fascinert av maskiner som kunne programmeres til å løse problemer, og på sommeren 1956 samlet noen av de skarpeste hjernene i feltet seg over en periode på 10 uker i Dartmouth, hvor de grunnla fagfeltet og innførte begrepet kunstig intelligens. Det var hjernen som var inspirasjonen, og allerede i 1958 kunne New York Times rapportere fra en demonstrasjon av en elektronisk datamaskin, som ”når den er ferdig om et år, forventes å være den første ikke-levende mekanismen som er i stand til å oppfatte, gjenkjenne og identifisere omgivelsene uten menneskelig trening eller kontroll".  Dette skulle vise seg å være prematurt, men de siste fem årene har vi faktisk kommet dit. Vi har nå kunstig intelligens som kan gjenkjenne objekter i bilder på nivå med mennesker.

Det aller meste av kunstig intelligens må trenes opp. Hvis man viser dataprogrammet mange nok bilder av katter og hunder, vil det til slutt lære seg å se forskjell på dyreartene like godt som vi mennesker. Dette var for få år siden en helt utenkelig oppgave, men er nå allmenn teknologi du for eksempel har på smarttelefonen din. Og utviklingen stopper ikke der. På lignende måte kan disse programmene nå trenes opp til å se på medisinske bilder, og programmer som å  oppdager kreft fra røntgenbilder er i mange forskningsartikler vist seg å være bedre enn erfarne radiologer. Nå arbeides det med å gjøre slike algoritmer robuste nok til at de kan brukes på sykehus.

Det kreves store mengder data og stor regnekraft for å utvikle god kunstig intelligens. Firmaer som Google, Facebook, Microsoft og Amazon har både store mengder data og  stor datakraft. Det er mye av grunnen til at det i USA er vanlig med forskningssamarbeid mellom universiteter og de store firmaene. I 2020 kom det to store gjennombrudd som det er verdt å merke seg. Det ene gjennombruddet er en språkalgoritme fra amerikanske OpenAI, et firma hvor Microsoft er en stor investor. Det andre gjennombruddet kom fra engelske DeepMind, et firma eid av Google (Alphabet). De løste et 50 år gammelt problem som jeg tror vil vise seg å være ekstremt viktig: kunstig intelligens klarer nå å forutse formen til proteiner.

Språkalgoritmen til OpenAI heter GPT-3, den er trent på store deler av internett, og den kan brukes til alt fra å lage nye programmer til å skrive stiler, fortellinger, kortere avhandlinger og man kan konversere med den. For en ukes tid siden ble algoritmen intervjuet av Aftenposten. AI-professor Morten Goodwin, som i høst utga boken AI – Myten om maskinene, ble forelagt intervjuet. Hans respons var: «WHAT? Jeg er målløs. Dette er ikke bare vilt, det er ren utklassing. Det er bortenfor hva vi drømte om for bare et halvt år siden, og det viser hvor fort AI-forskningen går. Dette er en mer meningsfylt samtale enn jeg har hatt med enkelte mennesker (men jeg tør ikke nevne hvem).» 

Kanskje enda mer spennende er DeepMind sin algoritme AlphaFold, som kan gi deg formen til proteiner. I år har vi alle blitt kjent med bildene av Covid-19-viruset, som består av nåler som stikker ut og som kan binde seg til celler i kroppen. Disse er bygget opp av proteiner, og det å forstå formen til proteiner er essensielt for å forstå hvordan et protein fungerer. Forstår man proteiner, forstår man liv. 

Oppskriften på et protein ligger i et gen, og proteinet består av en lang snor med aminosyrer. Denne snoren av aminosyrer kan vi finne relativt enkelt, men når snoren blir produsert i kroppen krøller den seg og får sin bestemte form.  Å kunne ”gjette seg til” formen på proteiner kun ved å se på snoren av aminosyrer er noe forskere har jobbet med i 50 år. Nå er gjetteleken langt på vei over. Hvis DeepMind sin AlphaFold får informasjon om aminosyrer, kan den fortelle oss formen på det gitte proteinet. Det velrennomerte forskningstidsskriftet Nature hadde en nyhetsartikkel om AlphaFold, hvor Andrei Lupas uttaler “This will change medicine. It will change research. It will change bioengineering. It will change everything.”

Dette er to helt ferske eksempler på nylig utviklet kunstig intelligens som er så banebrytende at vi enda ikke forstår konsekvensene. At AlphaFold kommer til å redde liv er helt sikkert. Norge har mange gode miljøer innenfor kunstig intelligens, og med riktig politikk vil vi kunne høste frukter av en teknologi som har uante muligheter.