Sverre F. Nielsen skriver i FB 30. desember et kritiske svar til min kronikk om kunstig intelligens (KI). Tittelen på hans svar er ”Javisst er det spennende, men også skremmende”.
Nielsen spør hva som vil skje med arbeidsplassene når vi har programmer som gjør bedre jobb enn menneskene. Han tar opp problematikk rundt personvern og kritikkverdige forhold ved de store selskapene i feltet. Han skriver at utviklingen må diskuteres og følges med argusøyne, vi kan ikke bare stå på sidelinjen og juble over unge visjonærer i Silicon Valley. Jeg kunne ikke være mer enig i både Nielsens tittel og punktene Nielsen tar opp i sitt svar.
I min kronikk ville jeg vise de teknologiske framskrittene innenfor kunstig intelligens de siste årene og hvor raskt utviklingen nå går i feltet, eksemplifisert ved to algoritmer som kom ut i 2020. De samfunnsmessige konsekvensene diskuterte jeg ikke. Jeg setter pris på at Nielsen tar opp problematikken, for denne diskusjonen er en av de viktigste diskusjonene i vår tid.
Som Nielsen påpeker fikk Norge i begynnelsen av 2019 en egen digitaliseringsminister, Nikolai Astrup. Han gjorde utvilsomt en god jobb, og basert på innspill blant annet fra NORA, utarbeidet regjeringen en nasjonal strategi for kunstig intelligens. Strategien ble fremlagt 14. Januar 2020, og bygde i stor grad på EUs ambisjon om å være verdensledende på etisk og ansvarlig kunstig intelligens. Ett av fem kapitler i strategien er viet ansvarlig og pålitelig bruk av kunstig intelligens, derunder personvern og etiske prinsipper for bruk av kunstig intelligens.
Spørsmål rundt ansvarlig og pålitelig bruk av kunstig intelligens er noe NORA og NORA-forskere jobber med daglig. Vi har gjort mye på dette området, nedenfor følger et par eksempler.
NORA-forskere er representert i Den nasjonale forskningsetiske komité for naturvitenskap og teknologi (NENT), som i 2019 utarbeidet Forskningsetisk betenkning om kunstig intelligens. Denne ble jeg bedt å kommentere, se gjerne min kommentar på nett, der tar jeg opp mange av utfordringene rundt kunstig intelligens.
NORA-forskere og jeg selv har også vært aktive i opprettelsen av NORDE Norsk råd for digital etikk, et råd bestående av fagpersoner fra ulike fagområder og sektorer med kompetanse på digital etikk. Leonora Bergsjø er leder for rådet, hun har sammen med Håkon Bergsjø skrevet boken Digital etikk. Alex Moltzau, som leder NORDEs gruppe for Klima, ble nylig ansatt i NORA med spesielt ansvar for KI-etikk og –politikk.
Jeg deler absolutt Nielsens bekymringer. Det er ekstremt viktig at Norge har en bevisst og god politikk innenfor dette viktige fagområdet som raser i vei i høyt tempo. Tilsynsorganer som Datatilsynet blir viktige, bruk av KI må reguleres på en god måte, vi må ha presiseringer av problematikken i lovverket. Nielsens bekymring om at det i stor grad er store, amerikanske firmaer som driver feltet framover er høyst reell. Som en motvekt til den private forskningen og utviklingen er det viktig at det blir tilrettelagt for en oppskalering både av KI-utdannelsen og den frie KI-forskningen innenfor norske universiteter og forskningsinstitutter, hvor etikk må ha sentralt fokus. NORA har vært pådriver for et eget emne i KI-etikk i doktorgradsutdannelsen, som fra 2021 vil bli gitt ved Universitetet i Oslo.
Norge må være med å styre utviklingen i riktig retning, og vi må være med å utvikle de gode verktøyene. I min kronikk skrev jeg om AlphaFold, en algoritme som vil kunne bli viktig innenfor bioteknologi og f. eks. for utvikling av medisiner. Men det er DeepMind (Google) som eier algoritmen, og det er uvisst hvordan den vil bli brukt. Med god og fokusert innsats kunne vi laget en mer åpen og tilgjengelig versjon av algoritmen i Norge.
Som jeg skrev over var den norske KI-strategien god, men den krever oppfølging. Etikk og ansvarlig bruk av kunstig intelligens er ikke noe man gjør seg ferdig med i en strategi, det er et tema som må ha kontinuerlig fokus. 14. januar 2021, akkurat ett år etter at strategien ble fremlagt, skal NORA i samarbeid med Cluster for Applied AI i Halden og de andre store, norske aktørene innenfor kunstig intelligens, sette fokus på dette i et åpent webinar. Hva skal Norge gjøre for å bli en god KI-nasjon? Hvilke utfordringer står vi overfor? Hvordan bør politikken rundt dette være? Hvordan følges strategien opp best mulig? Jeg oppfordrer både Nielsen og andre interesserte til å melde seg på webinaret. Denne debatten er for viktig til å bli overlatt til et lite mindretall.
Ingen kommentarer:
Legg inn en kommentar