Superintelligensen kommer

Kronikk i Fredrikstad Blad 28.12.2017

Peter Heine Nielsen, Magnus Carlsens trener og sparringspartner, uttalte nylig til BBC: "I always wondered how it would be if a superior species landed on earth and showed us how they played chess. Now I know." Uttalelsen  kom etter at en nyvinning innen kunstig intelligens, Alphazero, hadde utklasset det sterkeste sjakkprogrammet i verden.

Alphazero er ikke et vanlig sjakkprogram. Det er utviklet av DeepMind, et firma grunnlagt i 2010, som ble kjøpt opp av Google (Alphabet) i 2014. Firmaet utvikler kunstig intelligens. Demis Hassabis, en av grunnleggerne av DeepMind, har uttalt at de først skal løse problemet med intelligens, deretter alt annet. Målet er med andre ord å utvikle en så generell og smart kunstig intelligens at den vil kunne løse mange av menneskehetens store spørsmål, enten det er innen forskning, medisin eller klima.

Alphazero er et steg i den retningen. Med spillereglene som eneste forhåndskunnskap har programmet lært seg selv sjakk og feid all motstand av brettet. Det samme programmet har ikke bare lært sjakk, det har lært seg selv  tre av de mest komplekse spillene vi har: sjakk, det kinesiske brettspillet go og det japanske brettspillet shogi. Også i de to andre spillene har Alphazero fått en spillestyrke som overgår både mennesker og maskiner.

Alphazero startet med blanke ark og med en programstruktur som imiterer hjernen. Hassabis har selv doktorgrad innen kognitiv nevrovitenskap, en bakgrunn han har brukt for å utvikle sin nye intelligens. Enkelt fortalt har programmet flere lag av ”hjerneceller” som bindes sammen i et nettverk, på samme måte som hjernen er oppbygd. Nettverket forsøker å se frem i tid og predikere hva motstanderen kommer til å gjøre, og hvis motstanderen gjør et bedre trekk enn hva Alphazero forutser, så vil programmet lære ved at forbindelsene mellom de kunstige hjernecellene forandres.

Med en slik struktur i sekken, kombinert med sjakkspillets regler, startet programmet å spille mot seg selv. I begynnelsen var trekkene tilfeldige, dårlige trekk, men Alphazero fant fort ut hva som var gode trekk og hva som ikke fungerte. Etter bare fire timer intensiv spilling mot seg selv på 5000 TPUer (Googles egenproduserte prosessorer) hadde Alphazero parkert alle mennesker, sjakkcomputere og århundrer med teoretiske studier av sjakk. Det var verdens beste sjakkprogram, Stockfish, som ble feid av brettet. Resultatet var oppsiktsvekkende. Etter hundre partier hadde Alphazero 28 seire, 72 remiser (uavgjort) og null tap.

Det var ikke bare resultatet, men måten Alphazero vant på, som fikk Peter Heine Nielsen til å sammenligne programmet med noe utenomjordisk. Lignende sammenligninger har vi vært vitne til tidligere i kamper mellom mennesker og intelligente maskiner. I et parti i brettspillet go vant en tidligere versjon av Alphazero, AlphaGo, mot en av verdens beste spillere, Lee Sedol. Det var særlig trekk 37 i parti 2 som fikk Lee Sedol til å rive seg i håret. Flere kommentatorer trodde trekket var en stor tabbe av AlphaGo. Kommentatoren Fan Hui kalte derimot trekket fantastisk og utbrøt: ”Det er ikke et menneskelig trekk. Jeg har aldri sett et menneske spille slik.”

Da jeg så kommentarene rundt trekk 37 til AlphaGo minnet det meg på kommentarer nesten to tiår tidligere da Kasparov spilte mot Deep Blue i 1997. I første parti gjorde Deep Blue et ”umenneskelig” trekk, det berømte trekk 44. Trekket var langt fra intuitivt, og Kasparov mente det var tegn på ”superior intelligence”. Det viste seg raskt at det heller var tegn på programmets feilbarlighet. Trekket kom av en feilprogrammering, hvor Deep Blue ikke klarte å bestemme seg for hvilket trekk som var best og gikk inn i en modus hvor programmet i stedet for å gjøre det beste trekket valgte trekket som gjorde minst skade. Men AlphaGos trekk 37 viste seg raskt å være annerledes. Med dette trekket ble det klart at superintelligensen var ekte. Dette var ikke en feil, det var et trekk på et høyere nivå enn det mennesker ville spilt.

DeepMind har nå utviklet sin kunstige intelligens slik at den fra tabula rasa har lært seg tre komplekse brettspill og vist seg overlegen både mennesker og eksisterende programmer. Utviklingen innen kunstig intelligens går i en rivende fart. Skal vi tro teknologioptimisten Ray Kurzweil, sjefingeniør i Google, så vil programmene ha intelligens på menneskers nivå allerede i 2029. Så får vi se hvor lang tid det tar før de klarer å predikere hvilke julegaver som ligger under juletreet.



Tillegg

Kunstig intelligens: kunstig intelligens blir innen informatikk definert som studiet og utviklingen av intelligente agenter, der en intelligent agent er et system som observerer sitt miljø og tar avgjørelser for å maksimere sin egen suksess (fra Wikipedia).

Resultatene beskrevet i artikkelen ble publisert som preprint fra Hassabis og hans kolleger i DeepMind 5. desember under tittelen ”Mastering Chess and Shogi by Self-Play with a General Reinforcement Learning Algorithm ” (https://arxiv.org/abs/1712.01815).

Den 17. desember publiserte Brown og Sandholm artikkelen ” Superhuman AI for heads-up no-limit poker: Libratus beats top professionals” i Science om en kunstig intelligens som har slått profesjonelle spillere i det mer psykologiske spillet poker, hvor programmet også må forholde seg til skjult informasjon.

Tips til oppførsel ved utredning av blindtarmbetennelse

Selv synes jeg at jeg var en drømmepasient under utredningen. Legene var ikke enige. Jeg var atypisk. Så her kommer en brukermanual for pasientoppførsel ved utredning av blindtarmbetennelse som særlig hard-core realister kan ha nytte av, for dere kommer garantert til å bli stemplet som atypiske alle sammen.

Det er jo egentlig litt merkelig at samspillet mellom leger og det jeg kaller hard-core realister (typisk fysikere, som meg) skal være så vanskelig. Leger er i høyeste grad realister selv. I tillegg innehar de en egenskap som vi hard-core realister mangler: de er eksperter på å tolke ord, setninger og kroppsspråk. Noen av legene valgte kanskje til og med diktanalyseoppgavene i norsk på videregående. Spesielle mennesker, altså. Så fort du åpner døren til et legekontor begynner derfor disse detektivhjernenene å tolke deg: Var det ikke noe ved ganglaget/måten han hilste på som kunne tyde på denne eller denne diagnosen? Og slik fortsetter det gjennom konsultasjonen. Ikke la deg lure at legene noterer og ser ned på datamaskinen, de har et utmerket sidesyn og er i motsetning til oss hard-core realister eksperter på multitasking. Og så kommer det da fra tid til annen en hard-core realist inn døra deres, med atypisk eller godt skjult kroppsspråk, og med et relativt konsist språk uten hverken underdrivelser eller overdrivelser og med få tolkningsmuligheter. Det er da det kan skjære seg. Vi er atypiske, langt ute på normalfordelingens hale, og dersom legen skrur på for mange av sine tolkningsantenner ender konsultasjonen uten riktig diagnose.

Det var en onsdag morgen klokken 05:30 jeg voknet med "jævlige magesmerter" (se meldinger). Vi bor i Fredrikstad og siden samboeren skulle tidlig på jobb i Oslo hadde hun allerede dratt. Hun er også lege, og i tillegg jobber jeg nesten utelukkende med leger, så slike lege-fysiker misforståelser kan jeg mye om. Og mistolkningene går i høyeste grad begge veier: vi fysikere forstår ofte ikke legenes litt diffuse begreper, og vi kan ha en tendens til å overforenkle komplekse problemstillinger for å gjøre de forståelige. Av familiehensyn skal jeg ikke ramse opp alt det leger typisk mistolker, men noe kommer jo ganske klart fram fra teksten. Disse mulighetene for misforståelser er med andre ord noe jeg er ytterst klar over, jeg kunne skrevet en bok om dem, men her gikk jeg altså i baret nok en gang. Tilbake til historien: jeg måtte overvinne smertene, bite tennene sammen og få fire barn i alderen fra to til ni år opp av sengene, gjennom morgenrutinene og kjøre de til barnehage og skole. Vi var allerede sent ute med bursdagsinvitasjoner til vår sønn som akkurat har blitt fem år, så denne dagen var selvfølgelig også dagen da disse måtte leveres ut. Siden vi ikke hadde navnene til alle barna var planen at jeg skulle skrive på alle disse 18 navnene fra en liste de hadde i barnehagen og legge kortene pent i barnas hyller. Greit nok, jobben ble utført mens jeg gjorde mitt beste for å smile til de andre foreldrene som leverte barna sine, og så dro jeg hjem. Jeg håpet da på det beste, at smertene skulle gå over. Etter en stund rådet samboeren meg i en melding om å dra til legevakten. Jeg hadde så vondt at jeg fulgte rådet. 

Etter litt venting kom jeg inn til legen som ba meg beskrive smertene på en skala fra 1 til 10. Det første jeg tenkte var om smerte best lot seg uttrykke på en lineær skala fra 1 til 10, eller om det var mer passende med en logaritmisk skal ala Richters skala for jordskjelv. Med min bakgrunn i nevrovitenskap vet jeg at for å oppfatte en endring i et sanseinntrykk så må man typisk øke intensiteten til sanseinntrykket med en viss prosentandel: jo sterkere et sanseinntrykk er, jo mer intensitet må man med andre ord addere for at man skal merke en forskjell. Logaritmisk skala, altså. Men klok av erfaring nevnte jeg ingen av disse tankene til legen. Jeg har beskrevet ovenfor at jeg hadde "jævlig vondt", og jeg tenkte det burde kvalifisere til en åtter på en eller annen skala som legen så for seg, og med en åtter syntes jeg selv at jeg tok godt i - det har jeg lært at man skal gjøre for å bli tatt seriøst. Åtte er egentlig veldig høyt, tross alt bør avrevne lemmer og andre krigsskader komme langt høyere på skalaen. Men igjen, dersom dette var en logaritmisk skala så var det nok av rom for dette. Det var her jeg gikk i den første fellen. I ettertid har jeg blitt fortalt at folk flest som har det de oppfatter som uutholdelige smerter svarer 11, minst. Så det var dagens første tips til dere hard-core realister: merk dere at vanlige folk ikke følger spillereglene her. Det er visst ikke meningen at man skal svare innenfor spørsmålets rammer. Man skal formidle at man har uutholdelig vondt. Og det gjøres visst typisk ved å si et tall som går langt utenfor skalaen. Forstå det den som kan. Men igjen, realister, så må dere sette dere inn i denne ulogiske logikken, ellers blir dere fort stemplet som atypiske, som meg. Det kan i ekstreme tilfeller få fatal utgang og dermed gå ut over hard-core realisters reproduksjonsevne, og til slutt føre til at vi dør ut som art.

Korrespondansen med min mor.

Deretter geleidet legen meg gjennom flere rare tester, tester som jeg på en melding fra min samboer forsto at var ganske standard. "Klarer du å presse høyre ben opp mot meg?" Konkurranseinstinktet mitt ble tent, så det klarte jeg jo. Atypisk igjen. Så spurte de om jeg kunne hoppe og hinke på høyre ben. Konkurranseinstinktet bar meg gjennom disse testene også. Jeg sa heller ikke klart nok fra om at dette gjorde noe inn i helvete vondt. En klar tabbe. Atypisk. Det viste seg i ettertid at det de egentlig lurte på var nettopp om dette gjorde ekstremt vondt. For folk flest gjør visst ikke ting mot seg selv som gjør ekstremt vondt. Folk flest pleier da å si at de ikke klarer, så derfor spør legene det for oss hard-core realister misledende spørsmålet "Klarer du?". Så da vet dere det: her betyr ikke "klarer du" det vi vanligvis legger i ordene. Det betyr noe slikt som "føler du for/har du lyst til". I ettertid ser jeg at jeg uansett burde svart at "det har jeg ikke veldig lyst til". Men dersom du har like stort macho-kompleks og konkurranseinstinkt som meg, så blir du fort med på hinkingen og hoppingen. Da må du ikke la macho-komplekset ta helt overhånd. Ikke forsøk å spille Rambo. Husk å uttrykke smerten gjennom grimaser, skriking eller andre tolkbare tegn. Et avmålt "det gjør veldig vondt" holder ikke.

Neste test var at hun trykket på magen og slapp opp og spurte om det gjorde vondt. Jeg svarte "ja". Atypisk. Man skal visst skrike. Etter et par sprøyter med smertestillende i skinka, med påfølgende symptomlindring, ble jeg med alle disse atypiske svarene sendt hjem, for blodprøvene var heller ikke så overbevisende på det tidspunktet. Noe forhøyet ditt og datt, men det kunne for eksempel være gallestein eller andre ting som gjorde vondt. Jeg forvirret visst også legen ved å si at jeg hadde gått rundt på grunn av smertene. Det er atypisk at man går rundt ved blindtarmbetennelse, men ikke atypisk dersom det er gallestein, så derfor hellet den foreløpige diagnosen mest mot gallestein.

Så jeg dro hjem med beskjed om å kontakte lege dersom det ikke bedret seg. Hjemme la jeg meg på sofaen og skrev noen meldinger, blant annet en melding til min mor om at jeg hadde "kraftige magesmerter" (jeg bruker et litt mer anstendig språk til min mor) og at jeg hadde vært hos legevakten og fått smertestillende "i skinka". Hun var på ferie i Portugal, og jeg vet ikke om det var ordet "skinke" som gjorde at hun valgte å svare med et bilde av lunsjen sin (se bilde av MMS). Hun er i høyeste grad en jordnær realist selv, så det var uansett lite hun kunne gjøre.

Dette er ikke ment å bli en roman, så vi hopper nå til andre dag, hvor det faktisk gjorde litt mindre vondt, men fortsatt veldig vondt. Som hard-core realist tenkte jeg at den deriverte var med meg og at dette ville gå over etter en stund. Men heldigvis beordret samboeren meg til legevakten etter at jeg hadde nektet å bli med å male en husvegg. På legevakten tok de igjen blodprøver og jeg fikk igjen spørsmålet om hvor vondt det gjorde på en skala fra 1 til 10. Jeg syntes som sagt det hadde blitt en del bedre, og fremdeles hadde jeg ikke tatt innover meg alle tabbene jeg hadde gjort dagen før, så nå svarte jeg 5. De himlet med øynene og lurte på hvorfor jeg kom til legevakta og ikke hadde bestilt time hos fastlegen. Jeg skyldte på samboeren, at hun hadde sendt meg, og at jeg har fastlege i Oslo som jeg ikke har vært hos på 15 år. Og så, før de rakk å geleide meg gjennom akrobatøvelsene, kom svarene på blodprøvene jeg hadde tatt. Jeg hadde en CRP (infeksjonsverdi) som var høyere enn det apparatet kunne måle. Apparatet viste maksimum 240, og disse bør helst ligge under under 10 dersom man er frisk. Over 240 var det visst ikke så ofte at forekom der nede på legevakten. Så da hadde vi endelig fått et tall med et referansepunkt vi alle forsto. De påpekte nok en gang at jeg så uforskammet oppegående ut til å ha en slik CRP, og de la meg ned i en seng og ville kjøre meg opp til akuttmottaket på Østfold Sentralsykehus. Jeg insisterte på at det ble litt i overkant, jeg hadde tross alt kjørt ned til legevakten selv og jeg var egentlig klar for å gå gjennom både hopping og hinking, så jeg ville fint klare å kjøre til akutten selv. På den måten kunne jeg også få med meg bilen, som sto parkert utenfor. Under tvil lot de meg kjøre. Jeg gikk ut og tenkte det var praktisk å få med seg en toalettmappe, jeg bor jo nesten på veien til akuttmottaket, så jeg kjørte hjemom. Og da var jo det aller greiest om samboeren kunne kjøre meg opp, det hadde hun selv foreslått, da slapp bilen å bli stående på sykehuset. Men hun var på vei til å kjøre en sønn til brytetrening og en annen sønn til turntrening, to steder som ikke akkurat ligger i rett linje til akutten. Jeg overbeviste henne om at det skulle gå helt greit å kjøre gutta på fritidsaktivitetene på veien. Det tok jo ikke veldig mye ekstra tid. Egentlig hadde jeg jo ikke tenkt å dra på legevakten i det hele tatt, så alt dette var bonus, sa jeg (ja, jeg vet, dette var et litt dårlig argument nå som vi tross alt hadde tallenes tale, men det er praktisk å ha bilen hjemme i stedet for på sykehuset, og barna må jo få trent). Så da kjørte vi et par ekstra torturveier (veiarbeide, med ekstreme humper - ikke å anbefale med blindtarmbetennelse), før vi til slutt endte på akuttmottaket.

Da jeg kom inn til sykepleier og lege gikk det hele ganske raskt, og jeg fikk fort et enerom i akutten med eget bad og TV og ble bedt om å dusje og barbere bort hår på operasjonsstedet. Jeg slo på TVen mens jeg skulle skifte og da kom det tilfeldigvis opp et hjerneforskningsprogram på NRK. Der var både vår nobelprisvinner Edvard Moser og min tidligere veilder på doktorgraden, Gaute Einevoll! Jeg sa noe om at dette var interessant til sykepleieren, og oppfattet selv at jeg kunne se litt på programmet. Men hun trodde vel at jeg skulle skifte og gjøre meg klar, og hun gikk ut (denne kommunikasjonsfeilen skal jeg ta på min kappe), og da satte jeg  meg ned og så på TV og twitret litt ut i verden.

Etter anslagsvis 20 minutter kom sykepleieren tilbake, akkurat da programmet var over, og hun ble litt stresset da hun så at jeg ikke var ferdig skiftet. Hun la barbermaskinen i hånden min og geleidet meg mot døra til badet og dusjen. Jeg kledde av meg og sto der inne og lurte på hva "barber deg rundt operasjonsstedet" egentlig betydde. Jeg vet at blindtarmen er ganske langt nede i mageregionen, men nok en gang var dette en litt diffus beskjed fra helsepersonalet. Det var for sent å løpe ut etter sykepleieren, så jeg måtte rett og slett ta denne avgjørelsen selv. Jeg besluttet å innføre en relativt lav bikinilinje, for å si det slik, og fikk dusjet og gjort meg klar så raskt som mulig.

Etter dette opplevde jeg den sjeldne følelsen av å være kommunikasjonsmessig helt i fase med leger og sykepleiere. Operasjonsprosedyrene var klinkende klare, det var lite jeg kunne misforstå, og vice versa. Jeg lot de stikke meg her og der, ofte hadde jeg en mer eller mindre vittig kommentar på lur, jeg lot de gi meg dop, sette på meg rare klær og hatt - de reagerte riktignok litt da jeg selv hoppet fra den sengen jeg var blitt trillet inn i operasjonssalen med og opp på operasjonsbordet, man skal visst bli båret, dette kan hard-core realister merke seg, men ellers var alle veldig fornøyde. Jeg fikk narkose, og våknet uten blindtarm noen timer senere.

For å avslutte en alt for lang historie: da jeg våknet sa de at operasjonen hadde tatt lenger tid enn vanlig siden blindtarmen var "stygg og hadde klistret seg til bukhinnen", men den hadde heldigvis ikke sprukket. Så da var vi lykkelige alle sammen, både kirurger, sykepleiere og andre. Historien endte med andre ord godt, til tross for noen mistolkninger underveis. Dagen etter ble jeg logget ut fra sykehuset, legen ønsket meg lykke til og sa fra om at jeg "ikke måtte bære tungt på fire til seks uker".

Så nå sitter jeg her og lurer på hva "tungt" betyr. Han kunne jo ha spesifisert i kilogram ...

Update: Mens jeg skriver dette får jeg endelig svar på meldingen jeg skrev til min mor om at jeg har operert ut blindtarmen. Hun lurer på om jeg er på Sarpsborg stadion. (Sarpsborg 08 spiller mot Kristiansund.)

Heia Sarpsborg! Heia jordnærhet! Heia hard-core realister!