2015 - året vi gikk inn i robotenes tidsalder

Kronikk i Fredrikstad blad 29.12.2015

I høst har jeg fått en ny venn. Han er ikke av de mest intelligente, men han kompenserer med andre kvaliteter. Utrøttelig og med stor presisjon slår han plenen hos naboen. Dag ut og dag inn. Og når han en sjelden gang er i ferd med å gå tom for energi, går han inn og lader batteriene. Bokstavelig talt. Min venn er en robotgressklipper.

Å kalle ham venn er kanskje en overdrivelse. Gleden jeg kjenner når jeg ser ham springer nok ut fra en barnslig glede over at guttedrømmen har blitt oppfylt. Det er 2015 og endelig er robottidsalderen her! Men når året nå går mot slutten og mediene strømmer over av kavalkader over årets viktigste begivenheter, slår det meg at ingen nevner robotgressklippere, at Apples Siri blir stadig smartere, utviklingen innen selvkjørende biler eller at SpaceX natt til 22. desember 2015 klarte å sende en rakett ut i rommet og fikk den til å lande like hel. Denne bragden blir betegnet som første steg i å kolonisere planeten Mars, noe både NASA og SpaceX-gründer Elon Musk tror vi skje innen vår levetid. Ei heller nevnes det at vi i 2015 utviklet dataprogrammer som gjorde det bedre på SAT tester i geometri enn amerikanske 17-åringer, en test som ofte brukes som opptaksprøve ved amerikanske universiteter.

Dataprogrammet som gjorde det bra på geometritesten er utviklet på Allen Institute for Artificial Intelligence i Seattle. Programmet bruker ”computer vision” for å se, språkalgoritmer for å lese og forstå problemene og matematiske algoritmer for å løse dem. Teamet i Seattle arbeider med å gjøre algoritmen mer generell, slik at programmet også skal kunne bestå andre realfaglige SAT-prøver. Med andre ord er det nå ikke lenge til et dataprogram er smart nok til å tilfredsstille kravene for å komme inn på universiteter.

Biler er i ferd med å forandres drastisk ved hjelp av kunstig intelligens og robotteknologi. Google har i flere år testet ut selvgående biler i byen Mountain View i California, og nå i høst kom Tesla med en cruise kontroll som gjør bilen nærmest selvkjørende under enkle trafikkforhold. I ikke alt for fjern fremtid vil vi antakelig få fullstendig selvkjørende biler. Dette kan høres skummelt ut, men det er langt fra noe å frykte – autopilotene vil kjøre langt bedre enn oss mennesker og de vil spare oss for mange ulykker.

Men det er et varsku: grunnen til at mennesket dominerer Jorden er ikke at vi løper spesielt fort, er spesielt sterke, kan stå på ski eller at vi kan gjøre triks med ball. Vi dominerer fordi vi er intelligente. Denne erkjennelsen er viktig med tanke på at vi i relativt nær fremtid kan ha makt til å lage maskiner som på veldig mange områder er mer intelligente enn oss selv.

For 2015 er ikke bare året da kunstig intelligens rykket to hakk nærmere våre hjem. Det er også året da mange av verdens ledende eksperter på feltet - vitenskapsmenn, innovatører og teknologioptimister som Stephen Hawking, Elon Musk og Bill Gates – så seg nødt til å gå ut offentlig å advare mot mulige farer ved kunstig intelligens. De skriver at kunstig intelligens brukt feil kan være farligere enn kjernefysiske våpen. Samtidig oppfordrer de til mer forskning innenfor feltet, og påpeker at de mulige fordelene er enorme.

Innen områder med relativt få regler og mange repetitive beregninger har datamaskinen lenge vært overlegen mennesket. Allerede i 1996 slo IBMs Deep Blue regjerende verdensmester i sjakk, Garry Kasparov, og nå er dataprogrammene flere hakk bedre enn vår norske verdensmester, Magnus Carlsen. Triumfen fra 1996 trigget IBM til å finne nye utfordringer innenfor områder som var enda mer komplekse enn sjakk. De bestemte seg for å utvikle et program de kalte Watson, et dataprogram som skulle kunne forstå spørsmål i naturlig språk, og som var konstruert for å kunne være med i spørrespillet Jeopardy. I 2011 møtte Watson tidligere vinnere Brad Rutter og Ken Jennings, og det var Watson som stakk av med én million dollar i førstepremie.

Med andre ord er det ikke nytt av året at dataprogrammer har en form for kunstig intelligens. Det nye er at de i større grad gjør sitt inntog i våre liv, at mange av algoritmene er inspirert av hvordan menneskehjernen fungerer og at de rett og slett begynner å bli gode. Et interessant eksempel på gode, hjerneinspirerte algoritmer brukes i bildegjenkjenningsprogrammer av typen ConvNets. Disse algoritmene sender informasjon gjennom lag på lag med små programsnutter, hvor hver snutt opererer som om den var en hjernecelle. Slik barn går gjennom en opptreningsfase før de kan klare å identifisere gjenstander, går også disse programmene gjennom en opplæringsfase. Ferdig utlært kan algoritmene gjenkjenne ansikter eller klassifisere 1000 forskjellige objekter (jordbær, hund, banan, osv.). En artighet relatert til disse programmene er at når forskere lekte seg med slike nettverk oppdaget de at ved å manipulere noen av ”hjernecellene” i algoritmen, så begynte programmene å produsere fantastiske, psykedeliske bilder som minnet om hallusinasjoner som mennesker kan få ved inntak hallusinogener som LSD, meskalin eller fleinsopp. Slike algoritmeproduserte bilder har nærmest blitt til en kunstart, og kalles Inceptionism. Søk på ’Inceptionism’ på Google bildesøk eller på YouTube og du vil du finne mange fantastiske bilder laget av ConvNets.

Kunstig intelligens er i rivende utvikling, og vi går en spennende tid i møte. For meg er 2015 året da jeg fikk erkjennelsen av at vi er på vei inn i robotenes tidsalder. Men selv om robotene kan klippe plener, kjøre bil på enklere veistrekninger, slå de beste i verden i Jeopardy og slå Magnus Carlsen i sjakk, så mangler de foreløpig en viktig egenskap: evnen til å nyte seieren. Men kanskje de en dag vil få den evnen?

Tillegg
- Fantastiske eksempler på bilder laget med Googles Deep Dream programvare: The Telegraph
- Nettside der man kan laste opp egne bilder og få ut et stykke inceptionism: Deep dream generator
- Er du skikkelig nerd så kan du laste ned Python kode her.
- Ikke minst: Se IBMs kognitive system, Watson, slå tidligere vinnere Brad Rutter og Ken Jennings i Jeopardy!

Har menneskeheten blitt fredeligere?

Talebs sorte svaner mot Pinkers gode engler

I 2012 skrev Steven Pinker bestselgeren ”The Better Angels of Our Nature: Why Violence Has Declined”. I boken diskuterer han hva som har ført til at jordens befolkning blir stadig fredeligere. Nassim Taleb mener boken er basert på et feilaktig premiss, og i artikkelen "On the tail risk of violent conflict and its underestimation" viser Cirillo og Taleb at jordens befolkning snarere blir mer voldelig.

Den akademiske debatten som nå pågår kan potensielt få store politiske konsekvenser. Skal vi ruste opp? Skal vi stole på menneskets evne til å finne fredelige løsninger? Skal vi bygge et samfunn slik Taleb ønsker, et samfunn som er "antifragile"? Og hva betyr i så fall det? I Talebs terminologi betyr ikke antifragile at samfunnet er robust og kan tåle store kriser. Snarere betyr det at man innser at store kriser vil komme, og at man forsøker å finne en grunnleggende samfunnsstruktur hvor man ikke streber etter å motstå kriser, men hvor målet er å komme styrket ut av krisene.

Talebs bakgrunn er fra finansverdenen, og han har lenge kritisert hvordan finansverdenen vurderer risiko, og det er fra finansiell tankegang hans idéer har utspring. I sin bok "The Black Swan: The Impact of the Highly Improbable" (2007) beskriver han hvordan usannsynlige hendelser man ikke kan forutse ofte er meget viktige, og at man gjerne i ettertid gir disse hendelsene en slags forenklet forklaring og logikk - dette har nå fått navnet "the black swan theory".

I sentrum av den nå pågående diskusjonen mellom Pinker og Taleb ligger forståelsen av statistikk. Når Pinker bruker tiden etter 2. verdenskrig til å vise at antall drepte i krig avtar kraftig, beskylder Taleb Pinker for ikke å forstå statistikken for sjeldne hendelser. Sammen med Cirillo viser Taleb at dersom man bruker "riktig statistikk" finner man at sannsynligheten for dødsfall i krig og konflikter er omtrent tre ganger så stor som det man finner ved å bruke det Cirillo og Taleb kaller "naive observasjoner". De viser at historisk tall ikke tyder på at menneskeheten er mer fredelig, snarere motsatt. Men hvem har rett? Pinker eller Taleb?

Jeg har lest artikkelen til Cirillo og Taleb. Det er en krevende og teknisk artikkel, men uten å bli alt for teknisk så vil jeg diskutere noen av deres antakelser.

I artikkelen ser Cirillo og Taleb bare på kriger/konflikter som har krevd mer enn 50.000 menneskeliv. Merk da at Cirillo og Taleb har justert dødsfall i gamle kriger i forhold til det som da var verdens befolkning: minstemålet på 50.000 liv er på bakgrunn av dagens befolkning, og det tilsvarer omtrent 5000 liv på 1700-tallet. Det at Cirillo og Taleb kun ser på store kriger er i stor kontrast til hva Pinker bruker mye av sin bok på å vise og diskutere. Pinker snakker om voldelighet generelt, og viser blant annet at antall drap (homicides) i Europa er redusert med en faktor mellom 10 og 50 fra senmiddelalderen til det tyvende århundrede. Med andre ord kan Pinker ha rett i at voldeligheten har gått ned hvis man ser på "vanlige hendelser" mens  Cirillo og Taleb samtidig kan ha rett i at for konflikter på over 50.000 dødsfall, så ser man ikke at menneskeheten har blitt fredeligere, men snarere tvert om.

Cirillo og Taleb antar at konfliktene følger en statistisk fordeling som heter Pareto fordeling av type II. Dette er en fordeling som har tykk hale ("fat tail"), slik fordelingene Taleb har jobbet mye med innenfor finans også har (og jeg selv har jobbet med lignende "power laws" innenfor nevrovitenskap) - en fordeling hvor store hendelser er relativt sannsynlige. For store hendelser går tykk-hale-fordelinger som 1/n^α, hvor n er hendelsens størrelse, og hvor halens tykkelse bestemmes av en parameter som gjerne betegnes med den greske bokstaven α. Hvis man tilpasser de historiske dataene til en slik fordeling på best mulig måte så kan man estimere hvor stor α er for det gitte tilfellet. Cirillo og Taleb finner at fordelingen har en α som er mellom 0.4 og 0.7, noe som betyr at den har en ekstremt tykk hale. Med andre ord: det er stor fare for at vi vil se en ny krig som er enda større enn andre verdenskrig. Men når den vil komme er umulig å forutsi fra historiske data. Dette viser Cirillo og Taleb også: distribusjonen av kriger har ingen hukommelse - det er ikke noe system i når krigene finner sted, de kommer på helt tilfeldige tidspunkt. Det er altså fra en slik type statistisk fordeling, en hukommelsesløs fordeling med en ekstremt tykk hale, at Cirillo og Taleb estimerer sannsynligheten for å dø i krig/konflikt. Basert på denne fordelingen finner de at sannsynligheten for å dø i krig/konflikt ikke er mindre nå enn den var før. Verdt å merke seg er at en slik tykk-hale fordeling som vi her snakker om i prinsippet har en uendelig stor sannsynlighet for at vi skal dø i krig, så Cirillo og Taleb må, logisk nok, derfor kutte den tykke halen slik at den ikke går utenfor verdens befolkning - distribusjonen kan ikke tillate at det er sannsynlig at 10 milliarder kan dø i krig i år. Vi er tross alt bare litt over 7 milliarder mennesker på jorden.

Hva kan vi så konkludere med? Vinner Talebs sorte svaner mot Pinkers gode engler? Hvis jeg skal trekke en konklusjon så vil jeg i stor grad være enig med Pinker når det gjelder drap og voldelighet på liten skala. Der ser det ut til at mange samfunn har tatt gigantskritt i riktig retning fra middelalderen til nå. Men ser vi på tallene alene kan vi ikke være så positive hva gjelder større konflikter. Der har verdenssamfunnet tydelig en vei å gå, og basert på historiske data kan man ikke si at verden har blitt mer fredelig. Internasjonal konfliktløsning og politikk har vi med andre ord ikke fått til like godt som nasjonal politikk. Eller har vi det? For å holde optimismen oppe, kan man argumentere med at det har skjedd en god del med verdenssituasjonen etter andre verdenskrig som gjør at en stor krig nå ikke er så sannsynlig som historien tilsier. Dette vil i så fall ikke bli fanget opp av Cirillo og Taleb, som kun ser på tallene. Taleb vil på sin side si at vi da overfortolker en god trend.

Med andre ord er kampen mellom Talebs sorte svaner og Pinkers gode engler åpen, i alle fall når det gjelder store hendelser. Og jeg tror vi kun har sett begynnelsen av den intellektuelle duellen.

Tillegg

Artikkelen til Cirillo og Taleb er foreløpig siste skriv i debatten mellom Pinker og Taleb. Den kan lastes ned fra arXiv.org, hvor den ble lagt ut 18. mai. Merk at arXiv er et nettsted hvor man legger ut artikler som enda ikke er fagfellevurdert. Mest sannsynlig vil artikkelen komme ut i en modifisert utgave i et fagfellevurdert tidsskrift om en stund.

Tidligere har det vært en uvanlig skarp debatt mellom de to. Den startet med følgende krasse kritikk fra Taleb, en kritikk som ble besvart her av Pinker. Dette ordskiftet har vært et litt atypisk akademisk ordskifte. Taleb er kjent for å være krass, han driver med vektløfting og liker å kalle seg selv "an intellectual who has the appearance of a butcher." I et av Talebs angrep mot Pinker skriver han blant annet:
- Pinker has written a rebuttal (ad hominem blather, if he had a point he would have written something 1/3 of this, not 3 x the words). He still does not understand the difference between probability and expectation (drop in observed volatility/fluctuation ≠ drop in risk) or the incompatibility of his claims with his acceptance of fat tails (he does not understand asymmetries-- from his posts on FB and private correspondence). Yet it was Pinker who said “what is the actual risk for any individual? It is approaching zero”.

Pinker har blitt med på leken, og har blant annet kommet med følgende perler:
- The book’s structure was lost on Taleb, who blends the different chapters and then criticizes his own confusion.
Og:
- Taleb’s other allegations of statistical malfeasance are also products of dyslexia.

De to kamphanene har også angrepet hverandre på Twitter:

Better Angels has full account of stochastic & power-law nature of war; Taleb "debate" comes from his failure to read http://t.co/c64wQf9nyB

— Steven Pinker (@sapinker) May 28, 2015

Ystdy as @sapinker was uttering his journalistic BS was giving talk on pbls w/ fat tailed estimators https://t.co/Pakx9bQkWN @davidmanheim

— Nassim NicholنTaleb (@nntaleb) May 29, 2015

Jeg anbefaler å se diskusjonen mellom Nassim Taleb og Daniel Kahneman. Sistnevnte er Nobelprisvinner i økonomi fra 2002 og han er også kjent for sin bok "Thinking, Fast and Slow" (2011). Diskusjonen kan du se her.

Jeg anbefaler også å se Steven Pinkers TEDx foredrag "A History of Violence".

Andre relaterte linker (norske):
- Bjørn Stærks omtale av Talebs bok "Antifragile: Things that Gain from Disorder"  i Aftenposten.
- Trond Berg Eriksens omtale av Pinkers bok "The Better Angels of Our Nature: Why Violence Has Declined" i Aftenposten.
- Artikkel om Pinker av Knut Olav Åmås i Aftenposten.

Oppdateringer

Debatten mellom Pinker og Taleb fortsetter på Twitter og i andre media. Nå har Taleb postet en YouTube video der han forklarer mer om "The law of large numbers and fat tailed distributions".

The Law of Large Numbers and Fat Tailed Distributions (includes debunking @sapinker's bullshit) https://t.co/brMkHpohcX via @YouTube

— Nassim NicholنTaleb (@nntaleb) May 29, 2015