Påstandene om at LaMDA er bevisst har blitt tilbakevist av det vitenskapelige samfunnet og av Google selv, og Lemoine måtte også slutte i sin stilling i Google.
LaMDA er et dataprogram som har trent seg opp på store deler av internett til å bli ekspert på å forutsi hva neste ord skal være i en setning. Denne egenskapen kan programmet bruke til å lage setninger og lengre tekster. I fagfeltet blir slike språkalgoritmer kalt stokastiske papegøyer. Programmet kan ikke reflektere, det kan ikke føle noe og algoritmen forstår ikke hva den sier. Den er rett og slett veldig god på å etterape tekster.
Men hvordan kan vi være så sikre på at dataprogrammer ikke kan være bevisste? Hva er egentlig bevissthet?
Sammen med en håndfull andre store spørsmål, har «bevissthetens mysterium» vært et av menneskehetens største og viktigste mysterier siden Aristoteles’ tid.
Ett etter ett har de store mysterier blitt løst, avslørt og demystifisert. I begynnelsen av forrige århundre ble de store mysterier innenfor fysikk og kjemi forstått. Einstein og andre kjente fysikere avdekket naturens grunnleggende lover. Fram til midten av forrige århundre var imidlertid hvordan liv fungerte fortsatt et stort, uløst mysterium. Som alle andre store spørsmål som ikke har en vitenskapelig forklaring hadde livets mysterium stort sett vært overlatt til religion og filosofi.
Francis Crick var en forsker med ambisjoner om å løse de gjenværende store problemer ved bruk av vitenskapelig metode. Historien er kjent - sammen med Watson løste Crick «livets mysterium». Watson og Crick pleide å spise lunsj og tilbringe kvelder på The Eagle pub i Cambridge, en legendarisk pub som ble etablert på 1600-tallet. Og hva var vel da mer naturlig enn at det var på denne puben at Crick annonserte forrige århundres kanskje største oppdagelse. Den 28. februar 1953 proklamerte Crick at de hadde «avslørt livets hemmelighet». De hadde oppdaget strukturen til DNA og forsto ut fra denne oppdagelsen hvordan liv fungerer.
Etter at livets mysterium var løst mente Crick at det var ett stort mysterium som gjensto: Hva er bevissthet? Crick tok nå fatt på oppgaven, og i hans bok «The asthonishing hypothesis» tok han utgangspunkt i det han kalte en «forunderlig hypotese» som sa at en persons mentale aktiviteter skyldes helt og holdent oppførselen til hjerneceller og atomene, ionene og molekylene som utgjør dem og påvirker dem. Dette var kanskje forunderlig for mange på 1990-tallet, når boken kom ut, men blant forskere er dette en ganske grunnleggende tanke: at naturen, inkludert liv og bevissthet, kan forklares ut fra naturlovene og vitenskapelig metode. Bevissthet oppstår og kan forklares fra aktivitet i hjernen. Og sammen med Christof Koch tok Crick opp jakten på bevissthetens byggestener ved å saumfare hjernen.
Bevissthetens mysterium var noe som opptok Crick resten av hans liv, og Koch har fortsatt forskningen om å finne «bevissthetens minstedel» i hjernen også etter Cricks død. Hvor i hjernen sitter bevisstheten? Hva er den minste delen av hjernen som trengs for at man skal være bevisst?
Selv om jakten på bevissthetens hemmelighet er i full gang, er vi foreløpig langt unna å ha et svar. Vi vet nå en del om hvilke deler av hjernen som er aktive og nødvendige for å være bevisst, og vi har også noen teorier for bevissthet. Der stopper imidlertid vår forståelse og bevissthet er derfor fremdeles et mysterium.
Siden man enda ikke har en god forståelse av bevissthet er det også vanskelig å si bastant at dataprogrammer eller roboter ikke kan bli bevisste i framtiden. Én ting er imidlertid sikkert, dataprogrammer vil bli gode på å simulere at de er bevisste.
Dataprogrammer har i lang tid blitt brukt for å simulere virkeligheten. Vi kan bruke programmer for å beregne hva som skjer i et sort hull i universet eller for å lage værmelding. Nå kan programmene også til en viss grad simulere at de er intelligente og de kan til en viss grad simulere bevissthet. I framtiden vil det bli langt flere enn Blake Lemoine som lar seg overbevise om at programmet de snakker med er bevisst. Og kanskje vil vi også få følelser for algoritmene, slik Spike Jonze allerede i 2013 skildret i filmen Her. Der blir Theodore (Joaquin Phoenix) forelsket i Samantha (Scarlett Johansson), som er en kunstig intelligens som kun eksisterer i Theodores telefon og datamaskin.
Kunstig intelligens kan bli brukt til mange gode formål. Man trenger imidlertid ikke å ha mye fantasi for å tenke seg hvordan kunstig intelligens også kan misbrukes, og hvordan slike algoritmer kan brukes til manipulering.
Da er det viktig å merke seg at simuleringer av bevissthet kun er simuleringer. Man skaper ikke et sort hull ved å simulere et sort hull. Man skaper heller ikke bevissthet ved å simulere bevissthet.
Hva så med intelligens? Kanskje det er annerledes? Skaper vi faktisk intelligens ved å simulere intelligens?
