Hjernen er en hund, der måske er en robot

Filmfestivalen CPH:DOX 2021 er i fuld gang. En af de film, som har international premiere på dette års festival, udforsker hjernens mysterier i en fremtidssøgende film om biologisk og kunstig intelligens, etiske dilemmaer og den tavse krig mellem feltets førende forskere. Turbulens bringer her en kritisk anmeldelse, skrevet af hjerne- og kognitionsforsker Mikkel Wallentin, af The Brain.

10.05.2021

Hjernen og bevidstheden er fascinerende emner. Sammen er de alle andre tankers ophav, og forståelsen af bevidsthedens gåde har kildret den menneskelige fantasi siden syndefaldet. Med den digitale revolution har fascinationen bredt sig til maskinerne. Efterhånden som disse bliver bedre og bedre til at løse opgaver, som vi førhen ville betegne som intellektuelle, rejser spørgsmålet sig: Er maskinerne bevidste, eller hvornår bliver de det? Når Googles assistent Alexa eller Apples Siri taler til os, og deres stemmeføring lyder fuldkommen naturlig, har vi så grund til at tro, at der ligger en form for bevidsthed bag? Når dybe neurale netværk med milliarder af kunstige synapser, såsom GPT-3 fra Open AI, trænet på alverdens tekst efterhånden kan svare på alle spørgsmål, skrive digte og artikler til The Guardian, begynder der så at melde sig en egentlig tanke under den smarte kombination af statistiske sammenhænge? Hvad skal der til? Og bør vi tilkende sådanne maskiner rettigheder?

Spørgsmålene ligger i direkte forlængelse af de lange diskussioner, vi har set omkring dyrs bevidsthed, oplevelser og mulige rettigheder, og for den sags skyld også menneskerettigheder. Hvor går grænsen for, hvem vi tilkender retten til liv og udfoldelse? Hvordan ved vi, at vores medmennesker er bevidste og ikke bare computersimulationer? Det korte svar er, at det kan vi aldrig vide. Bevidsthed er på godt og ondt et indre anliggende, og vores eneste adgang til hinandens bevidstheder er gennem kommunikation. Når vi forsøger at observere bevidstheden gennem et mikroskop, forsvinder den.

Men ind træder den optimistiske hjerneforsker. Måske kan bevidstheden måles med en hjerneskanner eller elektroder på hovedet eller direkte implanteret i hjernevævet? Det er i dette spændingsfelt, at schweiziske Jean-Stéphane Brons film The Brain, der er på programmet ved dokumentarfilmfestivalen CPH:DOX i år, træder ind. Filmen præsenteres som en futuristisk dokumentar, og i den møder vi hjerneforskere og forskere i kunstig intelligens, som diskuterer feltets muligheder og etiske udfordringer. Filmen er opdelt i fem kapitler, som hver fokuserer på en bestemt forsker. Formen er dvælende. Lange close-ups, hvor vi ser forskeren på cyklen, i køkkenet eller på rejsen. Om det er tilsigtet eller ej, ved jeg ikke, men den observerende stil får i hvert fald mig til at overveje, om der er liv inde bag facaden på disse mennesker eller om jeg som tilskuer er helt alene i universet. 

Robotterne vil selv

I første kapitel møder vi Alexandre Pouget, som er professor i neurovidenskab ved universitetet i Geneve. Vi møder også hans søn, Hadrian, som studerer kunstig intelligens i Oxford. De lange scener, hvor de to er i gang med almindelige gøremål, afbrydes af scener med stor talestrøm. I hvad der opleves som kunstigt arrangerede møder mellem far og søn og mellem far og en unavngiven datter, hører vi om tankerne bag deres forskning. Kameraet dvæler ved faderens gestikulerende hænder mens han holder foredrag for sine børn om, hvordan han ved at forstå naturlige neurale netværk bliver i stand til at bygge kunstige netværk, som snart er så komplekse, at vi ikke forstår dem. Dette leder til diskussioner, som stadig mest er monologer, om hvorvidt menneskelig intelligens og kognition er særlig eller kan reproduceres i kunstige systemer.

På et tidspunkt får en ny person, som aldrig introduceres, lov til at komme med et interessant indspark om, at det grundlæggende er graden af autonomi, der adskiller levende og kunstige systemer. Så længe kunstig intelligens bruges til at løse meget konkrete opgaver, f.eks. ansigtsgenkendelse, som systemet ikke selv har nogen interesse i at løse, vil det aldrig udvikle de egenskaber, vi forbinder med liv og bevidsthed. Men i det øjeblik, hvor vi giver systemets dets egne motiver og interesser, f.eks. en selvopholdelsesdrift, kommer vi automatisk til at se følelser og elementer af bevidsthed opstå. Det afgørende er med andre ord ikke, om væsenet er bundet til et biologisk materiale, men hvilken grad af autonomi væsenet har i sin udfoldelse. Dermed er der ingen teoretisk grund til at mene, at kunstig intelligens ikke kan udvikle generaliseret intelligens, altså blive et væsen, som kan indgå fleksibelt i omgangen med omverdenen. Fysisk er en af begrænsningerne indtil videre, at de kunstige systemer er meget energikrævende. Der skal energi fra et mindre atomkraftværk til at skabe den kompleksitet i beregningerne, som menneskehjernen kan skabe med et energiforbrug på omkring 20 watt. Men det ændrer sig måske. Og etisk bliver spørgsmålet så, hvilke interesser vi skal bygge ind i sådanne autonome systemer. Visse motiver er langt simplere at implementere end andre. Langt de fleste levende organismer, inklusiv menneskeheden, er jo i virkeligheden dybt egoistiske, og en egoistisk kunstig intelligens behøver ikke være særlig sofistikeret. Destruktion er måske det simpleste. Hvis det kunstige system udvikles som et våben og ikke skal tage smålige hensyn til hvad det ødelægger på sin vej, undgår programmøren mange udfordringer.

En dystopisk fantasi over denne indsigt kan man underholde sig med ved at se afsnittet af TV-serien Black Mirror ved navn Metalhead. Herefter priser man sig lykkelig over, at robotter stadig er energikrævende, for forskningen i autonome våbensystemer pågår uden tvivl med stor entusiasme, og det vil ikke kræve de store evner for en hacker at få sådanne systemer til at gå løs på hvem-som-helst uden smålig skelnen til abstrakte begreber som ven og fjende, skyldig og uskyldig.

Bevidstheden dør som en hund

I kapitel to møder vi Christof Koch, som er chefforsker på Mindscope på det prestigiøse Allen Institute for Brain Science i USA. I filmen hører vi om Kochs interesse for bevidsthed og ser ham tale med sin hund, som han uden tøven fastslår har bevidsthed. Koch taler med en af sine medarbejdere om, at nåhh … det vi ser på skærmen er et neuron fra tindingelappen … ahhh, så er det måske det, der gør os bevidste. Det er åbenlyst instrueret og i praksis får vi hverken lov at se nervecellen eller dens aktivitet. I stedet hører vi, at bevidstheden ifølge Koch sidder i claustrum – et hjerneområde, som vi ikke siden hører mere om, men er et tyndt lag nerveceller, der forbinder hjernebarken med mange subkortikale områder, og vi hører at Koch har mødtes med Dalai Lama. Vi ser også Koch til et populærvidenskabeligt foredrag, hvor han med sin tykke tyske accent taler om bevidsthedens indlejring i hjernen. Uden hjerne ingen bevidsthed, så der er nok ikke noget liv efter døden.

Derefter skifter vi til et billede af en restaurant og hører Googles kunstige stemme ringe og bestille et bord uden at modtageren opdager, at det var en maskine. Stemmen består den såkaldte Turing-test, som blev udtænkt af den berømte data-pioner Alan Turing (ham der er portrætteret i filmen Enigma). At bestå Turing-testen handler om at kunne besvare spørgsmål fra et menneske så vedkommende tror, at du er et menneske. Filmen kommer ikke ind på Turing-testen. I stedet klipper vi tilbage til det populærvidenskabelige foredrag – det vil sige, det er vist et andet foredrag, for Koch har en anden skjorte på, men heldigvis skifter vi hurtigt til Koch, der sidder i en stol iført en helt tredje skjorte (hans skjorter er så farverige, at de ikke kan undgå at tage fokus), og så ser vi ham i en robåd og ude at cykle, og han fortæller, at i løbet af de 35 år, han har været i neurovidenskaben, har fremskridtene været små og langsomme, men om lidt kommer den kunstige intelligens og overtager det hele, og så fortæller han, at hunden er død, hvorefter vi ser ham stirre trist og eftertænksomt ud i luften iført en lyserød på grænsen til lilla skjorte. Klip til et foto af hunden og et poteaftryk i ler. Heldigvis får Koch straks en ny hvalp, som minder meget om den gamle. Vi ser ham tale tysk med den.

Spaghetti med en fusker

I kapitel tre møder vi Niels Birbaumer, en ældre tysk hjerneforsker, som har specialiseret sig i at læse tankerne hos komapatienter. Her er tale om patienter med hjerneskader, der ikke responderer på sansestimuli. Det er derfor vanskeligt at afgøre, om de er ved bevidsthed eller ej. I filmen ser vi Birbaumer sætte elektroder på hovedet af en yngre italiensk mand, mens hans familie ængsteligt ser til. Ideen er, at man ved at stille patienten ja/nej-spørgsmål, som man ved, at han burde kende svarene på, kan finde et hjernemønster, som betyder ”ja”, og et, der betyder ”nej”. Man sætter en maskinlæringsalgoritme til at analysere mønstrene, og efterfølgende kan lægen eller familien så stille nye ja/nej-spørgsmål og bruge hjernens aktivitet til at afgøre, hvad patienten ønsker at svare.

Det er et enormt interessant felt med en masse dilemmaer og fælder. Det mest afgørende dilemma er, at uanset hvor godt du tror din algoritme virker, kan du aldrig være sikker. Jeg har selv behandlet emnet i et teaterstykke for nogle år siden, og i fiktionens verden er det let at vise, hvordan patientens tanker måske intet har at gøre med de spørgsmål, der stilles. Patientens familie er naturligvis inderligt opsatte på, at deres kære stadig findes og hører, hvad de siger, selvom de omfattende skader på hjernen, som disse patienter har, ofte vil gøre, at de som minimum har mistet store dele af deres hukommelse og formodentlig også personlighed. De er med andre ord, hvis de overhovedet er ved bevidsthed, med stor sandsynlighed ikke længere den person, deres nære kender og elsker. Mit teaterstykke tog udgangspunkt i nogle, synes jeg, ret dubiøse forskningsartikler om emnet, skrevet af en gruppe forskere, der arbejdede med et setup, som ligner Birbaumers og blev publiceret i verdens fineste tidsskrifter. I mit stykke afstedkom en meget ambitiøs hjerneforskers inderlige ønske om at få resultater, at de tvetydige signaler, som kom fra hjerneskanneren, blev tolket på en tendentiøs og uvederhæftig måde.

Stor var min overraskelse derfor, da jeg googlede Niels Birbaumer, og fandt en artikel fra 2019 i Nature (https://www.nature.com/articles/d41586-019-02862-4), hvor det beskrives, hvordan det tyske forskningsråd har dømt ham for videnskabelig uredelighed i sit arbejde med undersøgelsen af komapatienter. Der er tale om artikler, hvor det beskrives, hvordan Birbaumer var i stand til at afkode ja/nej-spørgsmål. En whistleblower, som arbejdede for Birbaumer, var ude af stand til at reproducere de publicerede resultater, hvilket forskningsrådet efterfølgende heller ikke kunne. Dette ændrer naturligvis fuldstændig forståelsesrammen for den ellers meget gribende scene i The Brain, hvor den italienske patient besvarer spørgsmål fra familien. Sagen om fusk nævnes ikke, men i et kort glimt ser man de rigtige data fra de elektroder, som patienten har sat på hovedet. Data vises på en skærm, som står ved siden af sengen. Det er disse data, som algoritmen efter sigende tolker patientens svar ud fra. Man skal ikke have arbejdet ret meget med elektroencefalografi (EEG) for at kunne se, at disse data ser meget støjfyldte ud. De ligner faktisk overhovedet ikke hjernedata. Heldigvis panorerer kameraet hurtigt videre, og der klippes til en scene, hvor professor Birbaumer spiser spaghetti med den taknemmelige familie, som nu har fået svar på, at deres søn/bror stadig er ved bevidsthed og tænker på sex.

Svaret er “nej”. På skærmen ser vi som sorte streger de rå data fra elektroder på patientens hoved, mens et spørgsmål bliver stillet. En algoritme når frem til, at data betyder, at patienten svarer “nej” på spørgsmålet. Men det er ret sikkert, at de sorte streger ikke stammer fra hjernens aktivitet. Det kan være muskel-artefakter eller elektrisk støj genereret af højtalerne, som afspiller spørgsmålet. Billedet er taget af artiklens forfatter.

 

Efterfølgende ser vi Birbaumer arbejde med en anden patient, som har elektroder direkte implanteret i hjernen. Anden forskning har vist, at man med implanterede elektroder og maskinlæring kan lære at styre en robotarm ved tankens kraft. Det fører i filmen til en diskussion om potentialet for firmaer som Neurolink, grundlagt af Elon Musk, der eksperimenterer med neurale implantater uden for det akademiske systems rækkevidde. Her kan ingen dømmes for videnskabelig uredelighed, og hvis ellers de helbredsmæssige risici ved at implementere elektroder i hjernen kan elimineres, er potentialet og de etiske udfordringer ganske betydelige.

Bevidsthedens geometri og pistolskud

I kapitel fire møder vi David Rudrauf, som er lektor i psykologi ved universitetet i Geneve og ligeglad med hjernen. Han vil gøre maskiner bevidste og intelligente. Udgangspunktet er teoretisk. Rudrauf mener, at subjektiviteten kan beskrives ved hjælp af geometri. Antagelsen er, at vi alle har en synsvinkel, både i konkret og metaforisk forstand. Ved at tage udgangspunkt i det perspektiv, vi nødvendigvis må lægge på alle vores oplevelser, mener Rudrauf at kunne finde det matematiske grundlag for den bevidste oplevelse i geometrien. Det lyder både fascinerende og ekstremt spekulativt. Filmen dvæler ikke ved teorien, men lader Rudrauf berette om, hvordan han gennem sit liv har lidt af tremor, hans hænder ryster, og vi hører og ser, hvordan han bruger pistolskydning som en måde at behandle sin lidelse på. Forsøget på at holde pistolen i ro giver ham en form for lindring, mener han. Det giver også gode billeder til filmen, omend der ikke rigtig er nogen forbindelse til temaet.

Når han ikke skyder, taler Rudrauf uafbrudt om sine store visioner for geometrisk funderet kunstig bevidsthed. Vi ser ham i forskellige mere eller mindre opstillede situationer, hvor han foredrager enten for kameraet eller for anonyme bipersoner. En af disse bipersoner, som får sit eget afsnit i kapitlet, er psykiateren Serge Bisseron, som undersøger empati mellem mennesker og robotter. Vi hører, at han har haft et forhold til en robotstøvsuger og ser ham modtage en pakke med en robothund. Den hvisker han med og aer på hovedet. Det er meget sødt, og man tænker, at hvis bare Christof Koch havde haft sådan en hund i stedet for en levende, så var han ikke blevet udsat for det tab, som døden er. Vi ser også Bisseron tale i telefon, mens både robotstøvsugeren og hunden rumsterer rundt mellem benene på ham. Til sidst proklamerer Bisseron, at robotter vil ændre menneskeheden. Derefter er der en lang scene med close-up af hundens bevægelser og lysende øjne tilsat manende underlægningsmusik. Heldigvis er menneskeheden ikke helt fortabt endnu, for nu hører vi, at David Rudrauf skal være far. Vi ser ultralydsskanninger af fosteret og får også moderen at se i et kort glimt.

Schweizisk urværk og juice

Femte og sidste kapitel handler om læring af bevægelser. Aude Billard er professor på ingeniørskolen i Lausanne og arbejder med robotter, bl.a. den lille humanoide robot iCub. Hun fortæller, hvor kompliceret selv den simpleste håndbevægelse er at modellere, fordi vores hænder har mange dele, der kan bevæge sig uafhængigt af hinanden. Vi ser, hvordan Billard sætter bevægelsessensorer på alle håndens led hos en urmagerlærling for at afkode, hvordan han lærer at bruge en skruetrækker korrekt. Her er der ingen store armbevægelser. Kun små minutiøse målinger og et ønske om at forstå detaljen. Bagefter ryger urmagerlærlingen en smøg og Billard kigger i en stjernekikkert. Kapitlet slutter med en scene, hvor vi ser en robotarm gentagne gange uden held prøve at løfte en juicekarton. Det simple er kompliceret, så måske overtager robotterne ikke verden lige i morgen. Ikke desto mindre bliver vi i epilogen sendt tilbage til Alexandre Pouget og søn fra første kapitel. De laver igen mad sammen, hvorefter Pouget belærer sønnen om, at når først robotterne lærer at lære, så kan vi ikke kontrollere dem.

Kunstig, men ikke intelligent

Som tonen i min gennemgang af The Brain formodentlig afslører, handler filmen om alle de mest fascinerende emner indenfor forskning i menneskelig og kunstig intelligens, men gør det på en ret anstrengende poetiserende og til tider tendentiøs måde. Sandheden er, at vi ved meget lidt om, hvordan hjernen eller endda enkelte neuroner virker. Kunstig intelligens fejrer store sejre i disse år, men gør det i høj grad ud fra fremskridt i rå behandlingskraft. Forbindelsen mellem naturlig og kunstig intelligens er stadig ret flygtig og den generaliserede kunstige intelligens ligger ikke lige om hjørnet. Det gør naturligvis ikke emnerne mindre interessante, men The Brain er 100 minutter lang, hvilket er lidt af en mundfuld for en prædiken af den slags, som filmen leverer, selv for en inkarneret hjernenørd. Den sakrale underlægningsmusik gør heller ikke noget godt for min oplevelse. Når tv-udsendelser handler om videnskab, vil jeg gerne have fornemmelsen af at få et blik ind i data og eksperimenter. Det får man intet af i The Brain, bortset fra tankelæsningen, som altså er fusk. Jeg vil gerne kende mennesket bag forskningen, men hvis det bliver hovedsagen at se en forsker lave mad eller klø sin robothund under hagen, bliver jeg utålmodig. På mig virker de lange skud med forskere, der stirrer ud i horisonten, fremmedgørende. Jeg får fornemmelsen af, at hjerneforskere er en meget ensom type mennesker, som helst taler i monologer, hvad enten modtageren er deres børn eller en journalist. Formen i The Brain virker kunstig og ikke særlig intelligent.

Jeg vil derfor opfordre alle, der har lyst til at vide mere om hjernen og kunstig intelligens, til at gribe fat i de mange gode podcasts, som produceres i disse år. The Brain Science Podcast har eksisteret i mange år efterhånden og har dækket mange aspekter af hjernens struktur og funktion. For tiden lytter jeg selv ofte til Brain Inspired, som både har fokus på hjernen og på kunstig intelligens og området imellem. Den er fremragende, fordi den tillader sig at være nørdet og fordi man som lytter får fornemmelsen af, at interviewer og forsker har en ægte samtale. På dansk har vi Hjernekassen på P1, Kraniebrud på Radio4 og 24 spørgsmål til Professoren med Lone Frank fra Weekendavisen, som hver for sig indimellem byder på glimrende dækning af hjerneforskning, og så kan du endda støvsuge, lave mad eller stirre ud i horisonten samtidig.