Warning: "continue" targeting switch is equivalent to "break". Did you mean to use "continue 2"? in /var/www/turbulens.net/public_html/wp-content/plugins/revslider/includes/operations.class.php on line 2539

Warning: "continue" targeting switch is equivalent to "break". Did you mean to use "continue 2"? in /var/www/turbulens.net/public_html/wp-content/plugins/revslider/includes/operations.class.php on line 2543

Warning: "continue" targeting switch is equivalent to "break". Did you mean to use "continue 2"? in /var/www/turbulens.net/public_html/wp-content/plugins/revslider/includes/output.class.php on line 3525
Turbulens | Kritik af den kunstige intelligens
 

Kritik af den kunstige intelligens

13.01.2020

I en tid, hvor kunstig intelligens i tiltagende grad og samtidigt på en foruroligende, ubemærket måde, spiller en større rolle i vores samfund, kan det være vigtigt at gøre sig klart, hvori dens principielle begrænsninger består. Ligesom den menneskelige tænkeevne med Kants berømte Kritik af den rene fornuft (1781) fik tildelt og afgrænset sit råderum, er tiden måske inde til, at den kunstige intelligens (algoritmen) får tildelt sit. Denne artikel berører tematisk – uden ringeste prætention om at være fyldestgørende – nogle af de mest grundlæggende særtræk ved den menneskelige intelligens og dens mulighedsbetingelser, som synes uden for rammerne af enhver mulig kunstig intelligens.

 

”Det virker undertiden som om hvert nyt i retning

af AI i stedet for at frembringe noget, som alle

samstemmigt kan betragte som virkelig intelligens,

i stedet afslører, hvad rigtig intelligens ikke er.”[i]

Douglas R. Hofstadter

 

”En mærkelig sløjfe”

”Det er den menneskelige fornufts særlige skæbne, at den i en af sine erkendelsesmåder belemres med spørgsmål,som den ikke kan afvise, eftersom de udspringer af dens egen natur – men som den heller ikke kan besvare, eftersom de overstiger alt, hvad den formår.”[ii], skriver den tyske filosof Immanuel Kant (1724-1804) i sit magnum opus: Kritik af den rene fornuft. Hvad Kant her skriver kan i mine øjne meget vel benyttes som ledetråd i forsøget på at forstå, hvori ægte (menneskelig) intelligens består til forskel fra den kunstige. Hvad den citerede sætning siger, er just dette: den menneskelige fornuft stiller spørgsmål, som den ikke selv kan besvare, hvilket netop kendetegner den filosofiske tænkning, ud fra hvilken videnskaben er fremvokset. Denne indsigt fandt dog allerede udtryk hos Platon: ”At undre sig, det hører i høj grad med til at være filosof. Det er netop det, der er begyndelsen til filosofi”[iii]. At undre sig er det første tegn på ægte intelligens. Det er denne undren, som ikke blot ligger til grund for spørgsmålet, men er selve det intelligente liv der besjæler det, og som vi ikke finder i nogen maskine. Selve det at spørge hører ifølge den tyske tænker, Martin Heidegger (1889-1976), med til den menneskelige værensform (”Da-sein” – oversat ”til-stede-væren”), som Heidegger eksklusivt reserverer betegnelsen ”ex-sistens”[iv]. Kun mennesket exsisterer, dvs. ”står ud”, som ’ex-sistens’ da også etymologisk betyder. Mennesket bryder ud af sin væren i kraft af denne sin spørgen, hvorved mennesket forholder sig til – tilspørger – denne væren selv, hvorved væren selv overhovedet åbenbares. Denne spørgen, som Heidegger betegner som en ”hermeneutisk cirkel”[v], er ifølge Heidegger et iboende træk ved selve exsistensen: den menneskelige værensform, hvilket er temaet for Heideggers hovedværk: Væren og tid (1927).

Også den amerikanske fysiker og professor i datateknologi, Douglas R. Hofstadter, har belyst dette paradoks (som han kalder: ”en mærkelig sløjfe[vi]) i sit værk: Gödel, Escher, Bachet evigt gyldent bånd, hvori han om intelligensen skriver: ”Det er intelligensens iboende egenskab, at den kan springe ud af den aktivitet, den er i gang med, og bedømme, hvad den har udrettet”[vii]. Paradokset består i, at slægten er én af sine i alt to arter: slægt og art, for nu at parafrasere Hegel.[viii] Fx ind-deler vi i helhed og del, hvorpå både helhed og del bliver dele i en (ny?) helhed osv.. Formal-logisk kunne man udtrykke det således: A = A + A, hvor A ≠ 0. Helhed og del ville i så fald både være identiske og ikke-identiske[ix], og dét er netop ”sløjfen”, som Hofstadter nærmere beskriver således: ”Dette fænomen, ’den mærkelige sløjfe’, indtræffer, så snart man ved at bevæge sig opad eller nedad i et hierarkisk system, pludselig befinder sig på det sted, man startede fra.”[x] Han finder denne sløjfe eksemplificeret i Kurt Gödels ufuldstændighedsteorem i matematikken[xi], i J.S. Bachs ”Canon per Tonos” i Musikalisches Opfer i musikken og i M.C. Eschers billedkunst, der hver på deres egen hemmelighedsfulde måde, som ved et trylleslag – og i én bevægelse – gør slægten til art og arten til slægt.

Dette mærkværdige spring, der må foretages i systemet, overskrider systemet – heri paradokset. Og det er denne selvoverskridelse, der udgør systemets selvforhold eller selvreference. Men med denne selvreference er medindesluttet systemets sammenbrud, eller som Hofstadter udtrykker det: ”Når først denne evne til selvreference er nået, har systemet et hul, det har skræddersyet til sig selv; hullet tager systemets egenskaber med i betragtning og anvender dem mod systemet.”[xii] Systemet viser sig med andre ord ufuldstændigt, dvs. ude af stand til at rumme sig selv.

Matematikernes ”løsning”

Hvis denne selvoverskridelse (’transcendens’) er hvad kendetegner den menneskelige væren, der jo er ’bevidst’ om sin væren, hvorfor skulle computere ikke kunne gøres (selv)bevidste? Jeg tror, at svaret grunder i (hvad der for det meste bliver overset, som det ofte er med det mest fundamentale), at computere er på en anden måde end mennesker. Computere baserer sig på formale systemer. Men ”virkeligheden og de formale systemer er uafhængige af hinanden”[xiii], som Hofstadter skriver. Blot fordi menneskers adfærd og tænkemåde kan beskrives formelt, betyder det ikke, at deres adfærd og tænkemåde er formel. Matematikken er aldrig sand, kun sikker, for den ’åbenbarer’ ikke i sig selv noget[xiv] – det er mennesket (”Da-sein”), der ved hjælp af matematikken åbenbarer noget. Gödels ufuldstændighedsteorem er en snedig matematik-logisk formalisering af løgnerparadokset – der indebærer opfindelsen af Gödel-tallene, hvorved matematik-logikken kan gøres til genstand for sig selv (ligesom sproget, der mere oprindeligt indeholder omtalte paradoks[xv]) – mere end det er et egentligt matematisk problem, ligesom man med infinitesimalregningen kan beregne bevægelse – det er ingenlunde en løsning på Zenons oprindelige paradoks, der angår begrebet bevægelse. Matematikken står kun i et ydre forhold til sin genstand, nemlig virkeligheden, og derfor er det, at man ”tilpasser sin matematik til verden, og ikke omvendt.”[xvi] – man anvender matematik på noget uden for matematikken (såfremt matematikken da skal sige noget om verden); den er aldrig oprindeligt-afdækkende. Også den kendsgerning, at matematik beror på definitioner betyder jo, at den højst sekundært står i forhold til virkelige fænomener. Definitioner er vilkårlige og som sådan uafhængige af virkeligheden.

Hvad skal alt dette nærmere betyde? At computere, som altså baserer sig på formale systemer, er indesluttede i sig selv – i modsætning til Da-sein (til-stede-væren) har de ikke ’verden’, som vi med henvisning til Heidegger bestemte som den menneskelige værensform, der har verden som iboende momentkompleks: tilstedeværen er en i-verden-væren. Det er dette dér (Da-), der ligger uden for computerens væren (-sein). Computeren er dybest set en ting i verden, en værensform man i lang tid også tilskrev mennesket, navnlig med Descartes, der i sine Meditationer over den første filosofi (1642) bestemte mennesket som væsentligt en ”tænkende ting” (’res cogitans’)[xvii]. Kroppen er for Descartes blot en art fysisk vedhæng, der dog ustandseligt er i stand til at bringe mennesket på vildspor i forhold til sig selv og den fysiske verden, der omgiver det i en udvendig, uafhængig forstand. Det er ikke uden betydning, at Descartes var matematiker…

”Sproget taler” – det gordiske knudepunkt

Omend Descartes’ adskillelse af den tænkende ting (’res cogitans’) og den udstrakte ting (’res extensa’), som genstande der virker ind på hinanden og kun står i et ydre (mekanisk) forhold til hinanden, hverken beskriver deres indbyrdes forhold særlig adækvat eller dem selv hver for sig, er det ikke desto mindre denne dualistiske forestilling der ligger til grund for AI-forskningens grundidé: at intelligens kan indrammes og isoleres fra verden, som en art avanceret lommeregner i stedet for at betragte intelligens som et (selv)forhold, hvori verden er medindesluttet og gjort åbenbar. Hofstadter er tæt på at nå til en erkendelse af dette, når han skriver: ”Over ordenes niveau står associationerne, som tilhører kulturen som helhed: historie, geografi, religion, børnebøger, litteratur, teknologi osv. […] Associationerne på dette niveau, ligger dybt inde i sproget. Alligevel er der plads til alle mulige variationer, selv om man taler et sprog flydende – ellers ville det kun være mennesker, som talte i klicheer, som kunne tale et sprog virkelig flydende!”[xviii]

Når han nævner sproget er det formentlig fordi sproget i særlig grad udviser dette paradoksale forhold af selvreference: sproget er i sig selv selvhenvisende. Det er ikke en tillempet egenskab ved det, men det der i dybeste forstand karakteriserer det – ”sproget taler[xix]. Musikken (Bach) og billedet (Escher) er begge matematiske (Gödel) – deres selvforhold er ’udvendigt’, uegentligt, som bestemmelser af henholdsvis tidens ’efter-hinanden’ og rummets ’ved-siden-af-hinanden’. ”Den mærkelige sløjfe” er imidlertid ikke i sin rod matematisk, men begrebslig og hører som sådan (selv)bevidstheden til, som kun sproget til fulde udtrykker, fx i løgnerparadokset, hvor denne egenskab, der hører sproget til, bliver åbenlys.

Omend Hofstadter til en vis grad altså synes at anerkende sprogets dybde, har han dog tidligere afsløret, at han er på cartesiansk vildspor, når han skriver: ”I virkeligheden findes der ikke noget budskab, som ikke er i kode. Der findes kun budskaber, som er skrevet i en mindre kendt kode.”[xx], for denne påstand røber, at han regner intelligensen for en tænkende ting, der står over for en verden uafhængig af den, og som intelligensen først skal ’afkode’. Hele tanken om i-verden-væren er, at tilstedeværen er i en oprindelig enhed eller fortrolighed med verden. Denne fortrolighed er verdens mening, hvorfra al kultur – herunder videnskab – vokser. At lære sit modersmål er ganske forskellig fra at lære matematik. Sproget er ikke et (kunstigt) sæt aksiomer, hvorfra forskellige sætninger (teoremer) kan udledes. Der er ganske vist en grammatik, men grammatikken var der ikke før sproget (ligeså lidt som matematikken var det); den er indlejret i sproget, der var der før noget menneske trådte ind i tilværelsen, ikke som noget dødt og færdigt, men som levende, foranderlig og bærer af den historie vi alle er holdt inde i og gennemtrænges af. Forinden noget kan afkodes, må det allerede være tolket som netop kode, dvs. mening må i forvejen være knyttet til det. Det er dette betydningshele (Heidegger: ”Bedeutungsganze”) vi altid-allerede befinder os inden for, hvori mangel på mening, dvs. i en afledt forstand evt. kan forekomme.[xxi] Videnskabens mest grundlæggende fordom er, at den begynder fordomsfrit – og som Heidegger påpeger i sin berygtede tiltrædelsesforelæsning: Hvad er metafysik? (1929): ”videnskaben vil ikke vide af Intet.”[xxii], ”Udforskes skal kun det værende og ellers – intet.”[xxiii] Dette intet er blot et andet navn for væren, der jo intet værende er. Væren er ikke en ting, og videnskaben tager det for givet, at det der ikke er – i betydningen: tingingenting er. Deri har den både ret og uret. Væren er ingen ting, men det er ikke ensbetydende med at væren ingen mening har. Snarere er det, at det er væren der har mening, og at tingene har mening i kraft af deres væren. Kunne det tænkes, at det er væren, der overses i AI-forskningen, idet forskerne tror, at den menneskelige intelligens har en tingslig natur og derfor teknologisk ville kunne reproduceres?

AI-forskningen er uden forståelse for, at forståelse selv forudsætter forforståelse, hvilket netop er den føromtalte hermeneutiske cirkularitet vi kalder exsistens. Videnskabens fordom, der altså er en tro på det transcendentale ego, afspejler sig i forestillingen om den kunstige intelligens, der som formalt system opererer uafhængigt af ’verden’, der altså her ikke skal forveksles med den fysiske verden, som den selvfølgelig indgår i og opererer inden for, men uafhængig af den verden af mening, der går forud for den fysiske[xxiv] – og som ikke selv er fysisk. Igen kan dette misforstås: det er ikke sådan, at der findes en ’verden af mening’ uafhængig af den fysiske, men at der altid-allerede er en forforståelse, der gør menneskets forhold til den fysiske verden meningsfuld. Denne forforståelse kan ganske vist være ’galt afmarcheret’, men det gør den ikke mindre virkelig. Også inden for videnskabshistorien har der altid været en forforståelse, der åbnede en ny og videnskabeligt rigtigere tilgang til verden. Mennesket, herunder videnskabsmanden, har aldrig stået i et ’neutralt’ forhold til verden; dets udgangspunkt har altid været og vil altid være mening.

Kroppen knytter tråde

Lad os vende tilbage til kroppen, som Descartes adskilte fra ånden. Oprindeligt udgør de naturligvis en enhed: kroppen er aldrig uden ånd – i så fald er den et lig, ikke en krop, og ånden er ikke uden krop, medmindre vi da ønsker at forstå ånden religiøst, hvilket vi her vil afstå fra. Til-stede-væren – som Heidegger forstår den – er før enhver adskillelse af krop og ånd. Væren og tid, der er en udarbejdelse af tilstedeværens strukturhele, har banet vejen for den franske fænomenolog Maurice Merleau-Pontys hovedværk: Phénoménologie de la Perception (”Perceptionens fænomenologi”[xxv]) (1948), der kredser om kroppen eller kropsligheden, som ’subjektets’ egentlige tyngdepunkt. Det er meget svært at afvise, at kroppen skulle være det egentlige subjekt (i modsætning til tidligere tiders opfattelse), og ligeså svært er det, at forestille sig en robot eller kunstig intelligens være i besiddelse af denne kropslighed, hvortil også seksualiteten hører.[xxvi] Ligesom både Hegel og Heidegger har gjort opmærksomme på, at intet dyr har hænder – kun gribeorganer[xxvii], således kunne man tilsvarende hævde, og måske endda med større ret (omend ikke med større autoritet), at en robot ingen krop eller kropsdele har – og derfor ingen verden, for mere oprindeligt end et ”jeg tænker” og endda et ”jeg vil” er der et ”jeg kan”, hvorfra verden får mening, da denne verden udspringer af en oprindligere i-verden-væren, hvor ingen subjekt-objekt-dikotomi foreligger – en subjekt-objekt-dikotomi som videnskaben qua videnskab forudsætter.

Hofstadter ser ud til slet ikke at tildele kropsligheden nogen betydelig rolle i sit værk, hvilket fremgår af følgende citat: ”Man forkorter ofte Artificial (eller ’kunstig’) Intelligens til ’AI’. Når jeg skal prøve at forklare folk, hvad der menes med dette udtryk, siger jeg, at bogstaverne ’AI’ lige så godt kunne stå for ’Artificial Intuition’ eller tilmed ’Artificial Imagination’ (’forestillingsevne’).”[xxviii] Både intuition (anskuelse) og forestillingsevne kræver nemlig rumlig anskuelse, og hvordan skulle det være muligt for en robot, der aldrig har været en krop og altså heller aldrig har kendt til bevægelse i egentlig forstand? Har robotten nogen fornemmelse af rum, eller kan den blot beregne det? Det er ofte blevet sagt, at underbevidstheden er kreativitetens kildevæld, hvorfor sløvende rusmidler er yndet blandt kunstnere. Kan kunstig intelligens have forudanelser, halve sandheder, underbevidsthed, fornemmelser, mytologi ligesom tilstedeværen kan? Man må i den forbindelse ikke glemme, at mennesket i størstedelen af sin tid på Jorden har været henvist til religiøse forestillinger, tilskyndet af frygt og uvished. En frygt som næppe nogensinde vil gennemryste en kunstig intelligens, for hvordan skulle den frygte for sit (intelligente?) liv, når den ikke har et? Det synes yderst tvivlsomt, om vi nogensinde bliver i stand til at udrydde disse forestillinger, der ligger så dybt forankret i os og om det overhovedet er ønskeligt. Hofstadter påpeger, at ”man ikke kan forsvare sine tankemønstre i det uendelige. Der kommer et tidspunkt, hvor det er tro, der skal til.”[xxix] Denne tro udgør et brud i det ellers lukkede system af ’teoremer’, og som sådan er den skridtet ud i intetheden, hvor tilstedeværen svæver i uvished, uden et fast fundament, idet den i ’frygt og bæven’ ex-sisterende træder ud i den tilværelse den selv er.

 

 

Noter                                                                           

[i] D.R. Hofstadter: Gödel, Escher, Bach – et evigt gyldent bånd (1979), oversat af H. Albrechtsen, s. 603, kap. 17, Aschehoug 1992.

[ii] I. Kant: Kritik af den rene fornuft (1781), AVII, oversat af C.B. Østergaard, DET lille FORLAG 2002, s.17.

[iii] Platon: Theaitetos (155d), s. 40, oversat af F.S. Pedersen, Museum Tusculanums Forlag 2007.

[iv] Jf. ”Kun mennesket existerer.”, Hvad er Metafysik?, Indledning (1949), oversat af J. Hass, s. 114, Vintens Forlag 1973. På engelsk er den direkte oversættelse af ’ex-sistens’ ”out-standing” (ene-stående), hvilket altså på dobbelt vis er betegnende.

[v] Denne ”hermeneutiske cirkularitet” er ikke betingelsen for denne spørgen, men selve det væsen der gennemstrømmer den.

[vi] D.R. Hofstadter: Gödel, Escher, Bach – et evigt gyldent bånd, s. 11 ff..

[vii] Ibid. s. 38, kap. 1.

[viii] Jf. G.W.F. Hegel: Wissenschaft der Logik II, Zweiter Teil. 1. Kap., B.: „Das Allgemeine bestimmt sich, so es ist selbst das Besondere; die Bestimmtheit ist sein Unterscheid; es ist nur von sich selbst unterschieden. Seine Arten sind daher nur a) das Allgemeine selbst und b) das Besondere.“, stw 606, s. 281. En dansk oversættelse kunne lyde: „Det almene [svarende til slægten] bestemmer sig selv, så det er selv det særskilte [svarende til arten]; bestemmelsen er sin egen forskel; den er kun fra sig selv forskellig. Sine arter er derfor kun a) det almene selv og b) det særskilte.”

[ix] Eller som Hegel et sted formulerer det med sin forkærlighed for den paradoksale spidsformulering: ”identiteten er identiteten af identiteten og ikke-identiteten.”

[x] D.R. Hofstadter: Gödel, Escher, Bach – et evigt gyldent bånd, s. 11, Indledning.

[xi] Hofstadters ’fordanskning’ af Gödels ufuldstændighedsteorem, lyder: ”Alle konsistente aksiomatiske formuleringer af talteorien omfatter udsagn, som ikke kan afgøres.”, ibid. s.18, Indledning.

[xii] Ibid. s. 495, kap. 15. Hegel har i en aforisme leveret et billede, der forekommer nærmest ’skræddersyet’ til dette citat: ”En lappet sok er bedre end en opflænget, sådan er det ikke med selvbevidstheden.”, M. Heidegger: Hvad vil tænkning sige? (1954), s.87, Første del, Forelæsning IX, oversat af C.R. Skovgaard, Klim 2012.

[xiii] D.R. Hofstadter: Gödel, Escher, Bach – et evigt gyldent bånd, s. 55, kap 2.

[xiv] Jf. ”Den kendsgerning, at sandheden i ethvert givet formalt system går ud over ’teorem-hed’, kalder man for dette systems ’ufuldstændighed’.”, ibid. s.90, kap 4.

[xv] Hofstadter siger det til dels selv: ”Den egenskab hos G [den formaliserede sætning: ”G er ikke et teorem”], at den kan blive selv-refererende, er forbløffende, næsten magisk – for det sker på trods af, at der for det sprog, den er skrevet i, nemlig TNT [Typographical Number Theory], ikke findes den mindste forhåbning om at kunne henvise til sine egne strukturer – i modsætning til talesproget: intet er lettere end at diskutere det danske sprog på dansk.”. ibid. s. 530, kap. 16. Det er netop fordi vi, som talende væsener, udtrykker en meningsfuld sproglig sandhed i det formale ’kunstsprog’ TNT. Andetsteds skriver Hofstadter, at ”modsigelsesfrihed ikke er en egenskab ved et formalt system i sig selv, men beror på den interpretation, man foreslår for det.”, ibid. s.97-98, kap 4. Igen: det formale system beror på vores interpretation, uden hvilken det ingen mening har.

[xvi] Ibid. s. 480, kap. 14.

[xvii] R. Descartes: Meditationer over den første filosofi, 2. Meditation, stk. 6.

[xviii] D.R. Hofstadter: Gödel, Escher, Bach – et evigt gyldent bånd, s. 394, kap 12.

[xix] M. Heidegger: Sproget og Ordet, s. 9 ff., fra foredraget ”Die Sprache” (”Sproget”) (1950), oversat af K.N. Olsen, Hans Reitzels Forlag 2000. På tysk er identiteten af sprog og tale helt åbenbar: ”die Sprache spricht”.

[xx] D.R. Hofstadter: Gödel, Escher, Bach – et evigt gyldent bånd, s. 279, kap. 11.

[xxi] Hos Heidegger navnlig i form af angst, der hører til et af hans grundbegreber.

[xxii] M. Heidegger: Hvad er metafysik? (1929), oversat af J. Hass, Vintens Forlag 1973, s.126.

[xxiii] Ibid. s. 125.

[xxiv] Jf. M. Heidegger: Væren og tid, § 12.

[xxv] Værket er ikke oversat til dansk.

[xxvi] Robotter kan naturligvis ikke betragtes som seksuelle væsener; heller ikke de såkaldte ’sexrobotter’, der er ligeså lidt seksuelle som en dukke, der siger: ”Jeg er sulten”, når man trykker den på maven, føler appetit.

[xxvii] Hegel: Retsfilosofi, § 55, tilføjelse, Heidegger: Hvad vil tænkning sige?, I. del, Forelæsning I-II.

[xxviii] D.R. Hofstadter: Gödel, Escher, Bach – et evigt gyldent bånd, s. 589, kap. 17.

[xxix] Ibid. s. 199, kap. 7.