KUNSTIG INTELLIGENS. - Menneskelig bevidsthed: en beregnelig egenskab?

Transkript

1 KUNSTIG INTELLIGENS - Menneskelig bevidsthed: en beregnelig egenskab? 3. Semester, efterår 2001 Udarbejdet af: Peter G. Hansen, Morten Franck, Anders Fleron & Morten Poulsen Gruppe 10, RUC, Hus 14.2 Vejleder: Torben Braüner

2 2 Indholdsfortegnelse Abstract Indledning Målgruppe Problemformulering Penroses fire synspunkter John Searle Det kinesiske rum Beregninger der aldrig stopper Et visuelt eksempel Hvad er en beregning? Et eksempel på en beregning, der aldrig stopper Et eksempel på en beregning, der åbenlyst ikke stopper Hvordan afgøres, at en beregning aldrig stopper? Konklusion på beregninger Alfabeter og sprog Turing-maskiner Church-Turing tesen Opbygning af en Turing-maskine Hvad er en Turing-maskine? Grunddele i en Turing-maskine Hvordan en Turing-maskine fungerer Tegnforklaring og definition Turing-acceptabel og Turing-afgørlig Konklusion på Turing-maskiner Gödels Uafgørlighedssætning Case I Case II Case III Opsummering af Penroses konklusioner Argumenter imod Penrose Chalmers kritik af Penroses første argument Chalmers kritik af Penroses andet argument Chalmers forslag til opdeling af KI synspunkter McDermotts kritik af Penrose Vurdering Konklusion Perspektivering...43 Litteraturliste...45 Bilag...46

3 3 Abstract Formålet med projektet er at undersøge, om der er principielle grunde til, at computere ikke kan være intelligente. Projektet tager udgangspunkt i bogen Shadows of the Mind, skrevet af den matematiske fysiker, Sir Roger Penrose fra Oxford University, i hvilken et antal synspunkter på kunstig intelligens er beskrevet. Penroses argumentation for, at der ikke kan ligge en beregnelig model til grund for menneskelig intelligens fremføres, og der kigges også på to andre fremtrædende personers diskussion af Penroses konklusioner. Vi konkluderer, at det er mest plausibelt, at der ligger en beregnelig model til grund for den menneskelige intelligens, idet vi mener, at Penroses argumentation bygger på uacceptable antagelser, og ydermere, at Penroses forsøg på at fremføre en fysisk model for intelligens slår fejl. The purpose of this project is to examine whether there are any principal reasons that computers cannot be intelligent. The project is based on the book Shadows of the Mind by the mathematical physicist Sir Roger Penrose from Oxford University, in which a number of views on Artificial Intelligence are described. Penrose argues that no computational model can underlie human intelligence. Discussions of Penrose's conclusions by two other prominent scientists are also examined. We conclude that it is most likely that a computational model underlies human intelligence, because we believe that Penrose s arguments are based upon unacceptable assumptions and furthermore that Penrose s attempt to present a physical model of intelligence fails.

4 4 1 Indledning Indenfor et område som Kunstig Intelligens (KI), skal man være varsom med sin brug af ord. Da dette forskningsområde er så relativt nyt, og der stadig er så meget debat om selv de mest grundlæggende principper, bliver man nødt til først at gøre sig klart, hvad det er, man vil forsøge at forklare. Ved at definere, eller i det mindste præcisere, de enkelte ords betydning, bliver det muligt at opstille problemstillinger, hvor man kan diskutere selve problemet og ikke formuleringen af det. Problemet i dette projekt er at undersøge, om der er principielle grunde til at computere ikke skulle kunne opnå bevidst matematisk forståelse. Men hvad er en computer? Og hvorfor vil man undersøge, om de kan opnå bevidst matematisk forståelse, og ikke om de kan opnå f.eks. bevidsthed eller intelligens? Svaret på det sidste spørgsmål ligger i, at begreber som bevidsthed og intelligens er svære begreber at definere, ja selv at præcisere. Det er muligt, at der er en bred forståelse af, hvad det vil sige at være bevidst, men hvis man skal undersøge, hvorvidt en computer kan opnå bevidsthed, er det ikke nok, at man bare har en idé om, hvad ordet betyder. Man bliver nødt til at blive enige om, om ikke en definition, så i det mindste en præcisering af begrebet. Dette er dog lettere sagt end gjort. Stort set enhver filosof eller psykolog ja, stort set ethvert (bevidst) menneske har sin egen subjektive holdning til og mening om, hvad man forstår ved et ord som bevidsthed ; der er bogstaveligt talt skrevet hyldekilometer om alene dette ord. Derfor bliver man nødt til at gøre det mere klart, hvad det i virkeligheden er, man vil undersøge. Erstatter man bevidsthed med bevidst matematisk forståelse, har man indsnævret problemet. Flere vil kunne blive enige om, hvad betydningen af bevidst matematisk forståelse er, end et løst begreb som eks. bevidsthed. I bogen Shadows of the Mind forsøger forfatteren Sir Roger Penrose ikke at definere begreber som bevidsthed, men forsøger i stedet at redegøre for, hvad der skal til for at opnå intelligens. Han siger, at for at være intelligent, skal man også besidde forståelse

5 5 og for at kunne forstå, skal man være bevidst 1. For ham er det ikke vigtigt, at der foreligger en klar definition af begreberne bevidsthed, forståelse og intelligens, men han siger, at vi til en vis grad må stole på, at folk har nogenlunde samme opfattelse af, hvad begreberne dækker over. Men, hvis man kan blive enige om, at intelligens kræver forståelse (som kræver bevidsthed), og man kan vise, at forståelse ikke kan beskrives vha en algoritme, så har man også vist, at intelligens er ikkeberegneligt (og dermed, som der senere vil blive argumenteret for, at computere ikke kan opnå bevidsthed). Det bør bemærkes, at vi ikke vil kigge på Penroses opstilling af en fysisk model for hjernens aktiviteter (og dermed også for bevidst matematisk forståelse), men vi vil nøjes med at fremføre hans argumentation for, at der ikke kan ligge en beregnelig model til grund for bevidst matematisk forståelse. Dette argument, samt antagelser for det, følger senere i rapporten og danner udgangspunkt for videre diskussion om hvorvidt en computer kan opnå bevidst matematisk forståelse. Penroses argumentation bliver dog angrebet på flere punkter og fra flere sider, bl.a. af filosoffen David Chalmers og datalogen Drew McDermott, hvorfor vi vil fremføre disses argumenter senere i rapporten. Da Penrose argumenterer i form af såkaldte Turing-maskiner, bliver vi nødt til at kigge nærmere på, hvad Turing-maskiner er, hvordan de defineres, samt give et par simple eksempler på, hvordan de bruges. For at gøre det klarere, hvad der menes med bevidst matematisk forståelse, vil vi i afsnit 6 forsøge at give et par eksempler på nogle matematiske udsagn, som mennesker er i stand til at indse sandheden af, men som det er umuligt, ifølge Penrose, at få en computer til at afgøre sandheden af. 1.1 Målgruppe Dette projekt henvender sig til folk, der er interesserede i såvel datalogi som logik og matematik. Der er ikke nogle faglige forudsætninger for at kunne læse dette projekt, 1 Shadows of the Mind afsnit 1.12: Intelligence requires understanding. Understanding requires awareness.

6 6 men enkelte steder (f.eks. i Penroses udlægning af Gödels uafgørlighedssætning eller Chalmers kritik af Penroses argumentation) vil det være en god idé at give sig god tid til at sætte sig ind i stoffet, hvis man ikke er logisk/matematisk inklineret.

7 7 2 Problemformulering Intelligens involverer bevidst forståelse, mere specifikt bevidst matematisk forståelse. Vi vil undersøge, om der er principielle grunde til, at computere ikke kan opnå bevidst matematisk forståelse.

8 8 3 Penroses fire synspunkter Sir Roger Penrose (1931-) er matematisk fysiker fra Oxford University, England. Han har skrevet flere bøger, deriblandt Emperor s New Mind (1990) og Shadows of the Mind (1995), hvor den sidstnævnte bog er den, vi vil beskæftige os med i dette projekt. Penrose selv er af den overbevisning, at bevidst menneskelig tankevirksomhed involverer processer, som ikke kan simuleres af nogen computer 2. I endnu mindre grad kan beregninger i sig selv give anledning til nogle bevidste følelser eller hensigter i mennesker. Derfor må den menneskelige bevidsthed være af en sådan natur, at den ikke kan beskrives ved hjælp nogen som helst beregninger. 3 Roger Penrose fremfører i Shadows of the Mind fire forskellige synsvinkler for kunstig intelligens: A) Al tankevirksomhed er beregnelig; specielt gælder det, at følelser af bevidsthed fremkaldes ved at udføre de passende beregninger. B) Bevidsthed er en fysisk egenskab i hjernen; og selv om enhver fysisk handling kan simuleres (dvs beregnes af en maskine), kan denne simulering ikke af sig selv fremkalde bevidsthed. C) Passende fysiske handlinger i hjernen fremkalder bevidsthed, men disse fysiske handlinger kan end ikke simuleres af en maskine. D) Bevidsthed kan ikke forklares med fysiske, beregnelige eller andre videnskabelige begreber. Kan den menneskelige hjerne simuleres via symbolmanipulation (programmering) som vi kender det i dag? Hvis ja, vil en perfekt simulation af denne så i sig selv kunne fremkalde bevidsthed? Eller er hjernen i virkeligheden noget unikt, hvis fysiske handlinger fremkalder bevidsthed, men som ikke kan simuleres af nogen form for computerprogram, men derimod kan forklares af nogle endnu ukendte fysiske teorier? Eller kan bevidsthed slet ikke forklares af naturvidenskab? (hverken 2 Med computer mener vi Turing-maskine. Se afsnit 8. 3 Shadows of the Mind - Forord.

9 9 symbolmanipulation eller fysikken eller biologien). Penrose argumenterer for synspunkt C, og bruger til dette formål Gödels Uafgørlighedssætning. 4 John Searle Det kinesiske rum For at illustrere forskellen mellem synspunkt A og B, er nedenstående et klassisk eksempel, der ofte danner grundlag for en diskussion om, hvad det vil sige at være bevidst (eller intelligent). I 1980 fremsatte John R. Searle et tankeeksperiment, 4 som var direkte rettet mod stærk KI (synspunkt A). Searles argument fokuserer på den forståelse, som tilhængere af stærk KI påstår, at computere kan opnå, hvis de bare udfører det rigtige program (algoritme). Argumentet fremsættes ved at lade et menneske indgå i implementationen af en maskine. Vi forestiller os, at en person bliver lukket inde i et rum med kun to små huller. Over et af hullerne står der input og over det andet står der output. I rummet er der også en bog fyldt med regler vedrørende kinesiske skrifttegn. Bogen har mange sider, og hver side er delt ind i to spalter, som sammenholder én mængde kinesiske tegn med en anden. Lad os antage, at personen i rummet er dansker og ikke forstår et ord kinesisk. Det er nu danskerens opgave at modtage en række kinesiske tegn, nedskrevet på et stykke papir, gennem inputhullet. Regelbogen skal nu benyttes af danskeren til at nedskrive en række nye kinesiske tegn ud fra de tegn, han har modtaget. De nye tegn skal herefter sendes igennem outputhullet. Lad os nu anskue denne maskine, som danskeren indgår i, fra ydersiden. Det, som i virkeligheden er foregået, er, at en flok kinesere udenfor rummet har stillet nogle spørgsmål på kinesisk på et stykke papir og derefter sendt det igennem inputhullet til danskeren på den anden side. Kineserne er dog uvidende om, at der sidder en person inde i rummet. Spørgsmålene er stillet til en historie, som danskeren ingenting kender til. Ud af outputhullet modtager kineserne svar på de stillede spørgsmål. Svarene er 4 Minds, Brains, and Programs s

10 10 passende i forhold til historien, måske endda indsigtsfulde. Svarene er så overbevisende, at kineserne på ydersiden føler sig overbeviste om, at hvad der end har produceret outputtet, så taler det flydende kinesisk og udviser en forståelse for sproget. Stærk KI s påstand er, at en computer kan udvise forståelse, hvis bare den udfører den rigtige algoritme. I Searles argument er computeren hele det kinesiske rum med danskeren inden i, mens algoritmen er regelbogen inde i rummet. Her siger Searle, at bogen for så vidt kan udskiftes med en hvilken som helst anden algoritme (i bogform). Her kan man så spørge sig selv, hvor forståelsen kommer ind i billedet. For kineserne udenfor synes forståelsen at være på plads, mens maskinen med danskeren inden i overhovedet ikke besidder forståelse for hverken det kinesiske sprog eller historien. Searle siger, at det, som danskeren gør inde i rummet, er i realiteten det samme som en computer gør, nemlig manipulation med symboler. Ud fra dette kan vi se, at Searle altså afviser synspunkt A, mens han synes at være mere tilhænger af synspunkt B, nemlig den situation, hvor en computer er i stand til at simulere forståelse, men ikke besidde forståelse. 5 Beregninger der aldrig stopper Penrose argumenterer, gennem sin egen udlægning af Gödels Uafgørlighedssætning (se afsnit 9) for, at bevidst matematisk forståelse nogle gange kan svare på, om en given beregning stopper eller ej, noget som han påstår, at ingen algoritme kan gøre. Som indledning til dette, følger først et visuelt eksempel, der skal illustrere den menneskelige matematiske forståelse. Herefter følger nogle eksempler på beregninger, der ikke stopper. Til den sidste beregning er der fremført et intuitivt bevis for, hvorfor den ikke stopper. 5.1 Et visuelt eksempel Dette er et eksempel på visualisering inden for menneskelig matematisk forståelse.

11 11 Lad os betragte sætningen: a b = b a, hvor a, b Ν Denne sætning kan vi som mennesker visualisere således, at man erkender sætningens sandhed. Lad os forestille os, at a og b har forskellige betydninger, men stadig samme værdi, alt efter deres placering. Så kan vi forestille os, at på venstre side af lighedstegnet betyder b antal af grupper med a objekter, og på højre side betyder a antal grupper med b objekter. Vi tager det specifikke tilfælde hvor a = 7 og b = 4. Grafisk har vi så: Venstresiden: [ ][ ] [ ] [ ] Højresiden: [ ][ ][ ] [ ] [ ] [ ] [ ] Hvis vi giver os til at tælle antallet af prikker, vil man finde, at det er det samme for venstre- og højresiden. Men en anden enkelt handling vil give et visuelt meget klarere billede, nemlig hvis vi stabler grupperne. Dette udført på venstresiden giver:

12 Her er ligheden mellem højre og venstresiden af lighedstegnet rimelig let at se. Hvis man tæller prikkerne ud fra antallet af rækker, får man 4 7, og hvis man tæller prikkerne ud fra kolonner, får man 7 4. Man kan føre det visuelle endnu videre og bare rotere firkanten 90. Her ses det tydeligt, at hvis man stabler venstresiden og roterer den 90, så får man samme resultat, som hvis man stabler højresiden, hvorfor der må være lige mange prikker på højre og venstresiden. Dette lille specialtilfælde kan så bruges til at forstå, hvorfor sætningen a b = b a, hvor a, b Ν altid gælder. Hvis vi f.eks. betragter et eksempel, hvor a = og b = , gælder at: = Her vil vi ikke umiddelbart være i stand til at forestille os størrelsen på de rektangler, der repræsenterer denne ligning, men vi kan sagtens se ligheden med det simple specialtilfælde før, hvorfor vi indser ligningens sandhed. Endvidere kan man nu indse, at sætningen gælder, lige meget hvilke to naturlige tal, man indsætter på a s og b s pladser

13 Hvad er en beregning? Med beregninger menes der en algoritme, der følger logiske operationer for at løse en given opgave (denne er ofte af matematisk karakter). Et eksempel på dette er at finde to tal x og y, således at: x 2 + y 2 = 25. Denne ligning kunne prøves løst først med x = y = 0, hvilket ikke er en løsning. Dernæst x = 1, y = 0. Så x = 1, y = 1 ; x = 2, y = 0 ; x = 2, y = 1 osv. indtil x = 4, y = 3 findes, og beregningen stopper. Et andet eksempel er at finde et tal, der ikke er en sum af tre kvadrattal, dvs: 2 2 t x + y + z 2 : Tallene 0, 1, 2 op til 6 er ikke løsninger: = = = = = = = Men 7 er en løsning. For at teste dette, kan vi se bort fra mulighederne ovenfor, og selvfølgelig også fra de muligheder, hvor et af kvadrattallene selv giver over 7 (dvs. x, y, z < 3 ). Ved at prøve sig frem får man: = Hvorfor 7 må være en løsning = = Et eksempel på en beregning, der aldrig stopper A. Find et tal, der ikke er en sum af fire kvadrattal ( t v + x + y + z ):

14 Hvis man her betragter tallet 7, finder man at 7 = Tallene fra 8 til 10 er heller ikke løsninger, da man bare kan sætte den sidste variabel til 0. Vi går videre med 11 = , 12 = Beregningerne fortsætter uden resultat: = = Umiddelbart kan man ikke sige, om denne beregning stopper, det er jo ikke til at vide, om et enormt stort tal er en løsning (f.eks ). Men det viser sig rent faktisk, at beregningerne aldrig stopper, da alle tal er en sum af fire kvadrattal, hvilket også er bevist 5. Beviset er rimelig komplekst, og vil derfor ikke blive fremført her. Pointen er, at det er en beregning, som ingen umiddelbart vil kunne gennemskue, aldrig stopper. 5.4 Et eksempel på en beregning, der åbenlyst ikke stopper B. Lad os forsøge at finde et ulige tal der er en sum af to lige tal, dvs: 2 t + 1 = 2n + 2m Denne beregning vil ikke stoppe. Summen af de to lige tal vil give (i rækkefølge): 0 ;2;4;6;8;10... hvilket selvfølgelig altid er lige. Dette er i modsætning til eksempel A, ret let at indse. 5.5 Hvordan afgøres, at en beregning aldrig stopper? Lad os betragte endnu et eksempel på en beregning, der aldrig stopper. Til dette eksempel indføres heksagonale tal. Et heksagonalt tal er et tal indenfor de naturlige 5 Joseph L. Lagrange lavede beviset i 1770

15 15 tal, der opfylder den egenskab, at har man et heksagonalt antal prikker, kan de altid lægges så de danner en sekskant. Eksempelvis tallene: 1; 7; 19 Herefter følger så eksemplet: C. Find en sum af fortløbende heksagonale numre startende fra 1, som ikke er et 3 kubiktal ( h = t, hvor h er et heksagonalt tal og t ) Hvis man tager de første summer af fortløbende heksagonale numre, vil man få følgende: = 1 = 1 ;1+ 7 = 8 = 2 ; = 27 = 3 ; = 64 = 4 ; = 343 = 7 3 Som i det foregående eksempel, virker det som om beregningerne aldrig stopper og det gør de heller ikke. Her følger et forklarende bevis: Lad os kigge på en terning bygget op af kugler (som prikker med sekskanterne). Det 3 er klart, at der må være x kugler, hvor x N. En terning kan bygges op af lag. Hvis man betragter en terning med 3 x kugler, og dertil tilføjer et nyt lag til tre af siderne, vil man få en ny terning med (x +1) 3 kugler. Hvis man betragter disse tre nye lag som værende ét lag, og betragter det nye lag fra lang afstand fra den oprindelige terning, vil dette lag virke to-dimensionelt, og have form af en sekskant.

16 16 Som det kan ses, er dette tilfældet for alle lag inkl. det første, hvorfor eksempel C aldrig vil stoppe. Dette argument er intuitivt (alternativt til formelt), men dog stadig gyldigt. Det viser, at der eksisterer beviser, der er gyldige, selvom de ikke er opskrevet ifølge nogle accepterede, formelle regler. Det skal nævnes, at man ved hjælp af induktion kan lave et rent formelt bevis for at eksempel C aldrig vil stoppe. Dette vil vi dog ikke komme ind på her. 5.6 Konklusion på beregninger Selv om ovenstående ikke direkte beviser noget i forhold til muligheden for KI, så viser det steder, hvor en menneskelig matematisk forståelse muligvis fungerer på et andet plan, end det en computer er i stand til at opnå. Penrose mener, at har man bare ét eksempel, hvor det er bevist, at et menneskes forståelse overgår det, der for en computer er muligt, vil det næste naturlige skridt være, at konkludere, at dette forhold også er gældende i en masse andre situationer. 6 6 Alfabeter og sprog Før vi kigger nærmere på de såkaldte Turing-maskiner, må vi kigge nærmere på nogle af de begreber, som Turing-maskiner bruger. Alfabeter og sprog er meget fremtrædende begreber i computerens verden. Det, som en computer gør, er at manipulere med symboler. Alt, hvad vi benytter en computer til, hvad enten det er at 6 Shadows of The Mind s. 51

17 17 afvikle tekstbehandlingsprogrammer eller spil, er i virkeligheden et resultat af computerens manipulation med symboler. For at kunne kigge nærmere på computerens evner inden for kunstig intelligens, må vi først kigge på modellen for de data, som den manipulerer med. Vi starter med begrebet alfabet, som defineres som en endelig mængde af symboler. Et andet eksempel på et alfabet er mængden af de danske bogstaver, som er {a,b,c,.,æ,ø,å}. Et andet eksempel er det alfabet, som computeren grundlæggende benytter sig af: {0,1}. Faktisk kan et hvilket som helst objekt indgå i et alfabet, da et alfabet helt formelt set bare er en endelig mængde indeholdende objekter af enhver art. Vi bruger dog kun bogstaver, tal og andre almindelige karakterer som symboler. En streng konstrueret over et alfabet, er en endelig sekvens af symboler fra alfabetet. Således er f.eks. kanyler en streng konstrueret over alfabetet {a,b,c,.,æ,ø,å}, og er en streng konstrueret over alfabetet {0,1}. En streng kan også bestå af ingen symboler, hvilket betegnes som den tomme streng. Den tomme streng skrives med bogstavet e. Man kan også navngive en streng med et symbol, her bruges normalt u, v, w, x, y, z og de græske bogstaver som navne. Symbolet w kan således være navnet for strengen abcde. Længden af en streng er symbolsekvensens længde. Længden af strengen w er derfor 5 og dette skrives som w = 5. Hvis man vil beskrive de enkelte pladser i en streng u, skriver man u(i), hvor i er pladsens indeks i symbolsekvensen og 1 i u. Hvis w = hejhej, så er w(1) = w(4) = h og w(5) = e. Hvis man har et alfabet Σ, som jo er en endelig mængde af symboler, kan der altså laves en uendelig mængde af strenge over Σ. Mængden af alle strenge, der kan laves over Σ betegnes Σ*. En hvilket som helst mængde af strenge over et alfabet Σ, dvs. en hvilken som helst delmængde af Σ*, kaldes et sprog. Delmængden { cab, bac, abc } er eksempelvis et sprog over alfabetet {a,b,c}. 7 Turing-maskiner Alle computerprogrammer kan formuleres i form af Turing-maskiner 7 (selv om det måske i nogle tilfælde vil være ekstremt omstændigt). Det vil altså sige, at kan man f.eks. bevise, at en Turing-maskine ikke kan simulere bevidsthed, har man samtidig bevist, at ingen computer kan. 7 Elements of the Theory of Computation s. 168.

18 Church-Turing tesen Church-Turing tesen siger ganske enkelt, at ingen algoritme vil blive opfattet som en algoritme, med mindre denne kan formuleres i form af en Turing-maskine 8. Det vil sige, at Turing-maskiner er en formalisering af algoritmer. Penrose argumenterer for, at hvis en Turing-maskine ikke kan omfatte hele vores matematiske forståelse, så kan vores matematiske forståelse ikke omfattes af en algoritme. For førstegangslæsere, der ikke har kendskab til Turing-maskiner, foreslås det først at læse teorien grundigt, når eksemplerne er forstået Opbygning af en Turing-maskine Hvad er en Turing-maskine? En Turing-maskine er en matematisk definition på en type computer. Computeren er meget primitiv og består af tre grunddele Grunddele i en Turing-maskine a) En papir- eller bånd-strimmel (omtalt som strimmel fremover) b) Kontrolenhed (den egentlige computer) c) Et læse-/skrive-hoved. Strimlen er endelig i dens venstre kant og uendelig imod højre. Strimlen består af ruder, der indeholder tegn. Læse/skrive-hovedet formidler kontakten mellem kontrolenheden og strimlen. Læse-/skrive-hovedet kan læse eller skrive et tegn ad gangen, eller bevæge sig et skridt til højre eller til venstre. Hvis læse-/skrive- hovedet 8 Elements of the Theory of Computation kap Da teorien er grundlæggende for eksemplerne, er der ikke byttet rundt på dem.

19 19 bevæger sig ud over den venstre kant, vil hele maskinen slutte sin session (kaldes at hænge). Kontrol enheden har et endeligt antal tilstande, den kan opholde sig i. Dette er vist med symbolerne q 0, q 1, q 2 og q 3 på figuren nedenfor. a a b a a a d c a a b Strimmel Læse/skrive hoved q 3 q 0 Kontrolenhed q 2 q Hvordan en Turing-maskine fungerer En Turing-maskine fungerer ganske simpelt. Den gentager en rutine af to skridt, indtil den stopper. Disse to skridt er: 1) Sætter kontrolenheden i en ny tilstand (eller den samme igen) 2) Enten: a. Skriver et nyt symbol i det felt, den befinder sig i. b. Flytter læse-/skrive hovedet et felt enten til højre eller til venstre. En Turing-maskine kan slutte sin session på to måder, enten ved at stoppe, hvilket sker, når den går i stop-tilstand (noteres h, for halt-tilstanden), eller ved at hænge, hvilket sker, når den går ud over venstre kant på strimlen Tegnforklaring og definition Tegnforklaring:

20 20 Stop-tilstand: h; Dette tegn benyttes kun til stop-tilstand, og kan derfor principielt ikke indgå i alfabetet. Blank tegn: Tom tegn: #; Repræsenterer én tom plads på strimlen. e; Dette tegn betyder den tomme streng. Benyttes i sammenhæng med Turing-maskiner til enten at beskrive enden på den venstre kant af strimmelen, eller til at beskrive en endeløs række af blanktegn til højre på strimmelen (en blank strimmel). Højre tegn: R; Benyttes i stedet for et tegn til at vise, at hovedet i stedet for at skrive et tegn, skal flytte til højre. Dette tegn kan principielt ikke indgå i alfabetet. Venstre tegn: L; Samme som højre tegn, bare til venstre i stedet for. Definition 7.1 Turing-maskine En Turing-maskine er en fire-parentes (K, Σ, δ, s), hvor K er et endeligt antal tilstande, ikke indeholdende stop-tilstanden h Σ er et alfabet, indeholdende blank-tegnet #, men ikke L og R s K er start-tilstanden δ er en funktion fra K til ( K { h} ) ( { L, R} ). 10 Bemærk, at til alle sammensætninger af elementer i alfabeter, skal en tilstand være defineret. Dvs., at hvis det om en Turing-maskine gælder, at K = { q 1, q 2 } og = { a, b, c}, skal der til hver kombination være defineret en operation, som Turingmaskinen kan udføre. Eksempel 7.1 Betragt Turing-maskinen M = ( K,, δ, s), hvor K = { q 0,q 1 } = { a,b, #} 10 Elements of the Theory of Computation s. 170.

21 21 s 0 = q 0 og δ er givet ved: q σ δ(q,σ) q 0 a (q 1, b) q 0 b (q 0, R) q 0 # (q 0, R) q 1 a (q 0, R) q 1 b (h, b) q 1 # (q 0, R) Denne Turing-maskine, M, starter i tilstanden q 0, hvor den læser bogstavet på strimmelen. Hvis bogstavet er alt andet end a, vil den gå et skridt til højre, stadig i tilstand q 0. Hvis det er et a, vil den skrive et b gå i tilstand q 1, hvor den vil læse b et og stoppe. Mere kortfattet vil M gå til højre indtil det første a, som den vil overskrive med et b og derefter stoppe. Eksempel 7.2 Betragt Turing-maskinen M = ( K,, δ, s), hvor K = { q 0,q 1 } = s 0 = q 0 { a,b, #} og δ er givet ved: Q Σ δ(q,σ) Ref. nr. q 0 A (q 1, R) 1 q 0 B (q 0, a) 2 q 0 # (q 0, R) 3 q 1 A (q 1, R) 4 q 1 B (q 0, a) 5 q 1 # (h, #) 6 Denne Turing-maskine starter fra venstre og går mod højre og erstatter alle b er med a er.

22 22 Dette udført på strengen {#bba#}, hvor det understregede tegn, er det der først bliver læst af Turing-maskinen resulterer i nedenstående tabel. Ref nr. på δ-feltet i nedenstående tabel bruges til at henvise til den pågældende funktion i ovenstående tabel. Trin Streng δ(q,σ) Ref. nr. på δ 1 {# bba #} (q 0, R) 3 2 {# b ba# } (q 0, a) 2 3 {# a ba# } (q 1, R) 1 4 {# a ba# } (q 0, a) 5 5 {# a aa# } (q 1, R) 1 6 {# aa a# } (q 1, R) 4 7 {# aaa #} (h, #) 6 Resultatet bliver altså strengen {# aaa# }. 7.3 Turing-acceptabel og Turing-afgørlig To meget brugte begreber er Turing-acceptabel og Turing-afgørlig. De bruges til at sige noget om egenskaber for et givet sprog. Et Turing-acceptabelt sprog er generelt sagt et sprog, hvor der findes en Turingmaskine som stopper på en streng fra sproget. Helt præcist lyder definitionen: Definition 7.2 Turing-acceptabel En Turing-maskine siges at acceptere en streng, hvis maskinen stopper, når den får strengen som input. Et sprog er Turing-acceptabelt, hvis det består af strenge, hvortil der findes en Turing-maskine, der accepterer dem 11. Definition 7.3 Turing-afgørlig Et Turing-afgørligt sprog er et sprog, hvortil der findes en Turing-maskine, der kan afgøre om en vilkårlig streng tilhører sproget. Svaret gives i form af et prædefineret 11 Elements of the Theory of Computation s. 179.

23 23 tegn (f.eks. Y eller N (Yes eller No)), der ikke er indeholdt i det alfabet, som sproget består af. Det gælder, at ethvert sprog, der er Turing-afgørligt, også er Turing-acceptabelt, og at ikke alle Turing-acceptable sprog er Turing-afgørlige. Dette vil ikke blive vist Konklusion på Turing-maskiner Idet en algoritme, ifølge Church-Turing tesen, ikke vil blive betragtet som en algoritme, medmindre den kan skrives op som en Turing-maskine, er Turing-maskiner et kraftfuldt værktøj. De er desuden vigtige i diskussionen om, om der kan ligge en algoritme til grund for bevidst matematisk forståelse, da det er en måde at formalisere, hvad der menes med ordet "algoritme. 8 Gödels Uafgørlighedssætning Den østrigsk-amerikanske logiker Kurt Gödel beviste i 1931, at der i alle matematiske systemer findes sætninger, der hverken kan bevises eller modbevises, men som ikke desto mindre er sande. Man siger, at systemerne er ufuldstændige. Vi har givet en matematisk teori T. Inden for T er alle udsagn og beviser repræsenteret ved et tal. Gödel viste, at inden for T kan et udsagn S skrives, der betyder, at dette udsagn er ikke beviseligt inden for T. Antager vi, at T er ufejlbarlig (sund: T svarer altid sandt), er S falsk hvis S er beviselig inden for T. Fordi T er ufejlbarlig, kan vi ikke bevise et falsk udsagn inden for T, så S er ikke beviselig inden for T; derfor er S sand og kan ikke modbevises, hvorfor T er ufuldstændig. Derudover kan ufejlbarligheden af T ikke bevises inden for T selv. Hvis den kunne det, så ville det bevis sammen med ovenstående ræsonnement (oversat til T vha Gödels nummereringssystem), som viser, at hvis T er ufejlbarlig, så er S sand give os et bevis for S inden for T. Men vi har set, at S ikke er beviselig inden for T, så et sådant bevis for ufejlbarlighed kan ikke eksistere Elements of the Theory of Computation s. 274 & Gödel s Theorem, Microsoft Encarta Online Encyclopedia 2002,

24 24 Penrose argumenterer i form af Turing-maskiner, og vi skal her give et kort resume af Penroses fremstilling af argumentet, som kommer frem til ovenstående konklusion ad en lidt anden vej. I nedenstående argument antager Penrose, at menneskers matematiske forståelse kan omfattes af et formelt system F, i argumentet repræsenteret ved superprogrammet A. I denne anledning vil det være på sin plads kort at forklare, hvad forholdet mellem formelle systemer og algoritmer er. For ethvert formelt system, findes der en algoritme, der accepterer netop de logiske formler, som kan bevises indenfor systemet. For hver algoritme, der som input tager legale logiske formler og afgør sandheden af dem, findes der et tilsvarende formelt system, der udtrykker sand for de samme formler, som algoritmen konkluderer er sande. 14 Det, som Penrose vil vise, er, at vi som mennesker kan indse noget, A ikke kan indse, og at vores matematiske forståelse derfor ikke kan omfattes af A. Vi betragter programmer med tal som input. Hvis C er et sådant program, og n er et tal, lad da C(n) være de beregninger, der fremkommer ved at give programmet C tallet n som input. Det er her vigtigt at notere sig, at beregningen C(n) måske aldrig standser! Opgaven går nu ud på at finde ud af, at C(n) ikke standser. For at kunne formulere eksakt hvad det vil sige, at en computer kan finde ud af at en beregning ikke standser, bruger Penrose en liste: C 0, C 1, C 2,..., C q,... som er en liste over alle de programmer, som tager tal som input. Det er klart, at denne liste er uendelig, og forhåbentlig lige så klart, at C q (n) refererer til det q te program med tallet n som input. Antag, at der er givet et superprogram A, der kan finde ud af, at visse beregninger som f.eks. C q (n) ikke standser. Hvis superprogrammet A finder ud af, at beregningen 14 Shadows of The Mind - s. 92

25 25 C q (n) ikke stander, signaleres dette ved at A standser. Superprogrammet A tager to tal som input, nemlig et nummer q på et program C q og et tal n som er input til C q (n). Den resulterende superberegning betegnes A(q,n). Hvis denne superberegning standser, betyder det, at beregningen C q (n) ikke standser. Antager vi, at A er ufejlbarlig, kommer vi frem til følgende udsagn: U1: Hvis A(q,n) standser, så standser C q (n) ikke. Hvis vi tager tilfældet hvor q=n, kan vi komme med følgende udsagn: U2: Hvis A(n,n) standser, så standser C n (n) ikke. Hvis dette er tilfældet, så er A(n,n) et computerprogram, der tager ét tal som input, nemlig n. Dette må derfor findes på listen: C 0, C 1, C 2,..., C q,... Der indeholder alle programmer, der tager ét tal som input. Antag nu, at programmet A(n,n) har nummeret k, og følgende udsagn fremkommer: U3: A(n,n) = C k (n) Tager man U2 og U3 og sætter n = k, fremkommer følgende to udsagn: U4: Hvis A(k,k) standser, så standser C k (k) ikke U5: A(k,k) = C k (k) Kombineres disse to udsagn, fremkommer U6: U6: Hvis C k (k) standser, så standser C k (k) ikke.

26 26 Ud fra dette sjette udsagn må man konkludere, at beregningen C k (k) ikke standser. Superberegningen A(k,k) der skulle fastslå dette ved at standse, standser ikke, idet A(k,k) = C k (k)! Vi ved således noget, som superprogrammet er ude af stand til at fastslå, nemlig at beregningen C k (k) ikke standser. Det, Penrose argumenterer for, er at intelligens kræver bevidst forståelse, hvilket ikke er beregneligt. Der findes ingen algoritme, der kan omfatte alt, hvad mennesker kan forstå. Hans eget forslag for en fysisk model af bevidstheden, står og falder med, hvorvidt ovenstående argumentation og antagelser holder. Ud fra ovenstående logiske række af argumenter (U1-U6) kommer han frem til sin G-konklusion: Menneskelige matematikere bruger ikke en algoritme, som vi kan vide er sund til at nå frem til matematiske sandheder. 15 Penrose er godt klar over, at der er andre umiddelbare præmisser, man kan argumentere ud fra, f.eks. at man kan kende F og vide, at den underligger menneskers matematiske forståelse, men han mener ikke, at disse er plausible. Følgende tre afsnit opsummerer Penroses argumenter for, hvorfor disse præmisser, er uplausible. 9 Case I F kan kendes, og dens rolle som værende den algoritme, der underligger den menneskelige matematiske forståelse kan også kendes. Vi har i afsnittet om Gödels Uafgørlighedssætning (afsnit 9) set på mulighederne for, at en algoritme A kunne tænkes at underligge den menneskelige matematiske forståelse. Her kom vi frem til Penroses G-konklusion, som siger, at menneskelige matematikere ikke bruger en algoritme, som kan vides at være sund. Denne konklusion har konsekvenser for case I, som vi skal se nedenfor. 15 Human mathematicians are not using a knowably sound algorithm in order to ascertain mathematical truth. Shadows of the Mind s. 76

27 27 En sådan algoritme A, som underligger vores matematiske forståelse, kan siges at være ækvivalent med et bevissystem F, indeholdende aksiomer og bevisregler. Lad os forestille os, at vi har nået et tidspunkt, hvor vi kender F, og dermed kan skrive det ned på et stykke papir (måske et meget stort stykke papir), og lad os også sige, at vi kender systemets rolle som værende det system, der underligger vores matematiske forståelse. Når en menneskelig matematiker mener at kende det system, som underligger hans egen og alle andre matematikeres forståelse, må han nødvendigvis også tro på, at dette er sundt, da det ville være mærkværdigt for en matematiker at tro på en helt grundlæggende fejlbarlighed i hans egen opfattelse af matematikken. Uanset om F er sundt eller ej, må en tro på, at det er sundt medføre en tro på, at G(F), som er systemet F s Gödel sætning, er sand. Ydermere må troen på F s sundhed medføre at G(F) ligger udenfor F. Men antagelsen var jo netop, at F skulle underligge hele vores matematiske forståelse og dermed også G(F), hvilket må betyde, at F i virkeligheden ikke kan underligge den menneskelige, matematiske forståelse. Penrose mener hermed at have vist, at antagelserne under case I ikke er en mulighed. 10 Case II F, der underligger bevidst matematisk forståelse, kan kendes og skrives ned, men dens rolle som værende den algoritme, der ligger til grund for vores matematiske forståelse, kan ikke kendes. I dette tilfælde kan algoritmen F kendes 16, og den kan (i princippet) skrives ned på et stykke papir 17, men det kan ikke vides, at det er den, der ligger til grund for menneskets matematiske forståelse og indsigt (dvs. F s rolle kan ikke kendes). Lad os nu tænke på F som et formelt system bestående af en endelig mængde aksiomer og nogle bevisregler. Aksiomerne er grundstenene i F, og bevisreglerne kan bruges til at udlede nye teoremer inden for F. Situationen er nu den, her i case II, at vi 16 Det er ikke vigtigt for argumentet, om algoritmen faktisk kendes på det aktuelle tidspunkt, eller om man først kommer til at kende den engang i fremtiden. 17 Ligeledes må algoritmen gerne være stor og kompliceret, men den skal være simpel nok til, at vi i princippet kan forstå den.

28 28 vil kunne kende F, men aldrig være sikre på, at det er den, der ligger til grund for vores matematiske forståelse. Lad os nu forestille os, at vi kender F. Hvis dette er tilfældet, skulle der ikke være noget i vejen for, at vi kunne sætte os ned og gennemgå aksiomerne ét efter ét, og fastslå deres sandhedsværdi. Under antagelsen af, at F underligger hele vores matematiske forståelse, dvs. alt, hvad vi kan erkende er sandt, må vi før eller siden kunne opfatte aksiomerne som sande. På samme måde må vi kunne gennemgå bevisreglerne en efter en og fastslå, at de er gyldige (sandhedsbevarende). Ved at følge denne linie, må vi med tiden kunne overbevise os selv om, at F er et sundt og dermed konsistent system, hvilket vil sige, at der ikke eksisterer modsigelser inden for F. G(F), som er systemet F s Gödel-sætning, må være sand, idet systemet er konsistent, men da må G(F) også være en del af F, da F underligger den menneskelige matematiske forståelse. Men dette er i modstrid med at G(F) er systemet F s Gödel sætning. Penrose forkaster på dette grundlag antagelserne i Case II. 11 Case III F kan ikke kendes 18 Ifølge case III, er matematisk forståelse resultatet af en ukendelig algoritme, men det er her vigtigt at definere, hvad der forstås ved en ukendelig algoritme. En ukendelig algoritme er en algoritme, hvis specifikation i praksis er så kompleks, at vi af en eller anden grund ikke kan nedfælde den, ej heller kan vi forstå den fuldt ud. Da ethvert formelt system og Turing-maskine principielt kan udtrykkes, vil det kun give mening at tale om ukendelighed her, hvis man taler om, hvad der rent faktisk kan lade sig gøre i praksis. 18 F is unconscious and not knowable. Shadows of the Mind - s. 131.

29 29 Enhver algoritme kan i princippet kendes, lige så snart man kender det naturlige tal på den Turing-maskine, som udfører den specifikke algoritme. Det giver ikke rigtig mening at tale om et naturligt tal, som i princippet er ukendeligt, men i praksis findes der tal, som er så store, at de aldrig vil komme i brug. Det betyder dog ikke, at størrelsen på tallet selv er ukendeligt, man kan jo sagtens nedskrive vilkårligt store tal på et stykke papir. Hvis et naturligt tal eller en Turing-maskine derfor skal betragtes som værende ukendelig i praksis, må det være selve specifikationen på dette tal eller denne Turingmaskine der skal være så kompliceret, at den ligger udenfor hvad mennesker er i stand til at forstå. Ifølge case III, er det denne enorme kompleksitet i detaljerne i specifikationen af algoritmen F, der ligger til grund for vores matematiske forståelse, som gør ude os ude af stand til at udpege den. Vi er simpelt hen ikke i stand til fuldstændigt at specificere alle detaljer i F, og det er dét, som adskiller case III fra case II. For at understrege, at tallets størrelse alene ikke er den afgørende faktor m.h.t. specifikation af algoritmer, kan tallet tages som eksempel. Dette tal overstiger de tal der er nødvendige for at specificere algoritmiske handlinger, der er relevante for enhver organisme i det kendte univers, idet dette tal er mange gange større end antallet af mulige tilstande for alle atomer i det kendte univers. 19 Det skulle derfor være den præcise specifikation af tallet, ikke tallets størrelse alene, som ligger udenfor menneskers fatteevne. Dette har betydning for synspunkt A og måske også B. Tilhængere af disse synspunkter mener, at robotter på et tidspunkt vil være i stand til at opnå en fuld menneskelig bevidsthed og intelligens, og måske endda udvikle en intelligens højere end vores egen. Tror man på case III, betyder det, at det aldrig vil blive muligt at programmere en robot med menneskelig bevidsthed og intelligens, idet F, som skal implementeres i robotten, er ukendelig, dvs. den kan ikke specificeres og dermed ikke programmeres. De ivrigste tilhængere af synspunkt A vil argumentere for, at F ikke behøver at blive implementeret på een gang, men vil blive udviklet af robotten selv vha. bottom-up indlæringsalgoritmer. 19 Case III. Shadows of the Mind - s. 131.

30 30 Penrose argumenterer for, at dette ikke vil undvige problemet med at specificere F. Hvis de procedurer, en KI-strategi er bygget op efter, er algoritmiske og kendelige, så skal enhver resulterende algoritme F også være det. På denne måde reduceres case III til case I eller case II, som Penrose tidligere har argumenteret for er umulige (case I) eller i det mindste højst usandsynlige (case II). 12 Opsummering af Penroses konklusioner Penrose argumenterer for, at menneskelige matematikere ikke bruger en algoritme, som kan vides at være sund og dermed at det, man kalder stærk KI (synspunkt A), ikke er en mulighed. Penroses argumentation - og antagelser for denne - består af følgende hovedelementer: 1) Den intelligens, som menneskelige matematikere besidder for at kunne løse matematiske problemstillinger, som, ifølge Penrose, ikke kan beskrives af en algoritme, bygger på forståelse, som igen bygger på bevidsthed. Det er ikke nødvendigt med en formel definition af begrebet bevidsthed, men har man derimod bevist, at bevidst matematisk forståelse ikke kan skrives op i form af en algoritme, har man også, ifølge Penrose, bevist, at bevidsthed heller ikke kan udtrykkes i form af en algoritme. 2) a) Vi antager, at vores bevidste matematiske forståelse kan beskrives af algoritmen A. b) Da man kun er interesseret i, hvad man i princippet kan opnå, antager Penrose ligeledes, at A er ens for alle menneskelige matematikere. c) Penrose antager også, at det heller ikke vigtigt for argumentet, om A kendes på nuværende tidspunkt, så længe den kan kendes engang i fremtiden. d) Ydermere påstår han, at da vi igen kun er interesserede i princippet, tager vi ikke korrigérbare fejlslutninger, matematikere har draget, i betragtning,

31 31 men derimod kigger vi kun på, hvad Penrose kalder uomtvistelige sandheder. e) Endelig antager han, at A gerne må være meget stor og kompliceret, så længe den i princippet er simpel nok til, at vi vil kunne forstå den (engang). 3) Penrose giver sin egen udlægning af Gödels Uafgørlighedssætning (gennem brug af Turing-maskiner). Gennem G-konklusionen: menneskelige matematikere bruger ikke en algoritme, som kan vides at være sund, til at opnå uomtvistelige matematiske sandheder, samt nedenstående antagelse (4), konkluderer han, at bevidst matematisk forståelse er en ikke-beregnelig egenskab. 4) Superberegningen A, som Penrose argumenterer for ikke kan være i stand til at afgøre om en beregning C q (n) vil standse, er ækvivalent med et formelt system F. Det vil sige, at A består af en række aksiomer og bevisregler, som én efter én kan vises at være sande. Dermed er A sund - og, ud fra (2(a)), kan vi konkludere, at menneskelige matematikere dermed også må være sunde. Ud fra ovenstående fire punkter mener Penrose at have argumenteret for, at den mest plausible mulighed for at kunne forklare bevidst matematisk forståelse, er vha synspunkt C, som han også selv tror på; nemlig det synspunkt at passende fysiske handlinger i hjernen fremkalder bevidsthed, men disse fysiske handlinger kan end ikke simuleres ordentligt af nogen computer. 13 Argumenter imod Penrose Som nævnt i indledningen, er KI et relativt nyt forskningsområde, og diskussionerne foregår stadig på et meget grundlæggende niveau. Derfor er der naturligvis mange meninger om, hvad KI er, om det kan lade sig gøre, og i så fald hvordan det ville kunne lade sig gøre.

32 32 Vi har valgt to fremtrædende personer inden for KI, der hver har skrevet en artikel om Roger Penroses bog Shadows of the Mind. Vi vil i det følgende fremføre deres argumenter for, hvorfor de mener, at Penrose tager fejl i at konkludere, at en computer (som vi kender den i dag) aldrig vil kunne opnå bevidsthed. Af de to artikler, vi har valgt, der angriber Penroses argumentation og antagelser for en ikke-beregnelig model af den menneskelige bevidsthed, har vi anset filosoffen David Chalmers artikel, som værende den mest saglige. Om end vi ikke vil gennemgå nogle af de to kritikeres argumenter i alle pinlige detaljer, vil vi i nedenstående afsnit til en vis grad fremlægge Chalmers argumenter i deres helhed. Datalogen Drew McDermotts argumenter vil derimod kun blive skitseret. Nedenstående liste viser, på hvilke punkter, de to kritikere hver især angriber Penroses argumentation og antagelser (se Opsummering af Penroses konklusioner): David Chalmers Antagelsen om, at vi ved, at vi grundlæggende er sunde. Antagelsen om, at vi ved (pr. antagelse), at systemet F omfatter vores matematiske forståelse. Drew McDermott Hvis én matematiker laver en fejl, har man bevist, at antagelsen om, at algoritmen A skulle være sund, er forkert. Antagelsen om, at hvis man tror på, at der ligger et formelt system til grund for ens bevidsthed, så tror man ikke automatisk på, at dette formelle system er sundt. Bevidsthed fremkaldes ikke af en beregning, men udgøres af en beregning (og dens interaktion med dens miljø) Hvordan ville man kunne vide, om en computer havde opnået intelligens? (eller bevidsthed)

33 Chalmers kritik af Penroses første argument I sin artikel, Minds, Machines, And Mathematics 20, angriber David Chalmers Penroses argumenter for, at menneskets matematiske forståelse ikke er beregnelig, og det her er interessant at se på, hvilke argumenter, Chalmers kommer med. Chalmers angriber både Penroses første argument og det andet argument, som kommer afsnit 3.16 i Shadows of the Mind. Penrose og Chalmers synes at være grundlæggende enige om, at vi som mennesker har en underliggende, sund forståelse, selv om vi nogle gange tager fejl i vores ræsonnering 21. Men, hvor Penrose bare antager, at vi kan vide, at systemet F er sundt, sætter Chalmers spørgsmålstegn ved denne antagelse. Ifølge Chalmers er en typisk indstilling indenfor KI, at vores matematiske forståelse kan omfattes af et sundt, formelt system F, men at dette system ikke kan vides at være sundt. Det vil sige, at tilhængerne af dette synspunkt afviser præmis nr. 2 i Penroses argumentation, som gengivet nedenfor: (1) Vi ved, at vi grundlæggende er sunde. (2) Vi ved, at systemet F omfatter vores matematiske forståelse, derfor: (3) Vi ved, at F er sund. Også Chalmers finder (2) højst uplausibelt, idet han mener, at vi ikke alene ved hjælp af introspektion vil kunne afgøre, om et givet system F omfatter vores matematiske forståelse. Det ville måske kunne lade sig gøre ved hjælp af brug af eksternt udstyr, men dette ville ikke bevise noget, fordi den opdagelse - hvis den skulle opfylde Gödels Uafgørlighedssætning - skulle gøres uden brug af nogen form for eksternt udstyr. Det vil sige, at vi alene ved at se på et system F skulle kunne afgøre, om det omfattede vores matematiske forståelse. Chalmers mener derfor ikke, at dette 20 Se bilag. 21 Minds, Machines And Mathematics - Afsnit 2.5

34 34 argument er nogen nævneværdig trussel imod folk med den typiske indstilling til KI, nemlig at vores matematiske forståelse er omfattet af et sundt, formelt system F, som ikke kan bevise sin egen sundhed. Penroses argumenter for case II hænger på, at det er uplausibelt at vi, når vi præsenteres for et vilkårligt formelt system, ved inspektion, ikke er i stand til at indse, at systemet er sundt. Han mener, at ved at anskue systemet F som et sæt aksiomer og bevisregler, vil vi kunne indse sandheden af disse aksiomer og regler og til sidst indse, at F omfatter vores matematiske forståelse. Denne del af Penroses argument finder Chalmers uplausibel, idet han mener, at sådanne aksiomer og bevisregler kan være så komplekse, at vi ikke kan indse sundheden af dem. Kompleksiteten af disse aksiomer og bevisregler vil kunne være lige så høj som systemet selv (dvs som hjernen selv), argumenterer Chalmers, hvorfor vi slet ikke vil kunne være i stand til at afgøre, om de er sande eller ej alene ved introspektion. At Penrose simplificerer denne klasse af systemer til meget simple systemer, mener Chalmers, er ikke at tage KI seriøst. Derfor mener Chalmers, at Penroses argument ikke holder vand, og at vores matematiske forståelse stadig er omfattet af et sundt, formelt system F som ikke kan kende sin egen sundhed Chalmers kritik af Penroses andet argument I kapitel 3 i Shadows of the Mind findes Penroses andet argument imod KI. Dette argument beskæftiger sig med, om hvorvidt vores matematiske forståelse kan beskrives af et formelt system F. Chalmers udpeger dette arguments styrke som værende, at dette argument ikke som det første argument, afhænger af om vi kan vide, at systemet F, som underligger vores matematiske forståelse, er sundt. Det skal dog her bemærkes, at Penrose selv mener, at hans første argument er tilstrækkeligt til at kunne undsige sig muligheden for en stærk KI. Argumentet går som følger: