Mængdelære og kategoriteori Anders Kock

Mængdelære og kategoriteori Anders Kock Opsummering: teorien for kategorien af mængder er realistisk grundlag for matematik i (begyndelsen af) det 21. århundrede. Jeg er blevet bedt om at sige noget om Matematikken i det 21. århundrede, og det er jo en stor mundfuld. Men jeg kan pege på nogen tendenser. Jeg vil tage udgangspunkt i nogen de oplæg m.v. som kurset iøvrigt indeholder, nemlig de, der vedrører krisen i matematikkens grundlag i midten af det 20. århundrede. Min påstand er, at matematikkens hovedstrøm har lagt denne krise bag sig; at krisen skyldtes, at matematikkens filosofi havde malet sig op i et hjørne, ved at følge det kompas, der hedder reduktionisme, og havde isoleret sig fra den virkelige matematik. Ved sorg og selvskabt plage/ du intet retter ud... To af den selvskabte plages teser: 1. Matematik består af (kan reduceres til) beviselige udsagn i formaliserede teorier. 2. én bestemt formaliseret teori kan gøre det ud for alle, nemlig den aksiomatiske mængdelære, som formaliseret af (bl.a.) Zermelo og Fraenkel (ZF) ( det kumulative hierarki ). Synspunkt 1) fik sit et radikalt udtryk i Hilberts skrifter fra 1920 erne; det havde en vis positiv betydning ved udviklingen af teoretisk datalogi, men er et fortegnet billede af matematik som helhed. Synspunkt 2) havde et positivt udgangspunkt, nemlig at mængdelære er et forenende synspunkt for mange af matematikkens grene, og at en aksiomatisering af mængdelæren derfor er ønskelig. Men de aksiomatiseringer, (f.eks. ZF eller GB), der blev opstillet i 1920 erne og 30 erne, havde ringe kontakt med den praktiserede matematik, og deres kanonisering har været en forsinkende faktor i udviklingen af en realistisk aksiomatisk mængdeteori. For matematikkens udvikling over de sidste hundrede år har den selvskabte reduktionistiske plage haft den effekt, at der har manglet et tilstrækkelig realistisk grundlag som fælles reference og vejviser for matematikken; det er en lidelse, som er ved at være overvundet. Jeg skal specielt referere til Lawvere s synspunkter, der igen videreudvikler synspunkter af Eilenberg 1

og Mac Lane, Grothendieck og mange andre, og hvor en fælles overskrift er kategori-teori. Ad 1) Beviser udtømmer ikke matematikkens væsen. Spørgsmål som begrebsdannelse, forståelse, analogi, diagrammer, og billed-dannelse kan ikke reduceres til spørgsmål om beviser. (Og begrebet bevis er ikke givet en gang for alle, men ændrer sig over tid. Heller ikke begrebet logik er fast. Hver problemkreds definerer sin egen logik. 1 ) Formaliserede beviser, som drømt af Hilbert, har aldrig kunnet erstatte beviser som vi faktisk bruger dem, hverken som garanti for sikkerhed, eller som forklaring af hvorfor et sagsforhold er som det er, eller hvorfor et bestemt matematisk begreb skaber forståelse og klarhed. Eksempel: Descartes indførte det kartesiske produkt af to mængder (tal-linier), og var derved i stand til at give forståelse, og billed-dannelse til rent analytiske ting (repræsentation af en funktion ved sin graf). Hvad er der at bevise? Men kartesisk produkt og grafisk fremstilling er fundamentalt i matematik, og i dagens avis (f.eks. temperaturkurver). Mere om kartesisk produkt senere. En anden vigtig fremgangsmåde i matematisk begrebsdannelse og bevisførelse er analogi; formelle beviser tænker ikke i analogi-baner; men analogi kan ofte formuleres ved en explicit matematisk teori, der frugtbart og rigoristisk kan overføre ideer, begreber, og sætninger fra et matematisk område til et andet. Kategori-teori er historisk opstået som en teori for sådan transport af ideer, som f.eks. Eilenberg-Steenrod s Foundations of Algebraic Topology 2 fra 1952. ( Transport har fra dette synspunkt ofte form af en funktor fra en kategori til en anden, i Eilenberg-Steenrod er Homologi således en funktor fra kategorien af topologiske rum til kategorien af abelske grupper.) Ad 2) Mængdelære (ogsåkaldet naiv mængdelære, eller Cantor sk mængdelære) kan aksiomatiseres på en måde, der afspejler matematikkens praksis ( ETCS ([5]), se nedenfor); den kan også aksiomatiseres på en måde, der ikke afspejler praksis, men som uheldigvis i næsten 100 år har monopoliseret hvad mængdelære er; det er ZF og dens slægtninge. ETCS sætter, belært af kategoriteori, begrebet afbildning mellem mængder X Y som det centrale primitive begreb, mens ZF sætter epsilon relationen mellem mængder, x X, som det centrale. Populært udtrykt, 1 Den logik, der er relevant for kategorier af kohesive mængder, er ikke booles sk, men intuitionistsik, se f.eks. [4]. 2 Læg mærke til ordet Foundations 2

ETCS beskæftiger sig med mængders udadvendthed eller sociologi, mens ZF kigger på mængders anatomi, hvad er indmaden af X. Bogen Sets for Mathematics [6] giver aksiomatikken for ETCS (herunder som et af de førtste aksiomer, kartesisk produkt), og nogle umiddelbare anvendelser i matematik (deraf bogens titel). Hvad angår ZF, skal jeg ikke polemisere udførligt her, men overlade til læseren at filosofere over karakteren af følgende udsagn om tal: 2 N (1) N R (2) 2 4 (3) Den uhildede matematiker vil sandsynligvis svare: (1) er rigtig; (2) er rigtig, med den sædvanlige indlægning af N i R ; og for (3) vil svaret fornuftigvis være det var dog et mærkeligt spørgsmål, mens ZF vil svare, ja, under visse omstændigheder (nemlig under den omstændighed, at vi lader 2 og 4 betegne von Neumann ordinaltal). Men eftersom 2 og 4 er gamle og fundamentale matematiske størrelser, og hvis hvirkelig er relationen hvorpå hele mængdeteorien, og dermed matematikken, bygger, så er det da lidt svagt, at vi ikke kan få et entydigt svar på om hvorvidt 2 4? Problemet er, at ZF s grundbegreber ikke er isomorfi-invariante. ETCS aksiomerne for kategorier S af variable og kohesive mængder (elementære toposer): en kategori S fortjener navn af elementær topos, eller en kategori af (variable og/eller kohesive) mængder, hvis den er kartesisk lukket, og har en delobjekt-klassifikator. Teorien er, fra et logisk synspunkt, en elementær, dvs. første-ordens, teori, lige som ZF deraf navnet elementær topos. Der er en to-sortet teori: de to sorter er objekter og pile ( mængder og afbildninger ). Ofte har man brug for et uendelighedsaksiom ; endelig kan man tilføje booleske aksiomer, og hvis de er opfyldt, er S en kategori af abstrakte mængder (i [2] blot omtalt som kategorien af mængder ). Med formuleringer stort set som i [6] er aksiomerne 1. S er en kategori 2. S har endelige kartesiske produkter og equalizere. Specielt har S nullært kartesisk produkt, dvs. et terminalobjekt 1. En morfi x : 1 X, hvor X S er et vilkårligt objekt, kaldes et element i X (og man skriver x X). (Se også Bemærkning nedenfor.) 3. S har exponentiation. 3

Disse tre aksiomer definerer begrebet kartesisk lukket kategori (med equalizere). (Exponent-objekt Y X : der er givet er en naturlig bijektiv korrespondance mellem afbildninger Z Y X og afbildninger Z X Y.) 4. S har en delobjekt-klassifikator Ω. Delobjekt-klassifikator er, i lidt løs formulering, et objekt Ω med et udvalgt element t : 1 Ω, så at for enhver monomorf afbildning A A i S findes præcis én afbildning ( karakteristisk funktion ) α : A Ω så at α 1 (t) = A. Ideen er velkendt i det booleske tilfælde, se kommentaren til Boolesk nedenfor. Aksiomerne 1-4 definerer begrebet elementær topos. Alle de indgående begreber er invariante under isomorfi, i en vis præcis forstand. En kategori af abstrakte (eller diskrete, eller konstante) mængder er en elementær topos S, som yderligere opfylder, at den er 5. boolesk, 6. 2-værdiet, 7. opfylder udvalgs-aksiomet, 8. og opfylder uendelighedsaksiomet : der findes et Peano-Lawvere objekt N, de naturlige tal.. Boolesk betyder, at loven om det udelukkede tredie gælder: gitteret af delobjekter af et vilkårligt objekt er en boolesk algebra. Det kan vises at være ækvivalent med, at Ω er disjunkt sum af to elementer 1 Ω, som passende benævnes true og false. Man kan tænke på disse elementer som de, der udgør hvad en datalog ville kalde datatypen boole. 2-værdiet betyder, at delobjekt-gitteret af 1 har præcis to elementer, (1 1 og 1). Udvalgs-aksiomet udsiger, at enhver epimorfi splitter. (Det kan vises, at det medfører boolesk.) Et Peano-Lawvere objekt er et objekt ( mængde ) N udstyret med et udvalgt element 0, og en efterfølger- funktion σ : N N, og som er universelt med denne struktur; dermed er et sådant objekt entydigt bestemt op til entydig bestemt isomorfi Bemærkning. For en elementær topos S er det ikke i almindelighed rigtigt, at objekter X har tilstrækkelig mange elementer. At X har tilstrækkelig mange elementer betyder, at hvis to afbildninger X Y stemmer overens på alle elementer x : 1 X, så er afbildningerne ens. Man siger også toposen er well-pointed ( point = element ), eller ([5]) at 1 er en generator for S. (Betingelsen er en analog til den -baserede mængdelæres extensionalitets-aksiom.) For sådanne toposer er Aksiomerne 5 og 6 automatisk opfyldt. En kategori af abstrakte mængder er altid well-pointed. 4

ETCS er teorien for kategorier S, der opfylder de nævnte aksiomer 1-8 for abstrakte mængder ; det er en 1.ordens teori, og den bevisteoretiske styrke af den er ækvivalent med (en vis svag version af) ZF/ZFC. De to teorier kan interpreteres i hinanden, se [9] for detaljer og polemik, og for [7] VI.10 for en konkret beskrivelse af de gensidige interpretationer. Her er Lawvere og Rosebrugh s sammenfatning i forordet til lærebogen Sets for Mathematics 2003 [6] (min oversættelse): Mængdelære, forstået som algebraen for afbildninger, [er]... et forenende grundlag for avancerede matematiske områder som algebra, geometri, analyse og kombinatorik. Formelt tages udgangspunkt i generelle aksiomer som udtrykker universelle egenskaber ved summer, produkter, afbildningsmængder, og rekursion over de naturlige tal. De særlige kendetegn ved Cantor ske abstrakte mængder, i modsætning til de variable og kohesive mængder i geometri og analyse, gøres explicitte og tages som specielle aksiomer. (p. i) (De særlige kendetegn ved abstrakte mængder er aksiomerne 5-8.) Denne bog er for studerende, der tager fat på et studium af avancerede matematiske områder som algebra, geometri, analyse og kombinatorik. Et brugbart grundlag for disse emner når man frem til ved åbent at udpege og studere hvad de har tilfælles. En væsentlig del af hvad der er fælles for alle disse emner blev gjort explicit for 100 år siden af Richard Dedekind og Georg Cantor, og en anden væsentlig del for 50 år siden af Samuel Eilenberg og Saunders Mac Lane. Den resulterende idé om kategorier af mængder er hovedemnet for denne bog. (p. ix) Læg mærke til flertalsformen: kategorier. Det, der f.eks. i [2] omtales, i bestemt form, som kategorien af mængder, omtales i [6] som kategorien af abstrakte mængder, i modsætning til kategorier af kohesive og variable mængder. Sådanne omtales i [2] som de mange kategorier (specielt toposer), der opstår i matematisk praksis, jvf. oprindelsen i algebraisk geometri (Grothendieck et al. ca 1960). Kategorien af topologiske rum forsøger at være en kategori af kohesive mængder (kohesionen her udtrykt ved topologi/kontinuitet); det lykkes ikke helt, da den mangler exponentdannelse (funktionsrum) Y X med den krævede universelle egenskab. Kategorien af simplicialkomplekser (simplicielle mængder) er derimod en kategori af kohesive mængder, i den betydning der sigtes til i ovenstående citat. Andre eksempler er visse kategorier af glatte mængder, hvor 5

kohesionen ikke er kontinuitet, men differentiabilitet. Det er i kategorier af mængder med denne form for kohesion at syntetisk differentialgeometri (SDG) kan udvikles, som i f.eks. [1] eller [3], og omtalen i [10] af SDG som et mængdeteoretisk grundlag for dele af matematik. For kategorier af kohesive mængder forventer man ikke at f.eks. udvalgs-aksiomet gælder. Udvalgs-aksiomet i kategoriteoretisk formulering udtrykker: enhver epimorfi splitter ( vælg et element i hver fiber ; men f.eks. i kategorien af topologiske rum vil et sådant valg ofte bryde kohesionen (dvs. have diskontinuiteter), dvs. det vil ikke findes i kategorien: et fiber-bundt har ikke nødvendigvis en (kontinuert) sektion). Man forventer heller ikke loven om det udelukkede tredie i en kategori af kohesive mængder; i kategorier af glatte mængder, f.eks., hører det ikke hjemme, se f.eks. [4] s. 1. Selvom afbildninger mellem mængder spillede en vigtig rolle allerede hos Cantor (f.eks. til definition af begrebet ækvipotens af mængder), var tiden ikke helt moden til at sætte afbildningsbegrebet i centrum; dette synspunkt blev først fuldmodent i løbet af det 20. århundrede. Fra [6] citeres: Hundrede års erfaring siden Cantor har vist vigtigheden af at understrege betydningen af ting som: (1) Enhver afbildning har brug for både et explicit område, og et explicit ko-område (ikke blot et område, som i tidligere formuleringer af mængdelære, og ikke blot et ko-område, som i type-teori). (2) Delmængder er ikke blot mængder med en særlig egenskab, men med en explicit inklusions-afbildning. (3) Algebraen for komposition tilfredsstiller de velkendte associativitets-og identitets-love.... (4) Fordi funktionaler spiller en sådan nøglerolle i matematik, må algebraen styrkes explicit ved indførelse af evaluerings-afbildninger og inducerede afbildninger. Her beskriver (1) og (3) tilsammen, at århundredet siden Cantor har lært os at afbildninger mellem mængder udgør en kategori (Kategoribegrebet skyldes Eilenberg og Mac Lane, ca. 1945, og var ikke til rådighed for Cantor, eller Zermelo.) Understregningen i (2) er f.eks. relevant ved det tidligere stillede spørgsmål: er N R? eller det analoge, er R C? F.eks. for det sidste spørgsmål R C? vil matematisk praksis svare, ja, idet vi identificerer det reelle ral r med det komplekse tal (r, 0) ; m.a.o. vi besvarer spørgsmålet bekræftende ved angivelse af en explicit afbildning R C, og ikke ved at 6

forsøge at vise r R r C, som er den -baserede mængdelæres fortolkning af spørgsmålet. Der refereres i (4) til den kartesisk-lukkede struktur (exponentiation): afbildnings- eller funktionsmængden Y X. Elementerne 1 Y X er i bijektiv korrespodance med afbildningerne X Y. Evalueringsafbildningen er en afbildning Y X X Y; den evaluerer en funktion f Y X på et argument x X, dvs. returnerer f (x) Y. Betragtning af funktionsrum er også en erfaring, som, så vidt jeg kan skønne, først blev vidt udbredt i matematikkens praksis i løbet af første halvdel af 20.århundrede (funktional-analyse). Fra ord-leksikonet i slutningen af [6] (min oversættelse): Mængdelære, aksiomatisk: Brugen af den aksiomatiske metode til at explicitere de grundlæggende generelle træk ved anvendelsen af mængdelære til studiet af matematiske emner, blev forsinket i det meste af det tyvende århundrede på grund af et forsøg på at popularisere et vist filosofisk synspunkt; ifølge dette synspunkt skulle fællesmængden af to urelaterede mængder have en vel-defineret mening. Dette i modsætning til det fænomen man ser i praksis, nemlig at inklusioner, og mere generelt, relationer mellem mængder, kommer til veje ved specifikke afbildninger. Beskrivelsen af dette kumulative hierarki blev af nogle betragtet som den eneste mulige form af formaliseret mængdelære. Mængdelære, naiv: En vis samling af mængdeteoretiske metoder og resultater er nødvendig for at lære og udvikle analyse, geometri og algebra. På grund af den uanalyserede tiltro til, at denne samling ikke kunne blive gjort logisk præcis uden det kumulative hierarki og global inklusion, blev det almindeligt at beskrive den på en ikkeformel måde, kendt under navnet naiv mængdelære (Halmos 1960). En af formålene med nærværende bog er at komme ud over denne opdeling mellem naive og aksiomatiske aspekter, ved at give formelle aksiomer, som er tilstrækkelige til at beskrive de anvendbare aspekter af mængdelære, som er blevet udviklet af Dedekind, Hausdorff og deres mange efterfølgere. Et simpelt eksempel på en kategori af mængder med kohesion er kategorien af reflexive symmetriske grafer; hvis to hjørner er forbundet med en kant, kan vi kalde dem naboer. 7

Aksiomatikken for SDG (se [4]) er forenelig med konstruktiv naiv mængdelære; en kategori S, der opfylder ETCS og er udstyret med en kommutativ ring R ( tal-linie ), der opfylder KL (se [4]), kan opfattes som en kategori af glatte (differentiable) mængder, dvs. af mængder med en kohesiv struktur, der afspejler egenskaber ved kategorien af differentiable mangfoldigheder. Glatte mængder, dvs. objekter i en sådan S, R, har specielt en naturlig graf-struktur, nabo-relationen, der er reflexiv og symmetrisk (men ikke transitiv), og som bevares af alle afbildninger. Ved hjælp af denne form for nabo -kohesion bliver det muligt at få en tættere sammenknytning mellem begreber og billeder (figurer), f.eks. for differentialgeometriske begreber som affin konnektion, eller infinitesimal paralleltransport, se [4]; der er match mellem billede og begreb. Kommenteret litteraturliste Ovenstående tekst forudsætter kendskab til enkelte grundlæggende begreber i kategori-teori: objekt, morfi, funktor mellem to kategorier, kartesisk produkt A B i en kategori (A B givet ved en vis universel egenskab). Bogen [6] er en venlig og langsom indføring i kategorien af mængder (bedre: kategorier af mængder), og dermed er det også en indføring i teorien for (elementære) toposer, som et grundlag for mange dele af matematikken. Værket [5] er det banebrydende arbejde; det er genoptrykt i digital form og kan hentes på nettet. Genoptrykket er forsynet med kommentarer af Lawvere og McLarty. Andre, mere vidtgående fremstillinger af topos teori, er [8] og [7]. Der er også nogen referencer til nogle af mine ting om syntetisk differentialgeometri, idet de kategorier, der er modeller for SDG aksiomatikken, er nogle af de vigtige motiverende eksempler på kategorier af kohesive mængder. De kan alle hentes (i beta-versioner) på min hjemmeside (adresse nedenfor). Essayet [2] er fra en lignende begivenhed som dette kursus, og har en del overlap med det. Foredraget [4] er medtaget i kompendiet her. Det er et inviteret foredrag til en konference i pattern recognition (Montreal 2009) og har introducerende karakter; det er beregnet på at være let læst, og motiverende! McLarty s artikler [9] og [10] er meget præcise polemiske indlæg i den matematik-filosofiske debat om kategorier af mængder vs ZF; herunder om SDG som et grundlag bestående af glatte (ikke-abstrakte) mængder. Også nogle af de øvrige artikler i bibliografien nedenfor kan (august 2010) hentes på nettet: [5]: http://www.tac.mta.ca/tac/reprints/articles/11/tr11abs.html [9]: http://www.cwru.edu/artsci/phil/pmexploring.pdf [10]: http://philmat.oxfordjournals.org/cgi/reprint/13/1/44.pdf Min hjemmeside: http://home.imf.au.dk/kock/ 8

References [1] A. Kock, Synthetic Differential Geometry, London Math. Society Lecture Notes Series No. 51, Cambridge University Press 1981; 2. udgave London Math. Society Lecture Notes Series No. 333, Cambridge University Press 2006. [2] A. Kock, Kategori-teori og matematikkens grundlag, Netværk i Matematikkens Historie og Filosofi Nyhedsbrev No. 4, 1998. (Rettet genoptryk på min hjemmeside.) [3] A. Kock, Synthetic Geometry of Manifolds, Cambridge Tracts in Mathematics No. 180, Cambridge University Press 2010. [4] A. Kock, Affine connections, and midpoint formation, in S. Brlek, C. Reutenauer and X. Provencal (Eds.) Discrete Geometry for Computer Imagery, 15th IAPR International Conference, Montreal 2009, Springer Lecture Notes in Computer Science 5810. [5] F.W. Lawvere, An elementary theory of the category of sets (long version), 1963, reprinted with commentary by C. McLarty and the author, in Reprints in Theory and Applications of Categories No. 11 (2005), 1-35. [6] F.W. Lawvere og R. Rosebrugh, Sets for Mathematics, Cambridge University Press 2003. [7] S. Mac Lane og I. Moerdijk, Sheaves in Geometry and Logic, Springer Universitext 1992. [8] C. McLarty, Elementary Categories, Elementary Toposes, Oxford Logic Guides No. 21, Oxford 1995. [9] C. McLarty, Exploring Categorical Structuralism, Philosophia Mathematica (III) 12 (2004), 37-53. [10] C. McLarty, Learning from Questions on Categorical Foundations, Philosophia Mathematica (III) 13 (2005), 44-60. Anders Kock Institut for Matematiske Fag, Aarhus Universitet August 2010 kock@imf.au.dk 9