Vektorer og lineær regression Peter Harremoës Niels Brock April 03
Planproduktet Vi har set, at man kan gange en vektor med et tal Et oplagt spørgsmål er, om man også kan gange to vektorer med hinanden Svaret er ja, men hvad der kan forekomme forvirrende er, at der er flere måder at gøre det på Vi vil starte med at definere det såkaldte planprodukt Før vi kan definere planproduktet, er det nødvendigt at definere en orientering af planen Sædvanligvis tegner man koordinatsystemer med -aksen vandret og positive tal mod højre -aksen tegnes normalt lodret med positive tal opad En rotation fra -aksen til -aksen vil vi regne positiv Bemærk, at denne rotation går mod urets retning I matematik regner man rotationer mod uret retning for positive og rotationer med uret for negative Bemærk, at i navigation er det modsat - rotationer med uret regnes positive w v w v Figure : Orienteringen af v, w er her positiv Hvis vektorerne v og w ikke er parallelle, så kan man også tale om orienteringen af parret v, w Orienteringen siges at være positiv, dersom den korteste rotation fra v s retning til w s retning er positiv Ellers siges orienteringen af v, w at være negativ Definition Lad v og w være vektorer Hvis v, w er positivt orienteret, så defineres planproduktet fra v til w som v w arealet af det af v og w udspændte parallelogram Hvis v, w er negativt orienteret, så defineres planproduktet fra v til w som v w minus arealet af det af v og w udspændte parallelogram Hvis v og w er parallelle, så defineres planproduktet fra v til w som v w 0 Planproduktet er således et areal regnet med fortegn Grunden til at vi regner arealer med fortegn er, at vi på denne måde får et produkt, som opfylder nogle pæne regneregler Dette ville ikke være tilfældet, hvis vi ikke regnede med fortegn C a B b c A Figure 6: Trekant og tilhørende vektorer Bevis Vi viser kun den sidste ligning, idet de øvrige vises på samme måde Vi indfører følgende vektorer således at a a, b b hvilket beviser sætningen a CB, b CA, c AB, a og c c Da gælder c a b og dermed c c c a b a a + b b a b a b a + b ab cos C, b c 4
w v + w cosv, sinv v b v a a, 0 u Figure : Summen af arealerne af de gråparallelogrammer til venstre er lig arealet af parallellogrammet til højre u Sætning For tre vilkårlige vektorer v, w og c og en konstant k R gælder følgende regneregler: v w - w v anti-kommutativ lov k v w k v w v k w Figure 5: Enhedscirkel med vektorerne a og b indtegnet lægger et koordinatsystem som på Figur 5, så v får koordinater cos v w cos v Koordinaterne for w bliver da w og sin v w sin v v w v 0 w cos v w sin v v w cos v + 0 sin v v w cos v v 0 Sætning 3 Cosinus-relationerne Lad A, B og C betegne hjørnerne i en trekant Lad a, b og c betegne længderne af de tilsvarende sider Da gælder a b + c bc cos A, b a + c ac cos B, c a + b ab cos C 3 u v + w u w + u w og u + v w u w + v w distributiv love 4 v w 0 netop hvis v og w er parallelle Specielt er v v 0 Bevis Vi viser regnereglerne en ad gangen Hvis v og w er parallelle, så står der 0 på begge sider af lighedstegnet Hvis v og w ikke er parallelle, vil det udspændte parallelogram have samme areal uanset hvilken rækkefølge v og w står i Orienteringen af v, w er modsat af orienteringen af w, v så planproduktet skifter fortegn, når v og w bytter plads Denne regneregel siger, at hvis en af siderne i et palallellogram ganges med k, så vil arealet af det nye parallelogram være k gange så stort som arealet af det oprindelige parallelogram 3 Beviset for den første af de to ligninger fremgår af Figur Den anden af de to ligninger regel bevises på samme måde eller ved at kombinere regel og regel 3 4 Dette skyldes at en vektor altid er parallel med sig selv 3
Med disse regneregler kan vi udlede en formel til beregning af planprodukter i koordinatsystemer x x Sætning 3 Lad v og w være vektorer med koordinater og Da er planproduktet fra v og w givet ved v w x x ligger i origo så x, ȳ 0, 0 og b 0 Vi skal derfor minimere f i y i ax i a f i y i + a x i ax i y i f i i + f i x i a f i a x i f i x i y i + f i ax i y i f i i Bevis Vi skriver v x i + j, w x i + j Vi vil benytte, at i j og at j i - til at vise v w x i + j x i + j x i x i + x i j + j x i + j x x i i + x i j + x j i + x j j x x 0 + x + x - + a b 0 x x Hermed er sætningen bevist Med denne formel er det nu let at beregne arealet af diverse polygoner - Eksempel 4 Vektorerne og udspænder et parallelogram Plan- 3 produktet er - 3 Parallelogrammets areal er derfor 7 Eksempel 5 Vektorerne og udspænder et parallelogram Planproduktet er -3 3-7 -3 j -3-8 Planproduktet er negativt, hvilket afspejler at vektorerne er negativt orienterede Arealet er 8 3 Dette er et -gradspolynomium i a og ifølge toppunktsformelen antages minimum for a n f ix i y i n f ix i n f ix i y i n f ix i Som mål for kvaliteten af en lineær regression bruges størrelsen R n f i y i ax i + b n f i y i ȳ Denne størrelse vil ligge i [0;] hvor 0 viser at regressionen er rigtigt dårlig mens angiver at tilnærmelsen med en ret linje er perfekt 6 Cosinusrelationerne og vinkler En vigtig egenskaber for prikproduktet er, at det kan bruges til at beregne vinkler Sætning Lad v og b være to egentlige vektorer Da gælder hvor v v, w v w v w cos v, Bevis Vi vil først bevise sætningen under antagelse af at w Vi
Tilbage er blot at udregne det sidste led f i v i w f i v i w w 0 f i w Eksempel 6 En trekant har hjørner A,, B 5, 3 og C, 6 Vi bestemmer vektorer svarende til to af siderne 5 4 AB, 3 AC 6 4 Vi har set, at hvis et helt datasæt skal repræsenteret ved et enkelt punkt, så er tyngdepunktet det bedste valg Vi vil nu forsøge at repræsentere hele datasættet ved en ret linje af formen y ax + b Her vil vi opfatte x som den uafhængige variable og y som den afhængige variabel Vi vil igen bruge gennemsnitlig kvadratisk afvigelse som mål for kvaliteten af vores rette linje, hvor vi ved kvadratisk afvigelse forstår størrelsen f i y i ax i + b Sætning For et datasæt vil bedste rette linje gå gennem tyngepunktet og hældningen vil være givet ved n a f i x i x y i ȳ n f i x i x Bevis Først skriver vi f i y i ax i + b f i y i ax i b så for fastholdt værdi af a skal vi minimere en kvadratafvigelse og skal derfor vælge middelværdien b f i y i ax i ȳ a x men det medfører at ȳ a x + b så linen skal gå gennem tyngdepunktet For at gøre den sidste del af beviset simplere vil vi antage at tyngdepunktet Planproduktet beregnes som AB AC 4 4 4 4 5 Arealet af den ud- Arealet af det udspændte parallelogram er dermed 5 spændte trekant er halvt så stort, hvilket er 5 / 7 / Notation 7 I dette afsnit har vi brugt som notation for planproduktet Brugen af som symbol for planprodukt stammer fra CA Bishop 978 og har ikke vundet større udbredelse uanset at den er ganske raktisk til væres formål Den mest almindelige notation for planprodukt er at skrive det v, w og kalde planproduktet for determinanten af v og w Hvis vektorerne er givet ved koordinaterne x v, x w, så er det almindeligt at skrive determinanten som det v, w x x Historisk set startede vektorregning som et systematiske studie af determinanter i eller flere dimensioner Sætning 8 Snørebåndsformelen Lad A, A,, A n betegne hjørnerne i en polygon så nummereringen af hjørnerne er i positiv omløbsretning Da er arealet af polygonen OA OA + OA OA 3 + + OA n OA, hvor O er koordinatsystemets begyndelsespunkt 4
A4 A5 A3 A A Figure 3: Trianguleret femkant Bevis Hvis O ligger inden i polygonen og linjestykkerne fra O til polygonens hjørner, giver en triangulering af polygonen som på Figur 3, så er sætningen oplagt I andre tilfælde beviser man sætningen for hver trekant i en triangulering af polygonen og lægger de enkelte arealer sammen Eksempel 9 En femkant har hjørner -,, -, -3,, -, 3, og, 4 Arealet beregnes ved hjælp af vores arealformel - - -3 + - -3 - + 3 - + 3 4 + - 4 35 5 + 7 + 7 + 0 + 6 Arealet er derfor 35 / 7 / Øvelse 0 Beregn arealet af en firkant med hjørnerne,, 3,, 5, 6 og, 9 Tegn firkanten ind i et koordinatsystem Tværvektor Som vi har set, kan man bruge planproduktet til at undersøge om to vektorer er parallelle Vi ønsker nu at bruge planproduktet til at undersøge om to vektorer er vinkelrette eller ortogonale som det også hedder Definition Lad v være en vektor Da er tværvektoren til v den vektor som fås ved at dreje v en kvart tørn i positiv omløbsretning Tværvektoren til v betegnes v eller blot ˆv 5 Lineær regression Vi tænker os at vi har målt sammenhørende værdier af to variable X og Y et antal gange Hvert datapunkt x i, y i kan repræsenteres ved den tilhørende xi stedvektor v i Hvis datapunktet x i, y i er observeret h i gange og y i det samlede antal observationer er n, så er frekvensen af datapunktet f i h i /n Vi er interesseret i at bestemme et enkelt punkt x, y med stedvektor v, som giver en god repræsentation af hele datasættet Til at måle hvor meget et datapunkt afviger fra x, y vil vi bruge den kvadrerede afstand v i v Følgende sætning blev bevist af M Stewart i 746 i det specielle tilfælde, hvor der kun er to forskellige datapunkter Sætning 0 Stewarts Sætning Lad w betegne stedvektoren for tyngdepunktet givet ved w f i v i Da gælder at f i v i v f i v i w + w v Specielt gælder der, at den gennemsnitlige kvadratafvigelse er minimal når v w Bevis Beviset består i følgende udregning f i v i v f i v i w + w v f i v i w + w v + v i w w v f i v i w + Nu bruger vi, at w v ikke afhænger af i og får f i v i v f i w v + f i v i w + w v + w v f i v i w w v f i v i w 5 0
B I stedet for at sige tværvektoren til v er det almindeligt blot at sige v-hat, idet v får en hat på a c a c Sætning Lad v og w være vektorer Da er v og w ortogonale, netop hvis v w 0 C b A Figure 4: Retvinklet trekant og tilhørende vektorer Ofte bruger man Pythagoras læresætning til at bevise længdeformlen og afstandsformlen, men vi har vist dem uden hjælp fra Pythagoras Det er faktisk endnu bedre, idet vi nu er i stand til at give et ganske simpelt bevis for Pythagoras læresætning Sætning 9 Pythagoras Læresætning Lad A, B og C betegne hjørnerne i en trekant, hvor C er ret Lad a og b betegne længderne af kateterne og lad c betegne længden af hypotenusen Da gælder Bevis Vi indfører følgende vektorer a + b c a CB, b CA, c AB, således at a a, b b og c c Da gælder c a b og dermed c c c a b a b a a + b b a b a + b a b Da trekanten er retvinklet, er a b 0 9 b Bevis Dette følger af, at v w netop hvis v w Sætning 3 Lad v og b være vektorer og lad k være et reelt tal Da gælder følgende regneregler: k v k v v + w v + w 3 v v 4 v v Bevis Beviserne for disse regneregler fås direkte ud fra tegninger af hvad der foregår x Sætning 4 Hvis vektoren v har koordinater, så gælder y v -y x Bevis Vi benytter vore regneregler og får x v y x i + y j x i + y j x j + y -y x - i Hermed er sætningen bevist Det viser sig, at størrelsen v w spiller en vigtig rolle i mange sammenhænge, så før vi går videre, vil vi indføre lidt mere notation 6
3 Prikprodukt Vi vil nu definere endnu et produkt mellem vektorer Hvor planproduktet bruges til at beregne arealer, vil vi bruge det nye produkt til at beregne længder og vinkler Definitionen af det nye produkt kombinerer defintionerne af planprodukt og tværvektor Definition 5 Ved prikproduktet af vektorerne v og w forstås planproduktet af v og tværvektoren af w I symboler ser definitionen således ud v w v w Andre betegnelser for prikproduktet er skalarprodukt og indre produkt x x Sætning 6 Lad v og w være vektorer Da kan prikproduktet af de to vektorer beregnes som: Bevis Vi benytter definitionen v w x x + v w v w x x x -y x x - x x + Hermed er sætningen bevist For hver regneregel vi har for planproduktet har vi en tilsvarende regel for prikproduktet Sætning 7 For tre vektorer v, w og c og en konstant k R gælder følgende regneregler: v w w v kommutativ lov k v w k v w v k w 3 v w + c v w + v c distributive lov 7 x 4 v v v Bevis De første tre regneregler kan fås direkte ud fra tilsvarende regneregler for planprodukt Alternativt kan man bevise dem ud fra sætning 6 Regel x x bevises således Lad v og w Da gælder v w x x x x + w v x x x + x Regel og 3 fås tilsvarende og beviserne er skrevet ud i alle detaljer i bogen Den sidste regneregel fås ved at bemærke, at v v v v Prikproduktet af en vektor med sig selv er derfor lig med arealet af et kvadrat med sidelængde v, hvilket som bekendt er v Vi har defineret prikproduktet ved hjælp af planprodukt og tværvektor Mange bøger definerer prikproduktet først og udleder derefter følgende formel til udregning af arealer/planprodukt v w v w 4 Pythagoras og vektorer længder Sætning 8 Længdeformlen Lad v bestemt ved: v x + / Bevis Vi ved at v v v x x + y y x + x y Da er længden af v Formlen fås ved at tage kvadratroden på begge sider af lighedstegnet For punkter A x, og B x, har vektoren AB koordinater x x Hvis vi anvender længdeformlen på denne vektor, får vi afstandsformlen AB x x + / 8