Grzeda_2009_ElementarneWiadomosciZAlgebryMacierzy

Mariusz Grz da Elementarne wiadomo ci z algebry macierzy Wprowadzenie Statystyka wielowymiarowa posługuje si j zykiem algebry macierzy. W literaturze po wi conej metodom statystycznym cz sto zakłada si , e odbiorca tekstu zna podstawowe poj cia i operacje z przywołanego tu działu matematyki i potrafi si nimi sprawnie posługiwać. Pewien zasób wiedzy na temat macierzy jest bowiem niezb dny do tego, aby zrozumieć istot takich metod wielowymiarowej analizy danych jak: analiza czynnikowa, analiza korespondencji czy analiza głównych składowych. Warto w tym miejscu zaznaczyć, e w statystyce istniej równie metody, do zrozumienia których znajomo ć elementarnych terminów algebry macierzy nie jest warunkiem koniecznym, niemniej jednak mo e jednak zdecydowanie ułatwić ich pogł bione zrozumienie. Za przykład takiej metody mo e posłu yć regresja liniowa. Bior c zatem pod uwag wspomniane tu przypadki, mo na stwierdzić, e osobom stosuj cym w praktyce metody statystyki wielowymiarowej znajomo ć rachunku macierzowego mo e być co najmniej przydatna, a w przypadku niektórych technik okazuje si potrzebna czy wr cz niezb dna. Niniejszy tekst jest prób wyj cia naprzeciw tym potrzebom i przedstawia krótkie wprowadzenie do wybranych zagadnień z zakresu algebry macierzy, stanowi c matematyczne wprowadzenie do tomu, po wi conego w du ej mierze * Mariusz Grz da ukończył socjologi na Uniwersytecie Warszawskim. Swoj prac magistersk po wi cił krytyce sposobu wykorzystywania analizy czynnikowej w mi dzynarodowych badaniach systemów warto ci prowadzonych przez R. Ingleharta. Obecnie doktorant w Instytucie Socjologii UW i pracownik ZISE w IFiS PAN. Interesuje si metodologicznymi problemami stosowania modeli liniowych w socjologii (mgrzeda@ifispan.waw.pl). Skalowanie druk.indb 115 2009-12-09 14:25:06 116 Mariusz Grzęda zaawansowanym metodom statystycznym. Z konieczno ci ograniczamy si tu do omówienia jedynie głównych poj ć oraz podstawowych operacji, do których odwołuj si pozostałe artykuły zawarte w tej publikacji. Macierz i jej wymiary Wprowad my najpierw pewne oznaczenia. Na pocz tku przyjmijmy, e mamy dwa zbiory P i Q, których elementami s kolejne liczby naturalne pocz wszy od 1 odpowiednio do p i q. Zapiszemy to w nast puj cy sposób: P = {1,2.., p} Q = {1,2.., q} [1] Wprowad my teraz poj cie iloczynu kartezjańskiego tych zbiorów. Iloczyn kartezjański zbiorów P i Q, oznaczany przez P ×Q jest zbiorem wszystkich mo liwych uporz dkowanych par elementów zbiorów P i Q. W naszym przykładzie pierwszy człon ka dej pary – oznaczmy go jako i – b dzie elementem zbioru P, natomiast drugi – oznaczmy go przez j – b dzie elementem zbioru Q. Par uporz dkowan zapisujemy jako (i,j). Formalna definicja iloczynu kartezjańskiego rozpatrywanych tu zbiorów b dzie wygl dała tak: P × Q = {(i, j ) : i ∈ P ∧ j ∈ Q} [2] Załó my teraz, e ka dej uporz dkowanej parze liczb (i, j ) ∈ P ×Q przyporz dkujemy pewn liczb aij ∈ K . Dolny indeks przy literze a oznacza tu par uporz dkowan (i,j), której odpowiada ta wła nie liczba. Natomiast o zbiorze K – którego elementami s liczby aij – załó my, e jest podzbiorem zbioru liczb rzeczywistych (co zapisujemy jako: K ⊂ R ). Opisany powy ej sposób przyporz dkowania jest funkcj , której warto ci w punkcie (i,j) jest wła nie liczba rzeczywista aij. Oznaczmy t funkcj jako f: f : P ×Q → K ⊂ R [3] Powy szy zapis odczytujemy: f jest funkcj z iloczynu kartezjańskiego zbiorów P i Q w zbiór K. Funkcja f mo e być przedstawiona na wiele ró nych sposobów. Mi dzy innymi mo na podać jej wzór. Mo na równie wy- Skalowanie druk.indb 116 2009-12-09 14:25:06 Elementarne wiadomości z algebry macierzy 117 pisać warto ci, jakie ona przyjmuje dla wszystkich swoich argumentów1. Mo na tak e przedstawić j w formie graficznej – np. za pomoc grafu b d rysuj c jej wykres. Mo na te przedstawić t funkcj w postaci prostok tnej tablicy liczb, zło onej z pewnej liczby wierszy i kolumn. W tym ostatnim przypadku przedstawienie funkcji f nazywa si macierz . Liczb wierszy i kolumn takiej tablicy okre laj liczebno ci zbiorów odpowiednio P i Q. A zatem, jak wynika z ich definicji podanej w [1], przedstawiaj c funkcj f w postaci tablicowej b dziemy mieli tablic zło on z p wierszy oraz q kolumn. Przyjmijmy, e tablic t oznaczymy jako A. W tablicy A na przeci ciu i-tego wiersza i j-tej kolumny b dzie umieszczona liczba aij , b d ca warto ci funkcji f dla pary uporz dkowanej (i,j). A zatem, w ogólnym przypadku obraz naszej funkcji w postaci macierzy b dzie przedstawiał si nast puj co: ⎛ a11 … a1q ⎞⎟ ⎜⎜ ⎟⎟ A = ⎜⎜⎜ ⎟⎟⎟ ⎜⎜ ⎟ a pq ⎠⎟ ⎜⎝a p1 [4] Funkcj zobrazowan w sposób przedstawiony powy ej b dziemy nazywali macierz . Macierze oznacza si wielkimi pogrubionymi literami, jej elementy oznaczane s literami małymi z indeksem, wskazuj cym na przeci ciu którego wiersza i której kolumny element tej macierzy si znajduje. Elementy macierzy przedstawia si w nawiasach. Liczba wierszy i liczba kolumn macierzy okre la jej wymiary. O zdefiniowanej powy ej macierzy A mówimy zatem, e jest macierz o wymiarach „p na q”. Rozpatrywan tu ogólnie macierz A mo na zapisać równie w sposób równowa ny do zapisu [4] jako: A = [aij ] p×q [5] Zapis powy szy oznacza, macierz A o wymiarach p na q, której elementami s liczby aij. Wymiary macierzy oznacza si w tym zapisie za pomoc znaku iloczynu kartezjańskiego × w dolnym indeksie przy nawiasie zamykaWarto w tym miejscu doprecyzować, że w przypadku f argumentami tej funkcji będą wszystkie pary uporządkowane i,j należące do iloczynu kartezjańskiego zbiorów P i Q. Natomiast jej wartościami będą wszystkie elementy zbioru K. 1 Skalowanie druk.indb 117 2009-12-09 14:25:06 118 Mariusz Grzęda j cym macierz. W niniejszym opracowaniu b dziemy na przemian u ywać obydwu wymienionych sposobów zapisu macierzy. W celu zobrazowania tego, co zostało do tej pory wprowadzone, posłu my si prostym przykładem szkolnym. Załó my, e mamy grup 5 uczniów, którzy w semestrze zimowym pisali 3 sprawdziany z ró nych działów matematyki. Ka dy uczeń otrzymał z ka dego sprawdzianu pewn liczb punktów, która została zapisana w dzienniku. Poka emy teraz, e reprezentacja uczniowskich wyników w dzienniku szkolnym jest w istocie funkcj tworz c macierz. Niech zbiór P1 oznacza numer ucznia na li cie w dzienniku. Natomiast zbiór Q1 b dzie oznaczał numer sprawdzianu z matematyki w danym semestrze. Zbiory te b d składały si zatem z nast puj cych elementów: P1 = {1, 2,3, 4,5} [6] Q1 = {1, 2,3} [7] Aby zaprezentować oceny uczniów w postaci macierzy nale y wyznaczyć iloczyn kartezjański zbiorów P1 i Q1: ⎪⎧⎪ (1,1)(1, 2)(1,3)( 2,1)( 2, 2)( 2,3) ⎪⎫⎪ ⎪ ⎪ P1 ×Q1 = ⎪⎨(3,1)(3, 2)(3,3)( 4,1)( 4, 2)( 4,3)⎪⎬ ⎪⎪ ⎪⎪ ⎪⎩⎪ ⎪⎭⎪ (5,1)(5, 2)(5,3) [8] W powy szym zbiorze par liczb uporz dkowanych tworz cych iloczyn P ×Q pierwsza liczba w parze oznacza numer ucznia na li cie w dzienniku, druga za reprezentuje numer sprawdzianu. Aby zaprezentować wyniki sprawdzianów w tej grupie uczniów w formie macierzy nale y zdefiniować funkcj (nazwijmy j w tym przypadku f1 ), która ka dej parze ze zbioru P1 ×Q1 przypisze pewn liczb , oznaczaj c w tym przypadku liczb punktów, któr dany uczeń uzyskał z danego sprawdzianu. Zbiorem argumentów funkcji f1 b dzie iloczyn kartezjański zbiorów P1 i Q1. Natomiast zbiorem warto ci naszej funkcji b dzie zbiór K1, który stanowi zbiór wyników uzyskanych przez tych uczniów we wszystkich sprawdzianach. Funkcj f1 zapiszemy zatem: f1 : P1 ×Q1 → K1 Skalowanie druk.indb 118 [9] 2009-12-09 14:25:07 Elementarne wiadomości z algebry macierzy 119 Funkcja ka demu uczniowi i dla ka dego sprawdzianu (tj. ka dej parze ze zbioru P1 ×Q1 ) przyporz dkowuje ocen – liczb ze zbioru K1 . Załó my, e pierwszy uczeń z naszej listy z pierwszego sprawdzianu otrzymał 17 punktów. Wówczas posługuj c si terminologi wprowadzon powy ej mo emy ten fakt zapisać w nast puj cy sposób: f1 ( (1,1)) = 17 . Zapis ten oznacza, e nasza funkcja f1 przypisuje warto ć 17 parze składaj cej si z pierwszego ucznia i pierwszego sprawdzianu. Je eli wynik tego samego ucznia w przypadku drugiego sprawdzianu wynosił 0 punktów, to wówczas posługuj c si j zykiem funkcji zapiszemy to jako f1 ( (1, 2)) = 0 . Załó my teraz, e wyniki wszystkich uczniów z naszego przykładu we wszystkich przeprowadzonych sprawdzianach reprezentuj nast puj ce warto ci funkcji f1: f1 ( (1,1)) = 17 f1 ( (1, 2)) = 0 f1 ( (1,3)) = 9 f1 ( (2,1)) = 15 f1 ( (2, 2)) = 17 f1 ( (2,3)) = 17 f1 ( (3,1)) = 10 f1 ( (3, 2)) = 22 [10] f1 ( (3,3)) = 12 f1 ( (4,1)) = 7 f1 ( (4, 2)) = 19 f1 ( (4,3)) = 22 f1 ( (5,1)) = 23 f1 ( (5, 2)) = 1 f1 ( (5,3)) = 21 Funkcj f1 mo emy przedstawić znacznie pro ciej w postaci macierzy, w której ka dy wiersz odpowiada pojedynczemu uczniowi, a ka da kolumna pojedynczemu sprawdzianowi. Oznacza to, e przykładowo na przeci ciu 3 wiersza i 2 kolumny macierzy b dzie znajdował si wynik oceny trzeciego ucznia z naszej listy w drugim sprawdzianie. Oznaczmy t macierz jako A1. B dzie ona wygl dała nast puj co: Skalowanie druk.indb 119 2009-12-09 14:25:07 120 Mariusz Grzęda ⎛17 0 9 ⎞⎟ ⎜⎜ ⎟ ⎜⎜15 17 17 ⎟⎟ ⎟⎟ ⎜ A1 = ⎜⎜⎜10 22 12 ⎟⎟⎟ ⎟⎟ ⎜⎜ ⎜⎜ 7 19 22⎟⎟ ⎟⎟ ⎜⎜ ⎝23 1 21⎠⎟ [11] Wybrane macierze i ich własno ci W rachunku macierzowym bardzo cz sto wyst puj odwołania do pewnej grupy specyficznych macierzy. Poni ej definiujemy najwa niejsze z nich. Macierz kwadratowa Macierz kwadratowa ma tyle samo wierszy co kolumn. A = [aij ] p×q jest macierz kwadratow , je li p = q . W stosunku do macierzy kwadratowej A cz sto u ywa si równie okre lenia „macierz kwadratowa A stopnia p ”. Ogólny zapis takiej macierzy A zamieszczono poni ej: ⎛ a11 ⎜⎜ ⎜⎜ a21 A = ⎜⎜ ⎜⎜ ⎜⎜ ⎜⎝a p1 a12 a22 ap2 a1 p ⎞⎟ ⎟ a2 p ⎟⎟⎟ ⎟⎟ ⎟⎟ ⎟ a pp ⎠⎟⎟ [12] Poni sza macierz X jest macierz kwadratow : ⎛0, 2 2 −4⎞⎟ ⎜⎜ ⎟⎟ ⎜⎜ ⎟⎟ π ⎟ X = ⎜⎜ 1 0 ⎜⎜ 2 ⎟⎟⎟ ⎟ ⎜⎜ ⎜⎝ 2 3 9 ⎠⎟⎟ [13] Główn przek tn macierzy kwadratowej A = [aij ] p×q stanowi te jej elementy aij , dla których i = j . Zatem elementy (a11 , a22 ,…, a pp ) stanowi przek tn macierzy powy szej macierzy A , za przek tn macierzy X s Skalowanie druk.indb 120 2009-12-09 14:25:08 Elementarne wiadomości z algebry macierzy 121 liczby (0, 2; 0; 9) . Główna przek tna macierzy nazywana jest równie diagonaln tej macierzy. Poni ej zamieszczamy przykład macierzy kwadratowej X trzeciego stopnia, której elementy znajduj ce si na głównej przek tnej zostały wyró nione pogrubionym drukiem. ⎛0, 2 2 −4⎞⎟ ⎜⎜ ⎟⎟ ⎜⎜ ⎟⎟ π ⎟ X = ⎜⎜ 1 0 ⎜⎜ 2 ⎟⎟⎟ ⎟ ⎜⎜ ⎜⎝ 2 3 9 ⎠⎟⎟ [14] Macierz zerowa Macierz zerow nazywamy tak macierz kwadratow , której wszystkie elementy s równe zeru. Macierz zerow b dziemy oznaczać wielk liter O . O macierzy O = [oij ] p× p mówimy, e jest macierz zerow wtedy, gdy oij = 0 dla wszystkich i, j . Przykład macierzy zerowej stopnia 4 zamieszczamy poni ej: ⎛0 0 0 0⎞⎟ ⎜⎜ ⎟ ⎜⎜0 0 0 0⎟⎟ ⎟⎟ O = ⎜⎜ [15] ⎜⎜0 0 0 0⎟⎟⎟ ⎟ ⎜⎜ ⎜⎝0 0 0 0⎠⎟⎟ Macierz jednostkowa W algebrze liniowej szczególnie wa nym rodzajem macierzy kwadratowej jest macierz jednostkowa, oznaczana wielk liter I . Macierz jednostkowa na głównej przek tnej ma warto ci 1, a poza ni warto ci 0. Poni sza kwadratowa macierz stopnia 5 jest macierz jednostkow . ⎛1 ⎜⎜ ⎜⎜0 ⎜ I = ⎜⎜⎜0 ⎜⎜ ⎜⎜0 ⎜⎜ ⎝0 Skalowanie druk.indb 121 0 1 0 0 0 0 0 1 0 0 0 0 0 1 0 0⎞⎟ ⎟ 0⎟⎟⎟ ⎟ 0⎟⎟⎟ ⎟ 0⎟⎟⎟ ⎟⎟ 1⎠⎟ [16] 2009-12-09 14:25:08 122 Mariusz Grzęda Macierz diagonalna Kolejny wa ny rodzaj macierzy to macierz diagonalna. Macierz taka charakteryzuje si tym, e wszystkie jej elementy le ce poza główn przek tn s zerami. A zatem macierz kwadratowa A = [aij ] p× p jest macierz diagonaln , gdy aij = 0 dla wszystkich aij , dla których i ≠ j . Poni ej zamieszczamy przykład macierzy diagonalnej Y . ⎛0, 2 0 0⎞⎟ ⎜⎜ ⎟ Y = ⎜⎜ 0 0 0⎟⎟⎟ ⎜⎜ ⎟⎟ ⎝⎜ 0 0 9⎠⎟ [17] Macierz symetryczna W macierzy symetrycznej diagonalna jest jej osi symetrii i dzieli macierz na dwie cz ci – doln i górn , b d ce swoimi lustrzanymi odbiciami. Zatem macierz kwadratowa A = [aij ] p× p jest macierz symetryczn , je li aij = a ji dla wszystkich i, j . Poni sza macierz Z jest symetryczna. ⎛0, 2 1 ⎜⎜ Z = ⎜⎜⎜ 1 0 ⎜⎜ ⎜⎝ 2 3 2 ⎞⎟ ⎟⎟ 3 ⎟⎟⎟ ⎟⎟ 9 ⎠⎟ [18] Operacje na macierzach Macierze maj własny system algebry, który definiuje zasady, wedle jakich uprawnione jest dokonywanie na nich poszczególnych operacji. Poni ej przedstawiamy przegl d podstawowych działań, do których wyst puj odwołania w dalszej cz ci tekstu. Dodawanie macierzy Na pocz tku zajmiemy si dodawaniem macierzy. Operacja dodawania w przypadku macierzy wymaga spełnienia wst pnego warunku. Otó aby móc dodać do siebie dwie macierze, musz mieć one takie same wymiary Skalowanie druk.indb 122 2009-12-09 14:25:09 Elementarne wiadomości z algebry macierzy 123 (czyli, tak sam liczb wierszy i kolumn). Załó my zatem, e mamy dwie nast puj ce macierze A i B : A = [aij ] p× p B = ⎡⎣⎢bij ⎤⎦⎥ m×n dla dla i = 1,..., p oraz j = 1,..., q i = 1,…, m oraz j = 1,…, n [19] Aby mo liwe było dodanie do siebie macierzy A i B , musi być spełniony warunek: p = m ∧q = n . Gdy jest on spełniony, mo emy zapisać, e sum macierzy A i B b dzie macierz C o tych samych wymiarach: C= A+B [20] Ka dy element macierzy C b dzie sum odpowiadaj cych mu elementów macierzy A i B . Zatem wynik dodawania macierzy A i B jest macierz o nast puj cej postaci: C = ⎡⎢⎣ cij ⎤⎥⎦ p×q gdzie cij = aij + bij dla i = 1,..., p oraz j = 1,..., q [21] Dla przykładu dodajmy do siebie macierze A1 oraz B1 : ⎛2 8 5⎞⎟ ⎟ A1 = ⎜⎜ ⎜⎝0 7 4⎠⎟⎟ ⎛1 −1 4⎞⎟ ⎟ B1 = ⎜⎜ ⎜⎝4 10 2⎠⎟⎟ [22] Ich suma b dzie macierz C1 : ⎛ 2 + 1 8 + (−1) 5 + 4⎞⎟ ⎛3 7 9⎞⎟ ⎟=⎜ ⎟ C1 = A1 + B1 = ⎜⎜ ⎜⎝0 + 4 7 + 10 4 + 2⎠⎟⎟ ⎝⎜⎜4 17 6⎠⎟⎟ [23] Załó my teraz, e mamy dane dwie inne macierze D1 oraz E1 : ⎛1 8 −4⎞⎟ ⎟ D1 = ⎜⎜ ⎜⎝3 3 0 ⎠⎟⎟ ⎛2 8⎞⎟ ⎟ E1 = ⎜⎜ ⎜⎝1 0⎠⎟⎟ [24] Ich suma nie istnieje, poniewa macierze te maj ró ne wymiary, zatem sumy D1 i E1 nie da si wyznaczyć. Operacja dodawania macierzy jest przemienna i ł czna: Skalowanie druk.indb 123 2009-12-09 14:25:09 124 Mariusz Grzęda 1. Przemienno ć: A+ B = B + A [25] ( A + B) + C = A + ( B + C ) [26] 2. Ł czno ć: Odejmowanie macierzy Odejmowanie jednej macierzy od drugiej jest mo liwe równie , gdy obie maj identyczny wymiar. Je li macierz C jest ró nic macierzy A i B , to zapisujemy j jako: C = A -B [27] Warto ci macierzy C s ró nic odpowiednich warto ci z A i B : C = ⎡⎢⎣ cij ⎤⎦⎥ gdzie cij = aij − bij dla i = 1,..., p oraz j = 1,..., q [28] p×q Dla przykładu odejmijmy macierz B1 od macierzy A1 z zapisu [22]. Niech wynikiem tego odejmowania b dzie macierz C1 : ⎛ 2 −1 8 − (−1) 5 − 4⎞⎟ ⎛ 1 9 1⎞⎟ ⎟ = ⎜⎜ ⎟ C1 = A1 − B1 = ⎜⎜ ⎟ ⎜⎝0 − 4 7 −10 4 − 2⎠⎟ ⎝⎜−4 −3 2⎠⎟⎟ [29] Natomiast ró nica macierzy D1 i E1 z zapisu [24] nie istnieje, poniewa maj one ró ne wymiary. Macierze mo na równie mno yć. Wyró niamy dwa typy operacji mnoenia macierzy: mno enie przez liczb , nazywan wtedy skalarem, oraz mnoenie macierzy przez inn macierz. Mno enie macierzy przez skalar Operacja ta polega na przemno eniu ka dego elementu macierzy przez t liczb . Załó my, e macierz A = [aij ] p× p chcemy przemno yć przez pewn liczb rzeczywist β ∈ R . Wynikiem iloczynu tych dwóch elementów b - Skalowanie druk.indb 124 2009-12-09 14:25:10 Elementarne wiadomości z algebry macierzy 125 dzie macierz B = ⎡⎢⎣bij ⎤⎥⎦ p× p o identycznych wymiarach jak macierz A . Mno enie A przez skalar β zapisujemy w nast puj cy sposób: B = βA [30] Ka dy element macierzy B b dzie wynikiem mno enia liczby β oraz odpowiadaj cego mu elementu macierzy A . Macierz B ma zatem nast puj ce warto ci: B = ⎡⎢⎣bij ⎤⎥⎦ p× p gdzie bij = β aij dla i, j = 1,..., p [31] Dla przykładu pomnó my poni sz macierz A1 przez liczb β1 równ 1,2. ⎛17 0 9 ⎞⎟ ⎜⎜ ⎟ ⎜⎜15 17 17 ⎟⎟ ⎟⎟ ⎜ A1 = ⎜⎜⎜10 22 12 ⎟⎟⎟ ⎟⎟ ⎜⎜ ⎜⎜ 7 19 22⎟⎟ ⎟⎟ ⎜⎜ ⎝23 1 21⎠⎟ β1 = 1, 2 [32] Wynik mno enia macierzy A1 i liczby β1 b dzie nast puj cy: ⎛ ⎞ ⎛ ⎜⎜17 0 9 ⎟⎟ ⎜⎜1, 2 ⋅17 1, 2 ⋅ 0 ⎟ ⎜⎜⎜15 17 17 ⎟⎟ ⎜⎜⎜1, 2 ⋅15 1, 2 ⋅17 ⎟ B1 = β1A1 = 1, 2 ⋅ ⎜⎜⎜10 22 12 ⎟⎟⎟ = ⎜⎜⎜1, 2 ⋅10 1, 2 ⋅ 22 ⎟⎟ ⎜ ⎜ ⎜⎜⎜ 7 19 22⎟⎟ ⎜⎜⎜ 1, 2 ⋅ 7 1, 2 ⋅19 ⎟⎟ ⎜ ⎜⎜ ⎝23 1 21⎠⎟ ⎝⎜1, 2 ⋅ 23 1, 2 ⋅1 1, 2 ⋅ 9 ⎞⎟ ⎟ 1, 2 ⋅17 ⎟⎟⎟ ⎟ 1, 2 ⋅12 ⎟⎟⎟ = ⎟ 1, 2 ⋅ 22⎟⎟⎟ ⎟⎟ 1, 2 ⋅ 21⎠⎟ ⎛20, 4 0 10,8 ⎞⎟ ⎜⎜ ⎟ ⎜⎜ 18 20, 4 20, 4⎟⎟ ⎟⎟ ⎜ = ⎜⎜⎜ 12 26, 4 14, 4 ⎟⎟⎟ ⎟⎟ ⎜⎜ ⎜⎜ 8, 4 22,8 26, 4⎟⎟ ⎟⎟ ⎜⎜ ⎝27, 6 1, 2 25, 2⎠⎟ [33] Operacja mno enia przez skalar jest rozdzielna wzgl dem dodawania macierzy: Skalowanie druk.indb 125 2009-12-09 14:25:10 126 Mariusz Grzęda β ( A + B) = β A + β B [34] Mno enie macierzy przez macierz Innym rodzajem iloczynu macierzy jest mno enie macierzy przez inn macierz. Aby było mo liwe, musi zachodzić pomi dzy nimi pewien szczególny rodzaj odpowiednio ci (korespondencji). Polega on tym, e liczba kolumn pierwszej macierzy musi być równa liczbie wierszy drugiej macierzy. Załó my wi c, e mamy dwie macierze: A = [aij ] p×q oraz B = ⎡⎢⎣bij ⎤⎥⎦ : m×n ⎛ a11 a12 ⎜⎜ ⎜⎜ a21 a22 A = ⎜⎜ ⎜⎜ ⎜⎜ ⎜⎝a p1 a p 2 a1q ⎞⎟ ⎟ a2 q ⎟⎟⎟ ⎟⎟ ⎟⎟ ⎟ a pq ⎠⎟⎟ ⎛ b11 b12 ⎜⎜ ⎜⎜ b21 b22 B = ⎜⎜ ⎜⎜ ⎜⎜ ⎝⎜bm1 bp 2 b1n ⎞⎟ ⎟ b2 n ⎟⎟⎟ ⎟⎟ ⎟⎟ ⎟ bmn ⎠⎟⎟ [35] Operacja mno enia macierzy A = [aij ] p×q i B = ⎡⎣⎢bij ⎤⎦⎥ przez siebie jest m×n mo liwa jedynie w takiej sytuacji, gdy spełniaj one warunek, e: q=m [36] Je li powy szy warunek jest spełniony, to wówczas macierze z zapisu [35] b dzie mo na zapisać jako: ⎛ a11 a12 ⎜⎜ ⎜⎜ a21 a22 A = ⎜⎜ ⎜⎜ ⎜⎜ ⎜⎝a p1 a p 2 a1q ⎞⎟ ⎟ a2 q ⎟⎟⎟ ⎟⎟ ⎟⎟ ⎟ a pq ⎠⎟⎟ ⎛b11 b12 ⎜⎜ ⎜⎜b21 b22 B = ⎜⎜ ⎜⎜ ⎜⎜ ⎝⎜bq1 bq 2 Wynikiem iloczynu macierzy A = [aij ] p×q i B = ⎡⎣⎢bij ⎤⎦⎥ q×n C = ⎡⎣⎢ cij ⎤⎦⎥ : b1n ⎞⎟ ⎟ b2 n ⎟⎟⎟ ⎟⎟ ⎟⎟ ⎟ bqn ⎠⎟⎟ [37] jest macierz p×n C = AB [38] której ka dy element cij jest sum iloczynów kolejnych elementów i-tego wiersza macierzy A = [aij ] p×q oraz j-tej kolumny macierzy B = ⎡⎢⎣bij ⎤⎥⎦ : q C = [cij ] p×n Skalowanie druk.indb 126 gdzie cij = ∑aik bkj = ai1b1 j + ai 2b2 j + q×n + aiq bqj [39] k =1 2009-12-09 14:25:11 Elementarne wiadomości z algebry macierzy 127 lub w sposób równowa ny: ⎛c ⎜⎜ ⎜⎜ c C =⎜ ⎜⎜ ⎜⎜ ⎜⎝c 11 = a11b11 + a12 b21 + + a1 q bq 1 c12 = a11b12 + a12 b22 + + a1 q bq 2 c1 n = a11b1 n + a12 b2 n + + a1 q bqn 21 = a21b11 + a22 b21 + + a2 q bq 1 c22 = a21b12 + a22 b22 + + a2 q bq 2 c2 n = a21b1 n + a22 b2 n + + a2 q bqn p1 = a p 1b11 + a22 b21 + + a2 q bq 1 c p 2 = a p 1b11 + a p 2 b21 + + a pq bq 2 c pn = a p 1b1 n + a p 2 b2 n + + a pq bqn ⎞⎟ ⎟⎟⎟ ⎟⎟ ⎟⎟ ⎟⎟ ⎟⎠ [40] W odró nieniu od zwykłego mno enia pojedynczych liczb iloczyn macierzy nie jest przemienny. Mo emy zapisać ten fakt w nast puj cy sposób: AB ≠ BA [41] Jako przykład znajd my iloczyn macierzy F oraz G : ⎛1 5⎞⎟ ⎜⎜ ⎛7 9 4⎞⎟ ⎟ ⎟⎟ G = ⎜⎜3 2⎟⎟⎟ F = ⎜⎜ ⎜⎜ ⎜⎝2 −1 1⎠⎟ ⎟ ⎜⎝2 4⎠⎟⎟ [42] Przed przyst pieniem do operacji mno enia macierzy F przez G sprawd my, czy spełniony jest warunek jego wykonalno ci przedstawiony w zapisie [36], a zatem czy zachodzi korespondencja wymiarów w obydwu macierzach? Macierz F jest macierz o wymiarach 2×3 . Macierz G jest macierz o wymiarach 3× 2 , zatem iloczyn FG daje si wyznaczyć. Iloczyn FG jest macierz o wymiarach 2× 2 : ⎛42 69⎞⎟ ⎟ FG = ⎜⎜ ⎜⎝ 1 12 ⎠⎟⎟ [43] A teraz, aby si przekonać o prawidłowo ci [41] sprawd my, jaki jest wynik iloczynu GF . Warunek wst pny [36] tego iloczynu równie w tym przypadku jest spełniony (liczba kolumn macierzy G i liczba wierszy macierzy F s sobie równe). Wykonuj c mno enie GF dostajemy macierz o wymiarach 3×3 : ⎛17 4 9 ⎞⎟ ⎜⎜ ⎟ GF = ⎜⎜ 25 25 14⎟⎟⎟ ⎜⎜ ⎟⎟ ⎝⎜22 14 12⎠⎟ Skalowanie druk.indb 127 [44] 2009-12-09 14:25:12 128 Mariusz Grzęda Powy szy przykład potwierdza, e mno enie macierzy nie jest operacj przemienn . Mno enie macierzy jest natomiast ł czne (równie wobec mno enia przez skalar) oraz jednostronnie rozdzielne wzgl dem dodawania: 1. Ł czno ć: ( AB)C = A(BC) [45] β ( AB) = A(β B) [46] 2. Rozdzielno ć wzgl dem dodawania: A(B + C) = AB + AC [47] (D + E)F = DF + EF [48] Dla dowolnej macierzy A = ⎡⎣⎢ aij ⎤⎦⎥ oraz macierzy jednostkowej stopnia q p×q I q×q zachodz ponadto nast puj ce prawidłowo ci: AI = IA = A [49] Znaj c operacj mno enia macierzy mo na równie stosować pokrewn operacj pot gowania macierzy. Pot gowanie macierzy kwadratowej A = ⎡⎣⎢ aij ⎤⎦⎥ definiuje si w nast puj cy sposób: p× p A 0 = I p× p A n = A n−1A n ∈ Z powy szej definicji wynika, e A1 = A; [50] [51] + A 2 = AA; A 3 = AAA itd. W przypadku pot gowania macierzy mamy do czynienia z nast puj cymi własno ciami tej operacji: Skalowanie druk.indb 128 A n+m = A n A m [52] ( A n ) m = A nm [53] 2009-12-09 14:25:12 129 Elementarne wiadomości z algebry macierzy Transpozycja macierzy Operacja transponowania macierzy polega na zamianie jej wierszy w kolumny (lub odwrotnie). Oznacza to, e elementy składaj ce si na pierwszy wiersz macierzy pierwotnej tworz pierwsz kolumn macierzy transponowanej. Drugi wiersz przechodzi w drug kolumn itd. Transpozycj macierzy A oznacza si w nast puj cy sposób A ' lub A T . Formalnie macierz transponowan definiuje si jako: A = ⎡⎢⎣ aij ⎤⎥⎦ ⎛ a11 a12 ⎜⎜ ⎜⎜ a21 a22 A = ⎜⎜ ⎜⎜ ⎜⎜ ⎝⎜a p1 a p 2 A ' = ⎡⎢⎣ a ji ⎤⎥⎦ p×q a1q ⎞⎟ ⎟ a2 q ⎟⎟⎟ ⎟⎟ ⎟⎟ ⎟ a pq ⎠⎟⎟ [54] q× p ⎛ a11 ⎜⎜ ⎜⎜ a12 A' = ⎜⎜ ⎜⎜ ⎜⎜ ⎝⎜a1q a21 a22 a2 q a p1 ⎞⎟ ⎟ a p 2 ⎟⎟⎟ ⎟⎟ ⎟⎟ ⎟ aqn ⎠⎟⎟ Dla przykładu dokonajmy transpozycji macierzy H : ⎛1 3⎞⎟ ⎜⎜ ⎟ H = ⎜⎜2 8⎟⎟⎟ ⎜⎜ ⎟ ⎜⎝0 4⎠⎟⎟ ⎛1 2 0⎞⎟ ⎟ H ' = ⎜⎜ ⎜⎝3 8 4⎠⎟⎟ [55] Operacja transpozycji posiada kilka wa nych własno ci: 1. Transponuj c macierz wcze niej transponowan uzyskujemy macierz pierwotn : ( A ') ' = A [56] 2. Je li macierz A = [aij ] p×q jest macierz symetryczn , czyli je li jest macierz kwadratow ( p = q ) oraz aij = a ji dla wszystkich i,j, to wówczas operacja transpozycji nie zmienia tej macierzy. A zatem transpozycja macierzy symetrycznej jest równa macierzy transponowanej: A'= A [57] Innymi słowy, ka da macierz A , która spełnia powy szy warunek jest macierz symetryczn . Skalowanie druk.indb 129 2009-12-09 14:25:13 130 Mariusz Grzęda 3. Transpozycja sumy macierzy A = [aij ] p×q i B = [bij ] p×q jest równa sumie transponowanych macierzy A = [aij ] p×q i B = [bij ] p×q : ( A + B) ' = A' + B' [58] 4. Transpozycja iloczynu macierzy A = [aij ] p×q i B = [bij ]q×r jest równa iloczynowi transponowanych macierzy B = [bij ]q×r i A = [aij ] p×q : ( AB) ' = B'A' [59] Wybrane charakterystyki liczbowe macierzy Macierze kwadratowe maj swoje charakterystyki liczbowe. Spo ród nich bardzo wa n rol w wielu analizach pełni lad macierzy oraz wyznacznik. lad macierzy ladem macierzy kwadratowej jest suma wszystkich elementów znajduj cych si na jej głównej przek tnej. lad kwadratowej macierzy A = ⎡⎣⎢ aij ⎤⎦⎥ p× p jest oznaczany jako trA . Mo emy zatem zapisać, e ladem macierzy A = ⎡⎢⎣ aij ⎤⎥⎦ jest: p× p p trA = ∑aii i =1 dla i = 1,…, p [60] lad macierzy posiada kilka istotnych własno ci. Oto najwa niejsze z nich: 1. lad sumy macierzy A = [aij ] p× p i B = [bij ] p× p jest równy sumie ladów macierzy A = [aij ] p× p i B = [bij ] p× p : tr ( A + B) = trA + trB 2. [61] lad iloczynu macierzy A = [aij ] p×q i B = [bij ]q× p jest równy ladowi iloczynu macierzy B = [bij ]q× p i A = [aij ] p×q : Skalowanie druk.indb 130 2009-12-09 14:25:14 Elementarne wiadomości z algebry macierzy tr ( AB) = tr (BA) 131 [62] Uwaga: powy sza własno ć zachodzi tylko w szczególnym przypadku gdy, A = [aij ] p×q i B = [bij ]q× p . 3. lad iloczynu skalara β i kwadratowej macierzy A = [aij ] p× p jest równy iloczynowi skalara β oraz ladu macierzy A = [aij ] p× p : tr (β A) = βtrA [63] 4. Operacja transpozycji kwadratowej macierzy A = [aij ] p× p nie zmienia warto ci ladu macierzy: trA = trA' [64] Wyznacznik macierzy Wa n charakterystyk liczbow macierzy kwadratowej jest jej wyznacznik, oznaczany jako det A . Wyznacznik jest obliczany za pomoc rekurencyjnej (powtarzalnej) formuły opieraj cej si na zało eniu, e wyznacznikiem jednoelementowej macierzy A = [aij ]1×1 jest jedyny element tej macierzy. Zapiszemy najpierw to zało enie: det A = [aij ]1×1 = a11 [65] Natomiast dla macierzy kwadratowej A = [aij ] p× p stopnia wi kszego lub równego 2 ( p ≥ 2 ) wyznacznik otrzymuje si na podstawie nast puj cego wzoru: det A = a i1 (−1)i+1 det A i1 + a i2 (−1)i+2 det A i2 + + a ip (−1)i+ p det A ip [66] dla dowolnego i ∈ {1,…, p} Powy szy wzór oznacza, e aby obliczyć wyznacznik macierzy A = [aij ] p× p nale y wybrać pewien wiersz2 tej macierzy (od 1 do p) i doko2 Istnieje równie analogiczna formuła dla wybranej kolumny, prowadz ca do tego samego wyniku. Jednak w tym tek cie bez straty ogólno ci rozwa ań koncentrujemy si tylko na rozwini ciu wierszowym. Skalowanie druk.indb 131 2009-12-09 14:25:14 132 Mariusz Grzęda nać operacji sumowania wyników iloczynów. W ka dym iloczynie wyst puj dwa składniki: po pierwsze aij , czyli element macierzy, dla której obliczany jest wyznacznik, a po drugie tak zwane dopełnienie algebraiczne elementu aij macierzy A . Dopełnieniem algebraicznym elementu aij jest przemno ony przez warto ć (−1)i+ j wyznacznik macierzy A ij stopnia p −1 , powstałej przez wykre lenie z macierzy A i-tego wiersza oraz j-tej kolumny. Dopełnienie elementu aij macierzy A = [aij ] p× p oznacza si , przez Dij i zapisuje jako: Dij = (−1)i+ j det A ij [67] Jak widać z powy szych wzorów, obliczanie wyznacznika ma charakter sekwencyjny. Według powy szej definicji, obliczenia kolejnych dopełnień algebraicznych trwaj a do momentu, gdy macierz A ij b dzie ju macierz jednoelementow i zgodnie z zało eniem [65] we wzorze [67] w miejscu det A ij b dzie mo na podstawić ju okre lon warto ć liczbow . Wyznacznik macierzy A ij powstałej przez wykre lenie z macierzy A i-tego wiersza oraz j-tej kolumny nazywa si minorem macierzy A odpowiadaj cym elementowi aij . W zale no ci od warto ci wyznacznika wyró niamy dwa typy macierzy kwadratowych, macierze osobliwe i nieosobliwe. Macierz A = [aij ] p× p jest macierz osobliw , gdy det A = 0 . W przeciwnym wypadku, gdy det A = 0 macierz ta jest macierz nieosobliw . Dla przykładu obliczmy zgodnie z podan wy ej definicj [66] wyznacznik nast puj cej macierzy K : ⎛1 4⎞⎟ ⎟ K = ⎜⎜ ⎜⎝2 5⎠⎟⎟ [68] Zastosujemy wzór [66] do pierwszego wiersza (i=1): detK = 1(−1) 2 det [5] + 4(−1)3 det[2] [69] Odwołuj c si do zało enia [65] wiemy, e det[5]=5 oraz det[2]=2. A zatem wyznacznikiem macierzy K b dzie: detK = 1⋅ 5 − 4 ⋅ 2 = 1 Skalowanie druk.indb 132 [70] 2009-12-09 14:25:15 Elementarne wiadomości z algebry macierzy 133 Nietrudno w takim wypadku zauwa yć, e obliczenie wyznacznika w przypadku macierzy K b d cej macierz drugiego stopnia sprowadziło si do ró nicy pomi dzy iloczynem elementów tej macierzy poło onych na jej głównej przek tnej a iloczynem jej pozostałych dwóch elementów (le cych na tak zwanej przek tnej bocznej). W ogólnym przypadku mo na wi c zapisać, e wyznacznik macierzy A = ⎡⎢⎣ aij ⎤⎥⎦ drugiego stopnia b dzie dany 2×2 jako: ⎛a a12 ⎞⎟ ⎟ det A = a11a22 − a12 a21 A = ⎜⎜ 11 [71] ⎜⎝a21 a22 ⎠⎟⎟ Obliczmy teraz wyznacznik macierzy L : ⎛1 4 2⎞⎟ ⎜⎜ ⎟ L = ⎜⎜2 3 4⎟⎟⎟ ⎜⎜ ⎟⎟ ⎝⎜2 1 2⎠⎟ [72] Ponownie stosujemy wzór [66]. Wybieramy tym razem drugi wiersz (i=2), do którego b dziemy stosować podany wzór na wyznacznik: ⎛4 2⎞⎟ ⎛1 2⎞⎟ ⎛1 4⎞⎟ ⎟⎟ + 3(−1) 4 det ⎜⎜ ⎟⎟ + 4(−1)5 det ⎜⎜ ⎟ det L = 2(−1)3 det ⎜⎜ ⎜⎝1 2⎠⎟ ⎝⎜2 2⎠⎟ ⎝⎜2 1⎠⎟⎟ [73] Odwołuj c si do wzoru na wyznacznik macierzy drugiego stopnia moemy ju zapisać, e poszukiwany wyznacznik macierzy L b dzie wynosił: det L = −2 (4 ⋅ 2 − 2 ⋅1) + 3(1⋅ 2 − 2 ⋅ 2)− 4 (1⋅1− 4 ⋅ 2) = 10 [74] Zarówno macierz K , jak i L stanowi przykłady macierzy nieosobliwych ( det K ≠ 0 oraz det L ≠ 0 ). Wyznacznik jest charakterystyk macierzy kwadratowej, która ma szereg własno ci i do których nawi zuje wiele metod wielowymiarowej analizy danych. Oto najwa niejsze własno ci wyznacznika, które mo na wprowadzić w odniesieniu do wprowadzonych ju terminów: 1. Je li kwadratowa macierz A = [aij ] p× p jest macierz diagonaln , to jej wyznacznik jest równy iloczynowi wszystkich elementów le cych na głównej przek tnej: Skalowanie druk.indb 133 2009-12-09 14:25:16 134 Mariusz Grzęda p det A = ∏ aij dla wszystkich i=j [75] i=1 2. Wyznacznik macierzy jednostkowej I jest równy jeden: det I = 1 [76] 3. Wyznacznik macierzy kwadratowej A = [aij ] p× p jest równy zero, je li macierz ta zawiera taki wiersz lub kolumn , którego/której wszystkie wyrazy s równe zeru: det A = 0 [77] je li istnieje takie i, e dla wszystkich j = 1,..., p : aij = 0 lub, istnieje takie j, e dla wszystkich i = 1,... p : aij = 0 4. Operacja transpozycji macierzy A = [aij ] p× p nie zmienia warto ci wyznacznika: det A = det A' [78] 5. Je li macierz A = [aij ] p× p zawiera co najmniej dwa wiersze / dwie kolumny, w których wszystkie wyrazy s identyczne, to wówczas jej wyznacznik jest równy zeru: det A = 0 [79] je li istniej takie k , l ∈ i , e dla wszystkich j = 1,..., p : akj = alj lub, k ≠l istniej takie v, w ∈ j , e dla wszystkich i = 1,..., p : aiv = aiw v≠ w Macierz odwrotna W algebrze macierzy wa n rol pełni poj cie macierzy odwrotnej. Macierze odwrotne wyznacza si tylko dla macierzy kwadratowych. Macierz odwrotn macierzy A = [aij ] p× p oznacza si przez A−1 . W przypadku macierzy odwrotnej do macierzy A zachodzi nast puj ca zale no ć: AA−1 = A−1A = I Skalowanie druk.indb 134 [80] 2009-12-09 14:25:16 Elementarne wiadomości z algebry macierzy 135 Oznacza ona, e wynikiem iloczynu danej macierzy A = [aij ] p× p i jej odwrotno ci A−1 jest macierz jednostkowa I stopnia p. Nie wszystkie macierze kwadratowe maj swoje macierze odwrotne. Innymi słowy, w przypadku niektórych macierzy wyznaczenie macierzy odwrotnej nie jest mo liwe. Macierz kwadratowa A = [aij ] p× p posiada odpowiadaj c jej macierz odwrotn A−1 tylko wtedy, je li macierz A = [aij ] p× p jest macierz nieosobliw , czyli jej wyznacznik jest ró ny od zera ( det A ≠ 0 ). W algebrze macierzy istnieje wiele procedur wyznaczania macierzy odwrotnych. Na potrzeby tego elementarnego wprowadzenia zostanie omówiona tylko jedna z takich metod, wykorzystuj ca wprowadzone powy ej poj cie dopełnienia algebraicznego (wzór: [67]). Dla macierzy A = [aij ] p× p o wyznaczniku det A ≠ 0 macierz odwrotna jest dana wzorem: 1 [81] A−1 = D' detA gdzie D = [ Dij ] p× p jest tak zwan macierz dopełnie algebraicznych – jej elementami s dopełnienia algebraiczne wyj ciowej macierzy A = [aij ] p× p . Dla przykładu wyznaczymy macierz odwrotn nast puj cej macierzy M : ⎛1 4⎞⎟ ⎟ M = ⎜⎜ ⎜⎝2 0⎠⎟⎟ [82] Chc c wyznaczyć macierz M−1 najpierw obliczamy wyznacznik macierzy M . Zgodnie ze wzorem [71] obliczamy: det M = 1⋅ 0 − 4 ⋅ 2 = −8 [83] A zatem macierz M nie jest macierz osobliw ( det M ≠ 0 ) i wiemy ju , e istnieje dla niej macierz odwrotna M−1 . Teraz mo na zaj ć si wyznaczeniem macierzy dopełnień algebraicznych D = [ Dij ] dla wszystkich elementów macierzy M zgodnie ze wzorem [67]. Przypomnijmy, e dopełnieniem algebraicznym elementu le cego na przeci ciu i-tego wiersza i j-tej kolumny macierzy M , b dzie iloczyn wyznacznika macierzy powstałej przez skrelenie tego i-tego wiersza i j-tej kolumny macierzy M (czyli minora ij) oraz liczby -1 podniesionej do pot gi, b d cej sum liczby oznaczaj cej numery odpowiednio i-tego wiersza i j-tej kolumny. Elementy macierzy D = [ Dij ] b d miały zatem nast puj ce warto ci: Skalowanie druk.indb 135 2009-12-09 14:25:17 136 Mariusz Grzęda 1+1 D11 = (−1) det M 11 = 1 det [0] = 0 D12 = (−1)1+2 det M 12 = −1 det[2] = −2 2+1 D21 = (−1) det M 21 = −1det[4] = −4 [84] D22 = (−1) 2+2 det M 22 = 1 det[1] = 1 Macierz D = [ Dij ] dopełnień algebraicznych macierzy M b dzie miała wi c nast puj c postać: ⎛ 0 −2⎞⎟ ⎟ D = ⎜⎜ [85] ⎜⎝−4 1 ⎠⎟⎟ Zgodnie ze wzorem [81] powinni my teraz dokonać transpozycji macierzy D: ⎛ 0 −4⎞⎟ ⎟ D ' = ⎜⎜ [86] ⎜⎝−2 1 ⎠⎟⎟ W tym momencie mamy ju wszystkie elementy potrzebne do wyznaczenia odwrotno ci macierzy M . Podstawiamy wszystkie dane do wzoru na macierz odwrotn [81]: ⎛ ⎞ ⎜⎜ 0 1 ⎟⎟ ⎛ ⎞ 0,5 ⎞⎟ 1 1 0 −4⎟ ⎜⎜ 2 ⎟⎟⎟ ⎛⎜ 0 ⎟⎟ = ⎜ ⎟ D' = − ⎜⎜ [87] M −1 = = ⎜ 1 ⎟⎟⎟ ⎝⎜0, 25 −0,125⎠⎟⎟ detM 8 ⎜⎝−2 1 ⎠⎟ ⎜⎜ 1 − ⎟⎟ ⎜⎜ ⎝4 8⎠ Na zakończenie tego przykładu mo na sprawdzić czy rzeczywi cie uzyskana powy ej macierz M−1 spełnia warunek MM -1 = M -1M = I ⎛1 4⎞⎛ 0,5 ⎞⎟ ⎛⎜1 0⎞⎟ ⎟⎟⎜⎜ 0 ⎟= ⎟= I MM -1 = ⎜⎜ ⎟ ⎜⎝2 0⎠⎝ ⎟⎜0, 25 −0,125⎠⎟⎟ ⎝⎜⎜0 1⎠⎟⎟ [88] ⎛ 0 0,5 ⎞⎛ ⎟⎟⎜⎜1 4⎞⎟⎟ = ⎛⎜⎜1 0⎞⎟⎟ = I M -1M = ⎜⎜ ⎟⎟⎜2 0⎠⎟⎟ ⎝⎜0 1⎠⎟⎟ ⎜⎝0, 25 −0,125⎠⎝ Powy sze działania potwierdzaj , e wyznaczona macierz M−1 jest macierz odwrotn macierzy M . Skalowanie druk.indb 136 2009-12-09 14:25:18 Elementarne wiadomości z algebry macierzy 137 Wektory W statystyce wielowymiarowej poza macierzami wyst puj równie liczne odwołania do wektorów. W niniejszym wprowadzeniu przedstawiamy zatem podstawowe informacje z tego zakresu algebry liniowej. Z konieczno ci ograniczamy si do prezentacji tylko wybranych, najbardziej podstawowych własno ci wektorów oraz tylko do algebraicznej strony rozpatrywanych problemów.3 Z algebraicznego punktu widzenia wektor mo e być rozumiany jako pwyrazowy ci g: (ai ) ∈ ℜ dla i=1,…,p [89] b d cy obrazem pewnej funkcji f ze zbioru P (danego wzorem [1]) w zbiór K b d cego podzbiorem zbioru liczb rzeczywistych ( f : ⊃ P → K ⊂ R ). Wszystkie wyrazy takiego ci gu a1 ,..., a p zestawione w formie kolumny i ograniczonej nawiasami nosz nazw p-wymiarowego wektora a : ⎛a1 ⎞⎟ ⎜⎜ ⎟ ⎟ a = ⎜⎜⎜ ⎟⎟ ⎜⎜ ⎟⎟ ⎜⎝a p ⎠⎟ [90] Wektory oznacza si małymi pogrubionym literami. Pojedynczy element ai wektora a nazywany jest jego i-t współrz dn . Nietrudno zauwa yć, e wektor w powy szej postaci [90] przedstawia szczególny typ macierzy A = [aij ]p×1 . W zwi zku z tym wi kszo ć wprowadzonych powy ej operacji i poj ć dotycz cych macierzy mo na rozci gn ć na wektory. Własno ci poszczególnych operacji wymienione w omówieniu dotycz cym macierzy maj równie zastosowanie do wektorów. Oto najwa niejsze z operacji w których wykonywanie działań wektorach odbywa si na takich samych zasadach jak ma to miejsce w przypadku macierzy: 1. Wektory mo na do siebie dodawać i odejmować, je li maj ten sam wymiar. Gdy dane s nast puj ce wektory a i b : 3 Wykład elementów teorii wektorów ze szczególnym uwzgl dnieniem aspektu geometrycznego zawiera tekst Andrzeja Szarkowskiego zamieszczony w niniejszym tomie. Skalowanie druk.indb 137 2009-12-09 14:25:18 138 Mariusz Grzęda ⎛a1 ⎞⎟ ⎜⎜ ⎟ ⎟ a = ⎜⎜⎜ ⎟⎟ ⎜⎜ ⎟⎟ ⎜⎝a p ⎠⎟ ⎛b1 ⎞⎟ ⎜⎜ ⎟ ⎟ b = ⎜⎜⎜ ⎟⎟ ⎜⎜ ⎟⎟ ⎜⎝bq ⎠⎟ [91] mo na je do siebie dodać lub odj ć, gdy p=q ⎛ ⎞ ⎜⎜a1 + b1 ⎟⎟ ⎟ a + b = ⎜⎜⎜ ⎟⎟⎟ ⎜⎜ ⎟ ⎝⎜a p + bp ⎠⎟ ⎛a1 − b1 ⎞⎟ ⎜⎜ ⎟⎟ a − b = ⎜⎜⎜ ⎟⎟⎟ ⎜⎜ ⎟ ⎝⎜a p − bp ⎠⎟ [92] 2. Wektory mo na transponować: ⎛a1 ⎞⎟ ⎜⎜ ⎟ ⎟ a = ⎜⎜⎜ ⎟⎟ ⎜⎜ ⎟⎟⎟ ⎜⎝a p ⎠ a ' = (a1 ,..., a p ) [93] 3. Wektory mo na równie mno yć przez skalar: ⎛λa1 ⎞⎟ ⎜⎜ ⎟⎟ ⎟⎟ λa = ⎜⎜⎜ ⎟⎟ ⎜⎜ ⎜⎝λa p ⎠⎟ λ ∈ℜ [94] 4. Iloczyn wektorów jest uprawnionym działaniem, gdy zachodzi zgodno ć pomi dzy liczb kolumn pierwszego wektora iloczynu, a liczb wierszy drugiego. Dla wektorów a i b : ⎛a1 ⎞⎟ ⎜⎜ ⎟ ⎟ a = ⎜⎜⎜ ⎟⎟ ⎜⎜ ⎟⎟⎟ ⎜⎝a p ⎠ ⎛b1 ⎞⎟ ⎜⎜ ⎟ ⎟ b = ⎜⎜⎜ ⎟⎟ ⎜⎜ ⎟⎟⎟ ⎜⎝bq ⎠ [95] gdy p=q, wówczas mo na wykonać: ⎛b1 ⎞⎟ ⎜⎜ ⎟ p ⎟ a ' b = (a1 ,..., a p )⎜⎜⎜ ⎟⎟ = ∑ ai bi = σ ⎜⎜ ⎟⎟ i=1 ⎜⎝bp ⎠⎟ dla i=1,…p [97] Wynikiem powy szego działania b dzie pojedyncza liczba (skalar). Łatwo zauwa yć, e: a ' b = b'a Skalowanie druk.indb 138 [98] 2009-12-09 14:25:18 Elementarne wiadomości z algebry macierzy 139 Natomiast w przypadku, gdy pierwszy ze składników iloczynu jest wektorem kolumnowym, a drugi wierszowym wówczas wynikiem takiego mnoenia b dzie macierz kwadratowa stopnia p: ab ' = [cij ] p× p gdzie cij = ai b j dla i,j=1,…,p [99] Tu równie zachodzi: ab ' = ba' [100] 5. W algebrze wektorów istniej równie analogiczne do macierzy wektory specjalne: a. wektor zerowy ⎛0⎞⎟ ⎜⎜ ⎟ 0 = ⎜⎜ ⎟⎟⎟ ⎜⎜ ⎟⎟ ⎜⎝0⎠⎟ [101] ⎛1⎞⎟ ⎜⎜ ⎟ 1 = ⎜⎜ ⎟⎟⎟ ⎜⎜ ⎟⎟ ⎜⎝1⎠⎟ [102] b. wektor jedynkowy Wszystkie powy sze charakterystyki wektorów były analogiczne jak w przypadku macierzy. Teraz przejdziemy do charakterystyk operacji na wektorach, które s specyficzne tylko dla nich: Iloczyn skalarny wektorów Iloczynem skalarnym wektorów nazywa si operacja, polegaj ca na pomno eniu przez siebie wszystkich odpowiadaj cych sobie współrz dnych dwóch wektorów oraz zsumowaniu wyników tych iloczynów. Iloczyn skalarny wektorów a i b ⎛a1 ⎞⎟ ⎜⎜ ⎟ ⎟ a = ⎜⎜⎜ ⎟⎟ ⎜⎜ ⎟⎟⎟ ⎜⎝a p ⎠ Skalowanie druk.indb 139 ⎛b1 ⎞⎟ ⎜⎜ ⎟ ⎟ b = ⎜⎜⎜ ⎟⎟ ⎜⎜ ⎟⎟⎟ ⎜⎝bq ⎠ [103] 2009-12-09 14:25:19 140 Mariusz Grzęda b dzie mo liwy w sytuacji, gdy p=q. Iloczyn skalarny wektorów a i b oznacza si w nast puj cy sposób: a b lub a ⋅ b i definiuje si jako: p a b = ∑ ai bi [104] i=1 Iloczyn skalarny jest zatem to samy z operacj mno enia wektora wierszowego i kolumnowego: a b = a'b = b'a [105] Iloczyn skalarny wektorów posiada własno ć rozdzielno ci wzgl dem dodawania (podobnie jak iloczyn macierzy): a (b + c) = a b + a c [106] Uwaga. Iloczyn skalarny wektorów ma równie dwie inne własno ci ni iloczyn macierzy: 1. Iloczyn skalarny wektorów jest operacj przemienn : a b=b a [107] 2. Iloczyn skalarny nie jest natomiast operacj posiadaj c własno ć ł cznoci: (a b) c ≠ a (b c) [108] Norma wektora Wektor ma długo ć. Innym okre leniem długo ci wektora jest norma. Długo ć (norma) przykładowego wektora a jest zwykle oznaczana jako a lub mał liter h. Długo ci p-wymiarowego wektora a z zapisu [103] b dzie: a = a12 + ... + a 2p , [109] Długo ć wektora a okazuje si zatem być równa pierwiastkowi z iloczynu skalarnego a c a a = aca Skalowanie druk.indb 140 [110] 2009-12-09 14:25:19 Elementarne wiadomości z algebry macierzy 141 Normalizacja wektora Znaj c długo ć wektora a wolno dokonać jego normalizacji, o której mo na powiedzieć, e jest operacj przeskalowywania pierwotnych warto ci danego wektora w taki sposób, aby jego długo ć po transformacji zwanej normalizacj była równa jedno ci. Przyjmijmy oznaczenie, e wektor a w wersji znormalizowanej b dzie oznaczany przez â . Dla wektora a z zapisu [103] operacja normalizacji b dzie si wyra ała w nast puj cy sposób: 1 [111] aˆ = a a co oznacza, e wektor a w wersji znormalizowanej b dzie miał postać: ⎛ 1 ⎞ ⎜ a a1 ⎟ ⎜ ⎟ ⎟ ˆa = ⎜ B ⎜ ⎟ ⎜ 1 a ⎟ ⎜ a p⎟ ⎝ ⎠ [112] przy warunku: a ≠ 0 . Długo ć wektora znormalizowanego b dzie wynosiła 1: aˆ = 1 [113] Dla przykładu dokonajmy normalizacji nast puj cego wektora c : ⎛1 ⎞ ⎜ ⎟ ⎜0⎟ ⎜3⎟ c=⎜ ⎟ ⎜ 2⎟ ⎜1 ⎟ ⎜⎜ ⎟⎟ ⎝1 ⎠ [114] Chc c dokonać jego normalizacji najpierw obliczmy jego długo ć: c = 16 = 4 [115] A nast pnie zgodnie ze wzorem [111] ka d współrz dn wektora c podzielimy przez obliczon wielko ć c . W efekcie otrzymamy: Skalowanie druk.indb 141 2009-12-09 14:25:20 142 Mariusz Grzęda ⎛ 0, 25 ⎞ ⎜ ⎟ ⎜0 ⎟ ⎜ 0, 75 ⎟ cˆ = ⎜ ⎟ ⎜ 0,5 ⎟ ⎜ 0, 25 ⎟ ⎜⎜ ⎟⎟ ⎝ 0, 25 ⎠ [116] Mo emy teraz dokonać sprawdzenia czy długo ć wektora ĉ rzeczywi cie jest równa jedno ci: cˆ = (0, 25) 2 + (0) 2 + (0, 75) 2 + (0,5) 2 + (0, 25) 2 + (0, 25) 2 = 1 [117] Liniowa zale no ć i niezale no ć wektorów W przypadku wektorów wa nym i cz sto stosowanym poj ciem s poj cia liniowej zale no ci i niezale no ci wektorów. Aby je zdefiniować nale y wprowadzić poj cie kombinacji liniowej wektorów. Kombinacja liniowa Liniow kombinacj n wektorów v1 v 2 ...v n o tych samych wymiarach (przyjmijmy, e ka dy z nich b dzie p×1 ) nazywa si takie ich przekształcenie, które zakłada dwie czynno ci: najpierw przemno enie ich przez pewien wierszowy wektor c = [c1c2 ...cn ] o wymiarze 1× n składaj cy si z liczb rzeczywistych a nast pnie zsumowanie tych iloczynów. Wynikiem takiej operacji b dzie wektor v o wymiarze p×1 . Definicj kombinacji liniowej wektorów mo na zapisać w nast puj cy sposób: v = c1 v1 + c2 v 2 + ... + c3 v n [118] lub równowa nie: v = ∑ ci v i n i =1 gdzie ci ∈ℜ dla i = 1,..., n Elementy (współrz dne) wektora c nazywane s współczynnikami liniowymi. Skalowanie druk.indb 142 [119] niekiedy równie 2009-12-09 14:25:20 Elementarne wiadomości z algebry macierzy 143 Kombinacja liniowa trywialna Kombinacja liniowa wektorów v1 v 2 ...v n , w której wszystkie współczynniki s równe zeru nazywana jest kombinacj trywialn . W oczywisty sposób w takim przypadku wynikiem kombinacji trywialnej b dzie wektor zerowy. Definicj trywialnej kombinacji mo na zapisać: v = ∑ ci v i = 0 n i =1 gdzie ci = 0 dla i = 1,..., n [120] Liniowa zale no ć wektorów Wektory v1 v 2 ...v n s liniowo zale ne je li istnieje nietrywialna kombinacja liniowa tych wektorów, która daje wektor zerowy. A zatem zapis warunku liniowej zale no ci wektorów v1 v 2 ...v n wygl da tak: ∑c v n i =1 i = 0 je li istnieje przynajmniej jeden niezerowy element wektora c . i [121] Formalnie warunek niezerowo ci wektora c mo na sformułować postulat by suma kwadratów wszystkich jego elementów była wi ksza od zera: c12 + c22 + A + cn2 > 0 [122] Liniowa niezale no ć wektorów Wektory v1 v 2 ...v n s liniowo niezale ne je li nie istnieje nietrywialna kombinacja liniowa tych wektorów, która daje wektor zerowy. A wi c wektory s liniowo niezale ne je li wektor zerowy jest mo liwy tylko w przypadku kombinacji trywialnej: ∑c v n i =1 i i = 0 gdzie ci = 0 dla i = 1,..., n [123] Rz d macierzy Wprowadzone wy ej definicje niezale no ci i zale no ci wektorów maj zastosowanie w rachunku macierzowym w przypadku poj cia rz du macierzy. Otó je li pewn macierz A = [aij ] p×q potraktujemy jako układ q wekto- Skalowanie druk.indb 143 2009-12-09 14:25:20 144 Mariusz Grzęda rów kolumnowych, (lub układ p wektorów wierszowych), to w takiej sytuacji mo na badać czy s one niezale ne/b d zale ne. Wówczas maksymalna liczba niezale nych liniowo wektorów tworz cych macierz jest nazywana jej rz dem. Rz d macierzy A = [aij ] p×q jest oznaczany jako r ( A) lub rz ( A) . Istnieje jeszcze druga, równowa na, definicja rz du macierzy – wyra ona za pomoc poj cia minora, wprowadzonego wcze niej w cz ci tekstu powi conego macierzom. Przypomnijmy, e minorem pewnej macierzy A odpowiadaj cym elementowi aij jest wyznacznik macierzy A ij powstałej przez wykre lenie z macierzy A i-tego wiersza oraz j-tej kolumny. W tym kontekcie rz dem macierzy b dzie wymiar najwi kszej mo liwej macierzy A ij , której wyznacznik (czyli minor) jest ró ny od zera. Oznacza to, e w przypadku rz du macierzy zachodzi pewna wa na prawidłowo ć: je li macierz A = [aij ] p×q nie jest macierz kwadratow ( p ≠ q ) to jej rz d nie b dzie wi kszy ni mniejsza spo ród liczb p i q: r ( A) ≤ min( p, q ) [124] Poj cie rz du macierzy ma zastosowanie we wszystkich analizach statystycznych, w których rozwi zywany problem daje si przedstawić w postaci układu równań liniowych, czyli w takiej formie gdzie wyra a si warto ci zmiennych jako sumy wa one innych zmiennych. Takie układy równań jak pokazuj teksty zgromadzone w niniejszym tomie mo na stosunkowo łatwo wyra ać w postaci macierzowej. Wówczas istnienie zale no ci liniowej pomi dzy wektorami zmiennych jest warunkiem koniecznym wyznaczenia znacz cego (czyli nietrywialnego) rozwi zania – czyli wyznaczenia współczynników/wag liniowych. Poj cie rz du macierzy ma wi c kluczowe znaczenie w przypadku analizy regresji czy analizy czynnikowej. O tym w jaki dokładnie sposób uzyskuje si tego rodzaju rozwi zania Czytelnik dowie si z poszczególnych rozdziałów niniejszej publikacji. W tym miejscu sygnalizujemy tylko istot poj cia. Skalowanie druk.indb 144 2009-12-09 14:25:21