МИНИСТЕРСТВО ОБРАЗОВАНИЯ РФ Иркутский

ÌÈÍÈÑÒÅÐÑÒÂÎ ÎÁÐÀÇÎÂÀÍÈß ÐÔ
Èðêóòñêèé ãîñóäàðñòâåííûé óíèâåðñèòåò
Èíñòèòóò ìàòåìàòèêè è ýêîíîìèêè
Â.Ã. Àíòîíèê
Â.Ñ. Çàõàð÷åíêî
×èñëåííûå ìåòîäû
Ó÷åáíîå ïîñîáèå
ïî ïðàêòè÷åñêèì çàíÿòèÿì
Èðêóòñê 2000
Ïå÷àòàåòñÿ ïî ðåøåíèþ ðåäàêöèîííî-èçäàòåëüñêîãî ñîâåòà Èíñòèòóòà ìàòåìàòèêè è ýêîíîìèêè Èðêóòñêîãî ãîñóäàðñòâåííîãî óíèâåðñèòåòà
Ïîñîáèå ñîäåðæèò ìàòåðèàëû ïðàêòè÷åñêèõ çàíÿòèé ïî êóðñó "×èñëåííûå ìåòîäû"(ðàçäåë âû÷èñëèòåëüíàÿ àëãåáðà). Ðàññìàòðèâàþòñÿ ìåòîäû ðåøåíèÿ ëèíåéíûõ ñèñòåì, ïðîáëåìà ñîáñòâåííûõ çíà÷åíèé, ìåòîäû ðåøåíèÿ íåëèíåéíûõ óðàâíåíèé.  íà÷àëå êàæäîãî
ðàçäåëà ïðèâîäÿòñÿ íåîáõîäèìûå òåîðåòè÷åñêèå ñâåäåíèÿ. Äàíû ðåøåíèÿ òèïîâûõ ïðèìåðîâ. Ïðåäíàçíà÷àåòñÿ äëÿ ñòóäåíòîâ ìàòåìàòè÷åñêèõ ôàêóëüòåòîâ ñïåöèàëüíîñòåé "Ìàòåìàòèêà", "Ïðèêëàäíàÿ
ìàòåìàòèêà", àñïèðàíòîâ è ïðåïîäàâàòåëåé.
Ñîñòàâèòåëè:
Ðåöåíçåíò:
Â.Ã. Àíòîíèê, ê.ô.-ì.í., äîöåíò
Â.Ñ. Çàõàð÷åíêî, ê.ô.-ì.í., äîöåíò
(êàôåäðà âû÷èñëèòåëüíîé ìàòåìàòèêè)
Â.À. Ñðî÷êî, ä.ô.-ì.í., ïðîôåññîð
c Èðêóòñêèé ãîñóäàðñòâåííûé óíèâåðñèòåò, 2000
ÎÃËÀÂËÅÍÈÅ
Ââåäåíèå
5
Ÿ1. Âñïîìîãàòåëüíûé ìàòåðèàë
6
1. Îñíîâíûå îáîçíà÷åíèÿ è îïðåäåëåíèÿ ............ 6
2. Íîðìû âåêòîðîâ è ìàòðèö .............................. 10
Ÿ2. Ëèíåéíûå ñèñòåìû. Ìåòîä Ãàóññà
1. Ïîñòàíîâêà çàäà÷è ..........................................
2. Ìåòîä Ãàóññà ...................................................
3. Âû÷èñëåíèå îáðàòíîé ìàòðèöû ......................
Óïðàæíåíèÿ .........................................................
13
13
15
20
21
Ÿ3. Èòåðàöèîííûå ìåòîäû ðåøåíèÿ
ëèíåéíûõ ñèñòåì
1. Ìåòîä ïðîñòîé èòåðàöèè .................................
2. Ìåòîä Çåéäåëÿ .................................................
3. Ìåòîä ßêîáè ....................................................
Óïðàæíåíèÿ .........................................................
25
25
26
28
31
Ÿ4. Ëèíåéíûå ñèñòåìû.
Ðåäóêöèÿ ê ýêñòðåìàëüíûì çàäà÷àì
1. Âñïîìîãàòåëüíûå ðåçóëüòàòû ........................
2. Ìåòîä ñêîðåéøåãî ñïóñêà ...............................
3. Ìåòîä ìèíèìàëüíûõ íåâÿçîê ..........................
4. Ìåòîä ìèíèìàëüíûõ îøèáîê ..........................
Óïðàæíåíèÿ .........................................................
3
33
33
36
39
41
43
46
Óïðàæíåíèÿ ......................................................... 48
Ÿ5. Ñèñòåìû ñ ïðÿìîóãîëüíûìè ìàòðèöàìè
51
1. Âñïîìîãàòåëüíûå îïðåäåëåíèÿ ........................ 51
2. Ìåòîä âðàùåíèé .............................................. 52
Óïðàæíåíèÿ ......................................................... 59
Ÿ6. Ïðîáëåìà ñîáñòâåííûõ çíà÷åíèé
61
1. Ìåòîä èòåðàöèé ............................................... 61
2. Ìåòîä Íüþòîíà ............................................... 65
3. Ìåòîäû ñîêðàùåíèÿ èíòåðâàëà
ëîêàëèçàöèè ..................................................... 69
4. Ìåòîä ïîëîâèííîãî äåëåíèÿ ............................ 70
5. Ìåòîä õîðä ...................................................... 71
Óïðàæíåíèÿ ......................................................... 72
Ÿ7. Ìåòîäû ðåøåíèÿ íåëèíåéíûõ óðàâíåíèé
4
Ââåäåíèå
Ó÷åáíîå ïîñîáèå ñîäåðæèò ìàòåðèàëû ïðàêòè÷åñêèõ
çàíÿòèé ïî êóðñó "×èñëåííûå ìåòîäû", êîòîðûé ÷èòàåòñÿ äëÿ ñòóäåíòîâ ñïåöèàëüíîñòè "Ïðèêëàäíàÿ ìàòåìàòèêà"Èíñòèòóòà ìàòåìàòèêè è ýêîíîìèêè Èðêóòñêîãî ãîñóíèâåðñèòåòà. Ðàññìàòðèâàþòñÿ èçáðàííûå âîïðîñû ðàçäåëà "Âû÷èñëèòåëüíàÿ àëãåáðà". Óïðàæíåíèÿì ïðåäøåñòâóþò êðàòêèå ñâîäêè íåîáõîäèìûõ òåîðåòè÷åñêèõ ñâåäåíèé.
Ðàçîáðàíû ðåøåíèÿ òèïîâûõ ïðèìåðîâ.
 ïåðâîì ðàçäåëå ðàññìàòðèâàþòñÿ ñèñòåìû ëèíåéíûõ
àëãåáðàè÷åñêèõ óðàâíåíèé. Îïèñûâàþòñÿ òî÷íûå è èòåðàöèîííûå ìåòîäû ðåøåíèÿ (ìåòîä Ãàóññà, ìåòîä ïðîñòîé
èòåðàöèè, ìåòîä Çåéäåëÿ). Ïðèâîäèòñÿ ìåòîäèêà ñâåäåíèÿ
èñõîäíîé ëèíåéíîé ñèñòåìû ê ýêñòðåìàëüíûì çàäà÷àì.
Èçó÷àåòñÿ ïðîáëåìà ñîáñòâåííûõ çíà÷åíèé.
Âî âòîðîì ðàçäåëå ðàññìàòðèâàþòñÿ ìåòîäû ðåøåíèÿ
íåëèíåéíûõ óðàâíåíèé: ìåòîä èòåðàöèé, ìåòîä Íüþòîíà,
ìåòîäû ñîêðàùåíèÿ èíòåðâàëà ëîêàëèçàöèè.
Àâòîðû âûðàæàþò ãëóáîêóþ ïðèçíàòåëüíîñòü çàâåäóþùåìó êàôåäðîé âû÷èñëèòåëüíîé ìàòåìàòèêè ïðîôåññîðó Ñðî÷êî Â.À. çà ïîëåçíûå ñîâåòû è çàìå÷àíèÿ, ñäåëàííûå ïðè îáñóæäåíèè ðóêîïèñè ïîñîáèÿ.
5
Ÿ1. Âñïîìîãàòåëüíûé ìàòåðèàë
1. Îñíîâíûå îáîçíà÷åíèÿ è îïðåäåëåíèÿ
Ïóñòü Rn âåùåñòâåííîå ïðîñòðàíñòâî ðàçìåðíîñòè
n ñ êîîðäèíàòíûìè îðòàìè ei , i = 1, n. Âñÿêèé ýëåìåíò
x ∈ Rn åñòü âåêòîð-ñòîëáåö ñ êîîðäèíàòàìè x1 , . . . , xn . Äëÿ
ïàðû x, y ∈ Rn îáîçíà÷èì îïåðàöèþ ñêàëÿðíîãî ïðîèçâåäåíèÿ
n
X
hx, yi =
xi yi .
i=1
Ïóñòü A (n × n) ìàòðèöà ñ âåùåñòâåííûìè ýëåìåíòàìè aij , i, j = 1, n. Ââåäåì ñëåäóþùèå îáîçíà÷åíèÿ: AT òðàíñïîíèðîâàííàÿ ìàòðèöà, A−1 îáðàòíàÿ ìàòðèöà,
detA îïðåäåëèòåëü ìàòðèöû A. Êðîìå òîãî, îáîçíà÷èì
E (n × n) åäèíè÷íàÿ ìàòðèöà.
Îïðåäåëåíèå 1. Ìàòðèöà A íàçûâàåòñÿ
äèàãîíàëüíîé, åñëè aij = 0 , i 6= j ;
íèæíåé òðåóãîëüíîé, åñëè aij = 0 , i < j ;
âåðõíåé òðåóãîëüíîé, åñëè aij = 0 , i > j ;
íåâûðîæäåííîé, åñëè detA 6= 0;
îðòîãîíàëüíîé, åñëè AT A = E ;
ñèììåòðè÷íîé, åñëè AT = A;
ìàòðèöåé ñî ñòðîãèì äèàãîíàëüíûì ïðåîáëàäàíèåì, åñn
P
ëè | aii |>
| aij | , i = 1, n .
1)
2)
3)
4)
5)
6)
7)
j=1,i6=j
Îáðàçóåì êâàäðàòè÷íóþ ôîðìó ñ ñèììåòðè÷íîé ìàò-
6
ðèöåé A
hx, Axi =
n X
n
X
aij xi xj .
i=1 j=1
Ìàòðèöà A íàçûâàåòñÿ ïîëîæèòåëüíî îïðåäåëåííîé (A > 0), åñëè hx, Axi > 0 äëÿ ëþáîãî x 6= 0, íåîòðèöàòåëüíî îïðåäåëåííîé (A ≥ 0), åñëè
hx, Axi ≥ 0 , x ∈ Rn .
Îïðåäåëåíèå 2.
Óïðàæíåíèå 1.



a) A = 

3
5
−
4
5
Ïîêàçàòü, ÷òî ìàòðèöû

 √
4
3
1


5 
2
 2
 ; b) A = 
√

3 
1
3
−
5
2 2





ÿâëÿþòñÿ îðòîãîíàëüíûìè.
Ïîêàçàòü, ÷òî ìàòðèöû
2 −1
1 1
a) A =
; b) A =
−1
2
1 4
Óïðàæíåíèå 2.
ÿâëÿþòñÿ ïîëîæèòåëüíî îïðåäåëåííûìè.
Ïîêàçàòü, ÷òî ïðîèçâåäåíèå äâóõ òðåóãîëüíûõ ìàòðèö îäíîãî òèïà åñòü òðåóãîëüíàÿ ìàòðèöà
òîãî æå òèïà.
Óïðàæíåíèå 3.
Ïîêàçàòü, ÷òî ìàòðèöà îáðàòíàÿ ê
òðåóãîëüíîé, ñîõðàíÿåò ýòî ñâîéñòâî.
Óïðàæíåíèå 4.
Îòìåòèì, ÷òî îïðåäåëèòåëü òðåóãîëüíîé ìàòðèöû ðàâåí ïðîèçâåäåíèþ åå äèàãîíàëüíûõ ýëåìåíòîâ.
7
×èñëî λ íàçûâàåòñÿ ñîáñòâåííûì çíàìàòðèöû A, åñëè ñóùåñòâóåò òàêîé âåêòîð x 6= 0, ÷òî Ax = λx. Ýòîò âåêòîð íàçûâàåòñÿ ñîáñòâåííûì âåêòîðîì ìàòðèöû A, ñîîòâåòñòâóþùèì ñîáñòâåííîìó çíà÷åíèþ λ. Ïðè ýòîì (λ, x) ñîáñòâåííàÿ ïàðà ìàòðèöû A.
Îïðåäåëåíèå 3.
÷åíèåì (÷èñëîì)
Èñõîäÿ èç îïðåäåëåíèÿ, ñîáñòâåííûå ÷èñëà ìàòðèöû
A è òîëüêî îíè ÿâëÿþòñÿ êîðíÿìè õàðàêòåðèñòè÷åñêîãî
óðàâíåíèÿ det(A − λE) = 0. Ýòî àëãåáðàè÷åñêîå óðàâíåíèå ñòåïåíè n, êîòîðîå èìååò íà êîìïëåêñíîé ïëîñêîñòè
n êîðíåé λi (A) , i = 1, n . Ñïåêòðîì ìàòðèöû A íàçûâàåòñÿ ñîâîêóïíîñòü åå ñîáñòâåííûõ çíà÷åíèé: σ(A) = {λi (A)}.
Ñïåêòðàëüíûé ðàäèóñ îïðåäåëÿåòñÿ ñîîòíîøåíèåì ρ(A) =
= max | λi (A) |.
1≤i≤n
Óïðàæíåíèå 5. Ïðîâåðèòü ñïðàâåäëèâîñòü ñîîòíîøåíèé:
a) λ(αA) = αλ(A);
b) λ(A + B) = λ(A) + λ(B);
c) λ(Ak ) = λk (A) , k = 2, 3, . . . .
Äëÿ ìàòðèö
−1
4
2 3
; b) A =
3 −2
2 1
Óïðàæíåíèå 6.
a) A =
íàéòè ñïåêòð σ(A) è ñïåêòðàëüíûé ðàäèóñ ρ(A).
Ïîêàçàòü, ÷òî
a) ñîáñòâåííûå ÷èñëà ïðÿìîé A è îáðàòíîé A−1 ìàòðèö
ñâÿçàíû ñîîòíîøåíèåì λ(A−1 ) = 1/λ(A);
b) ñîáñòâåííûå ÷èñëà òðåóãîëüíîé ìàòðèöû ñîâïàäàþò ñ
åå äèàãîíàëüíûìè ýëåìåíòàìè.
Óïðàæíåíèå 7.
8
Îïðåäåëåíèå 4.

1




Bm = 



Ìàòðèöà Bm , m = 1, n − 1âèäà

..
.
1
bm+1,m 1
..
..
.
.
bn,m
1








íàçûâàåòñÿ ýëåìåíòàðíîé íèæíåé òðåóãîëüíîé ìàòðèöåé.
−1
Ïîêàçàòü, ÷òî îáðàòíàÿ ìàòðèöà Bm
ÿâëÿåòñÿ òàêæå ýëåìåíòàðíîé òðåóãîëüíîé è èìååò ñëåäóþùèé âèä


1
..


.




1


−1
Bm
=
 .
−bm+1,m 1




.
.
..
..


−bn,m
1
Óïðàæíåíèå 8.
Ïîêàçàòü, ÷òî ìàòðèöà
B = B1 B2 . . . Bn−1 èìååò ñëåäóþùóþ ñòðóêòóðó


1
 b21 1



 b31 b32 1



−1
Bm
=  ..
 .
..
 .

.




1
bn1 bn2
. . . bn,n−1 1
Óïðàæíåíèå 9.
9
2. Íîðìû âåêòîðîâ è ìàòðèö
Ïóñòü x ∈ Rn . Âåùåñòâåííàÿ ôóíêöèÿ k x k íàçûâàåòñÿ âåêòîðíîé íîðìîé, åñëè âûïîëíåíû
ñëåäóþùèå àêñèîìû:
1) k x k≥ 0 , k x k= 0 ⇔ x = 0;
2) k αx k=| α | · k x k äëÿ ëþáîãî ÷èñëà α;
3) k x + y k≤k x k + k y k.
Îïðåäåëåíèå 5.
Âûäåëèì íàèáîëåå ðàñïðîñòðàíåííûå âåêòîðíûå íîðìû:
n
P
1) k x k1 =
| xi | îêòàýäðè÷åñêàÿ;
i=1
n
P
2) k x k2 = (
x2i )1/2 ñôåðè÷åñêàÿ (åâêëèäîâà);
i=1
3) k x k∞ = max | xi | êóáè÷åñêàÿ (÷åáûøåâñêàÿ).
1≤i≤n
Óïðàæíåíèå 10.
max |
t∈[0,1]
n
X
ßâëÿþòñÿ ëè âûðàæåíèÿ
i−1
xi t
| , max |
t∈[0,1]
i=1
n
X
xi ti | ,
i=1
íîðìàìè âåêòîðà x â Rn ?
Ïóñòü Q îðòîãîíàëüíàÿ ìàòðèöà,
x ∈ R . Ïîêàçàòü, ÷òî k Qx k2 =k x k2 .
Óïðàæíåíèå 11.
n
Ïóñòü A êâàäðàòíàÿ ìàòðèöà ïîðÿäêà n. Âåùåñòâåííàÿ ôóíêöèÿ k A k íàçûâàåòñÿ ìàòðè÷íîé íîðìîé, åñëè âûïîëíåíû ñëåäóþùèå àêñèîìû:
1) k A k≥ 0 , k A k= 0 ⇔ A = 0;
2) k αA k=| α | · k A k äëÿ ëþáîãî ÷èñëà α;
3) k A + B k≤k A k + k B k;
Îïðåäåëåíèå 6.
10
4) k AB k≤k A k · k B k.
Çäåñü B (n × n) ìàòðèöà.
Óêàæåì íàèáîëåå óïîòðåáèòåëüíûå ìàòðè÷íûå íîðìû:
n
P
1) k A k1 = max
| aij | ìàêñèìàëüíàÿ ñòîëáöåâàÿ íîð1≤j≤n i=1
ìà (îêòàýäðè÷åñêàÿ);
p
2) k A k2 = max λi (AT A) ñïåêòðàëüíàÿ íîðìà (åâêëèäîâà);
1≤i≤n
3) k A k∞ = max
n
P
| aij | ìàêñèìàëüíàÿ ñòðî÷íàÿ íîðìà
1≤i≤n j=1
(êóáè÷åñêàÿ);
n P
n
P
4) k A kF = (
a2ij )1/2 íîðìà Ôðîáåíèóñà.
i=1 j=1
Ïîêàçàòü, ÷òî ñïåêòðàëüíàÿ íîðìà
ñèììåòðè÷íîé ìàòðèöû ðàâíà åå ñïåêòðàëüíîìó ðàäèóñó.
Óïðàæíåíèå 12.
Äëÿ ìàòðèöû


1
0 0
1 0 
A= 0
0 −3 2
Óïðàæíåíèå 13.
âû÷èñëèòü k A k1 , k A k2 , k A k∞ , k A kF .
Óïðàæíåíèå 14.
= 2, 3, . . ..
Óïðàæíåíèå 15.
Ïîêàçàòü, ÷òî
a) k QA k2 =k A k2 ;
b) k QA kF =k A kF .
Ïîêàçàòü, ÷òî k Ak k≤k A kk , k =
Ïóñòü Q - îðòîãîíàëüíàÿ ìàòðèöà.
11
Óïðàæíåíèå 16.
ßâëÿåòñÿ ëè âûðàæåíèå
max | aij |
1≤i,j≤n
ìàòðè÷íîé íîðìîé?
Óïðàæíåíèå 17.
Ïîêàçàòü, ÷òî k E k≥ 1.
Óñòàíîâèì ñâÿçü ìåæäó âåêòîðíûìè è ìàòðè÷íûìè
íîðìàìè.
Íîðìà ìàòðèöû k A k íàçûâàåòñÿ
ñ âåêòîðíîé íîðìîé k x k, åñëè äëÿ ëþáîãî
x ∈ Rn ñïðàâåäëèâî íåðàâåíñòâî k Ax k≤k A k · k x k.
Îïðåäåëåíèå 7.
ñîãëàñîâàííîé
Ìàòðè÷íàÿ íîðìà k A k íàçûâàåòñÿ
ïîä÷èíåííîé âåêòîðíîé íîðìå k x k, åñëè
Îïðåäåëåíèå 8.
k A k= max
x6=0
Óïðàæíåíèå 18.
k x k2 .
Óïðàæíåíèå 19.
îòíîøåíèþ ê k x k∞ .
k Ax k
.
kxk
Ïîêàçàòü, ÷òî k A kF ñîãëàñîâàíà ñ
Ïîêàçàòü, ÷òî k A k∞ ïîä÷èíåíà ïî
12
Ÿ2. Ëèíåéíûå ñèñòåìû. Ìåòîä Ãàóññà
1. Ïîñòàíîâêà çàäà÷è
Ñèñòåìà ëèíåéíûõ àëãåáðàè÷åñêèõ óðàâíåíèé ñ ìàòðèöåé êîýôôèöèåíòîâ A = {aij } , i, j = 1, n è âåêòîðîì ñâîáîäíûõ êîìïîíåíò b = (b1 , . . . , bn ) îòíîñèòåëüíî íåèçâåñòíîãî âåêòîðà x = (x1 , . . . , xn ) çàïèñûâàåòñÿ ñëåäóþùèì îáðàçîì
a11 x1 + a12 x2 + . . . + a1n xn = b1
a21 x1 + a22 x2 + . . . + a2n xn = b2
(1)
...
an1 x1 + an2 x2 + . . . + ann xn = bn
èëè â ìàòðè÷íîé ôîðìå
Ax = b .
(1)
Îòìåòèì, ÷òî äâå ñèñòåìû âèäà (1) íàçûâàþòñÿ ýêâèåñëè ìíîæåñòâà èõ ðåøåíèé ñîâïàäàþò.
âàëåíòíûìè,
Óêàæåì îäèí êëàññ ëèíåéíûõ ñèñòåì, ðåøåíèå êîòîðûõ
ïðîâîäèòñÿ ýëåìåíòàðíî. Ïóñòü A âåðõíÿÿ òðåóãîëüíàÿ
ìàòðèöà. Òîãäà ñèñòåìà (1) èìååò âèä
n
X
aij xj = bi , i = 1, n
j=i
13
(òðåóãîëüíàÿ ñèñòåìà). Â ïðåäïîëîæåíèè, ÷òî detA 6= 0
åäèíñòâåííîå ðåøåíèå òàêîé ñèñòåìû íàõîäèòñÿ ïî ôîðìóëàì
xn =
n
X
bn
1
, xi =
(bi −
)aij xj , i = n − 1, 1 .
ann
aii
j=i+1
Óïðàæíåíèå 1. Óêàçàòü ñîîòíîøåíèÿ äëÿ ðåøåíèÿ
ëèíåéíîé ñèñòåìû ñ íèæíåé òðåóãîëüíîé ìàòðèöåé A.
Îäíîé èç îñíîâíûõ èäåé ïðè ïîñòðîåíèè ìåòîäîâ ðåøåíèÿ ëèíåéíûõ ñèñòåì â îáùåé ïîñòàíîâêå (1) ÿâëÿåòñÿ
ïîñëåäîâàòåëüíîé ïðåîáðàçîâàíèå èñõîäíîé ñèñòåìû ê ýêâèâàëåíòíîé ñ òðåóãîëüíîé ìàòðèöåé.
Îòìåòèì, ÷òî ìåòîäû ðåøåíèÿ ëèíåéíûõ ñèñòåì ìîæíî
ðàçäåëèòü íà äâå ãðóïïû: òî÷íûå (ïðÿìûå) è èòåðàöèîííûå. Òî÷íûå ìåòîäû ïîçâîëÿþò íàéòè ðåøåíèå ñèñòåìû
çà êîíå÷íîå ÷èñëî àðèôìåòè÷åñêèõ îïåðàöèé. Èòåðàöèîííûå ìåòîäû ýòî ìåòîäû ïîñëåäîâàòåëüíûõ ïðèáëèæåíèé, êîòîðûå ïîçâîëÿþò íàéòè òî÷íîå ðåøåíèå â ðåçóëüòàòå âûïîëíåíèÿ áåñêîíå÷íîãî ÷èñëà àðèôìåòè÷åñêèõ
îïåðàöèé êàê ïðåäåë ïîñëåäîâàòåëüíîñòè ïðèáëèæåíèé. Ñ
ïîìîùüþ ìåòîäîâ ýòîãî òèïà çà êîíå÷íîå ÷èñëî èòåðàöèé
ìîæíî íàéòè ïðèáëèæåííîå ðåøåíèå ñèñòåìû ñ çàäàííîé
òî÷íîñòüþ.
14
2. Ìåòîä Ãàóññà
Îïèøåì îäèí ìåòîä ðåøåíèÿ ëèíåéíîé ñèñòåìû (1), îòíîñÿùèéñÿ ê êëàññó òî÷íûõ ìåòîäîâ ìåòîä ïîñëåäîâàòåëüíîãî èñêëþ÷åíèÿ íåèçâåñòíûõ (ìåòîä Ãàóññà). Àëãîðèòì èñêëþ÷åíèÿ ñîñòîèò èç ïîñëåäîâàòåëüíîñòè øàãîâ.
Èñêëþ÷åíèå íåèçâåñòíîé x1 èç âñåõ óðàâíåíèé
ñèñòåìû (1), êðîìå ïåðâîãî. Ïóñòü a11 6= 0. Òîãäà èç ïåðâîãî óðàâíåíèÿ âûðàæàåì x1
Øàã 1.
x1 = −
1
(a12 x2 + . . . + a1n xn − b1 )
a11
(2)
÷åðåç îñòàëüíûå íåèçâåñòíûå è ïîäñòàâëÿåì (2) âî 2-å, 3-å,
. . ., n-å óðàâíåíèÿ ñèñòåìû (1). Ïîñëå ïîäñòàíîâêè ïîëó÷àåì ïðåîáðàçîâàííóþ èñõîäíóþ ñèñòåìó âèäà
a11 x1 + a12 x2 + . . . + a1n xn = b1
(1)
(1)
(1)
a22 x2 + . . . + a2n xn = b2
...
(1)
(1)
(1)
an2 x2 + . . . + ann xn = bn
(1)
(3)
(1)
ãäå ýëåìåíòû aij , bi , i, j = 2, n ïîëó÷åíû ïî ôîðìóëàì
(1)
aij =
a11 bi − b1 ai1
a11 aij − a1j ai1
(1)
, bi =
.
a11
a11
(4)
Îòìåòèì, ÷òî ýëåìåíò a11 â äàííîì ñëó÷àå íîñèò íàçâàíèå âåäóùåãî ýëåìåíòà ïåðâîãî øàãà. Åñëè â ñèñòåìå (1)
a11 = 0, òî â ïåðâîì ñòîëáöå ìàòðèöû A, â ñèëó åå íåâûðîæäåííîñòè, íàéäåòñÿ íåíóëåâîé ýëåìåíò ai1 .  ýòîì ñëó÷àå
15
ïåðåä âûïîëíåíèåì øàãà 1 íåîáõîäèìî ïåðåñòàâèòü óðàâíåíèÿ ñ íîìåðàìè 1 è i è ïîñëå ýòîãî ïðîâîäèòü èñêëþ÷åíèå x1 .
Óêàæåì ïðîñòîå äëÿ çàïîìèíàíèÿ ïðàâèëî âû÷èñëåíèÿ
(1)
(1)
ýëåìåíòîâ aij è bi . Ñ ýòîé öåëüþ ïðåäñòàâèì ôîðìóëû
(4) â âèäå
a11 b1
a11 a1j
det
det
ai1 bi
ai1 aij
(1)
(1)
, bi =
.
(5)
aij =
a11
a11
Îòìåòèì, ÷òî (2 × 2) ïîäìàòðèöû, ôèãóðèðóþùèå â (5),
ëåãêî âûäåëÿþòñÿ èç ðàñøèðåííîé ìàòðèöû A = (A , b).
Äëÿ èõ ôîðìèðîâàíèÿ óäîáíî âîñïîëüçîâàòüñÿ ïðàâèëîì
(1)
(1)
ïðÿìîóãîëüíèêà: ïðè âû÷èñëåíèè ýëåìåíòà aij ( bi ) íåîáõîäèìî â ìàòðèöå A íà ýëåìåíòå aij ( bi ) è âåäóùåì ýëåìåíòå a11 âîññòàíîâèòü ïðÿìîóãîëüíèê.
Èñêëþ÷åíèå íåèçâåñòíîé x2 èç âñåõ óðàâíåíèé
(1)
ñèñòåìû (3), êðîìå 1-ãî è 2-ãî. Ïóñòü a22 6= 0. Òîãäà èç
âòîðîãî óðàâíåíèÿ âûðàæàåì x2
Øàã 2.
x2 = −
1
(1)
a22
(1)
(1)
(1)
(a23 x3 + . . . + a2n xn − b2 )
(6)
÷åðåç îñòàëüíûå íåèçâåñòíûå è ïîäñòàâëÿåì (6) â 3-å,
4-å, . . ., n-å óðàâíåíèÿ ñèñòåìû (3).  ðåçóëüòàòå ïîëó÷àåì
ñèñòåìó
a11 x1 + a12 x2 + a13 x3
(1)
(1)
a22 x2 + a23 x3
(2)
a33 xn
...
(2)
an3 x3
16
+ . . . + a1n xn = b1
(1)
(1)
+ . . . + a2n xn = b2
(2)
(2)
+ . . . + a3n xn = b3
(2)
(2)
+ . . . + ann xn = bn
(2)
(2)
ãäå ýëåìåíòû aij , bi , i, j = 3, n ïîñëå âòîðîãî øàãà ïîëó÷åíû ïî ôîðìóëàì
!
!
(1)
(1)
(1)
(1)
a22 a2j
a22 b2
det
det
(1)
(1)
(1)
(1)
ai2 bi
ai2 aij
(2)
(2)
, bi =
.
aij =
(1)
(1)
a22
a22
(1)
Ýëåìåíò a22 íàçûâàåòñÿ âåäóùèì ýëåìåíòîì âòîðîãî øà(1)
ãà. Åñëè a22 = 0, òî íåîáõîäèìî ïåðåñòàâèòü âòîðîå óðàâíåíèå ñèñòåìû (3) ñ îäíèì èç íèæåñëåäóþùèõ.
Ïðîäîëæàÿ ýòîò ïðîöåññ èñêëþ÷åíèÿ ïðè óñëîâèè, ÷òî
(2)
(n−2)
a33 6= 0 , . . . , an−1,n−1 6= 0
ïîñëå (n − 1)-ãî øàãà èñêëþ÷åíèÿ ïîëó÷èì ïðåîáðàçîâàííóþ èñõîäíóþ ñèñòåìó
a11 x1 + a12 x2 + a13 x3 + . . . + a1n xn
(1)
(1)
(1)
a22 x2 + a23 x3 + . . . + a2n xn
(2)
(2)
a33 xn + . . . + a3n xn
...
(n−1)
ann xn
= b1
(1)
= b2
(2)
= b3
(n−1)
= bn
(7)
Îòìåòèì, ÷òî ñèñòåìà (7) ýêâèâàëåíòíà èñõîäíîé. Åå
ðåøåíèå ïðîâîäèòñÿ ýëåìåíòàðíî (ñì.ï.1), ÷òî è çàâåðøàåò
ðåàëèçàöèþ ìåòîäà Ãàóññà.
Ïåðåõîä îò ñèñòåìû (1) ê òðåóãîëüíîé ñèñòåìå (7) íàçûâàåòñÿ ïðÿìûì õîäîì ìåòîäà Ãàóññà, à ïðîöåäóðà âû÷èñëåíèÿ êîìïîíåíò ðåøåíèÿ ñèñòåìû (7) îáðàòíûì õîäîì
ìåòîäà.
17
Çàìåòèì, ÷òî ïîñëå ïðîâåäåíèÿ ïðÿìîãî õîäà ìåòîäà
Ãàóññà ìîæíî ðåøèòü çàäà÷ó âû÷èñëåíèÿ îïðåäåëèòåëÿ
ìàòðèöû A
(1)
detA = (−1)k a11 a22 · · · a(n−1)
nn
ãäå k êîëè÷åñòâî ïåðåñòàíîâîê ñòðîê â ìàòðèöàõ ïðè âûáîðå âåäóùèõ ýëåìåíòîâ.
Ïðèìåð 1.
Ðåøèòü ëèíåéíóþ ñèñòåìó ìåòîäîì Ãàóññà

 x1 − 2x2 + 3x3 = 1
2x1 + 3x2 − x3 = 2 .

−x1 − x2 + x3 = 3
Äëÿ óäîáñòâà âû÷èñëåíèé ðàññìîòðèì ðàñøèðåííóþ (n × (n + 1)) ìàòðèöó A, ïîëó÷åííóþ ïðèñîåäèíåíèåì ê ìàòðèöå A ñòîëáöà b


1 −2
3 1
3 −1 2  .
A= 2
−1 −1
1 3
Ðåøåíèå.
Ïðîâåäåì ïðÿìîé õîä ìåòîäà Ãàóññà. Ïîä÷åðêíåì, ÷òî íåîáõîäèìî áóäåò âûïîëíèòü äâà øàãà. Âåäóùèé ýëåìåíò ïåðâîãî øàãà a11 . Òîãäà,
a11 a12
det
a21 a22
1 · 3 − (−2) · 2
(1)
(1)
a22 = a22 =
=
=7,
a11
1
a11 a13
det
a21 a23
1 · (−1) − 3 · 2
(1)
(1)
a23 = a23 =
=
=7,
a11
1
18
det
(1)
a24
=
(1)
b2
=
a11 b1
a21 b2
a11
=
1·2−1·2
=0.
1
Àíàëîãè÷íî,
(1)
(1)
(1)
a32 = −3 , a33 = 4 , a34 = 4 .
Òàêèì îáðàçîì, ïîñëå ïåðâîãî øàãà ïîëó÷èëè ïðåîáðàçîâàííóþ ìàòðèöó


1 −2
3 1
(1)
7 −7 0  .
A = 0
0 −3
4 4
 ðåçóëüòàòå âòîðîãî øàãà èìååì


1 −2
3 1
(2)
7 −7 0  .
A = 0
0
0
1 4
(1)
(âåäóùèé ýëåìåíò a22 ).
Ïîëó÷èëè òðåóãîëüíóþ ñèñòåìó

 x1 − 2x2 + 3x3 = 1
7x2 − 7x3 = 0 .

x3 = 4
Ïîñëåäîâàòåëüíî îïðåäåëÿåì êîìïîíåíòû åå ðåøåíèÿ
x3 = 4 , x2 = 4 , x1 = −3 .
Ïðè ýòîì, îïðåäåëèòåëü ìàòðèöû A ðàâåí
detA = 1 · 7 · 1 = 7 .
19
Èòàê, ðåøåíèåì ñèñòåìû ÿâëÿåòñÿ âåêòîð x = (−3 4 4)
3. Âû÷èñëåíèå îáðàòíîé ìàòðèöû
Ðàññìîòðèì çàäà÷ó îáðàùåíèÿ ìàòðèöû A ïîèñêà ìàòðèöû A−1 . Ïî îïðåäåëåíèþ, îáðàòíàÿ ìàòðèöà A−1 ÿâëÿåòñÿ ðåøåíèåì ìàòðè÷íîãî óðàâíåíèÿ
AX = E .
Ðàñïèøåì ýòî óðàâíåíèå ïî ñòîëáöàì ìàòðèöû X .  ðåçóëüòàòå ïîëó÷àåì n ëèíåéíûõ ñèñòåì âèäà
Ax = ei , i = 1, n .
(8)
Ïðè ýòîì, ðåøåíèåì i-îé ñèñòåìû ÿâëÿåòñÿ i-é ñòîëáåö
îáðàòíîé ìàòðèöû A−1 . Äëÿ ðåøåíèÿ êàæäîé èç ñèñòåì
(8) ìîæíî èñïîëüçîâàòü, íàïðèìåð, ìåòîä Ãàóññà.
Ïðèìåð 2.
A=
2 1
−1 1
.
Íàéòè îáðàòíóþ ìàòðèöó A−1 ìåòîäîì Ãàóññà.
Äëÿ óäîáñòâà ðåàëèçàöèè ìåòîäà ðàññìîòðèì ðàñøèðåííóþ (2 × 4) ìàòðèöó A, ïîëó÷åííóþ ïðèñîåäèíåíèåì ê ìàòðèöå A åäèíè÷íîé ìàòðèöû E
2 1 1 0
A=
.
−1 1 0 1
Ðåøåíèå.
20
Ïðÿìîé õîä ìåòîäà Ãàóññà ïîòðåáóåò âûïîëíåíèÿ òîëüêî îäíîãî øàãà.  ðåçóëüòàòå ïîëó÷èì


2 1 1 0
(1)


A =
 .
3 1
0
1
2 2
Ñëåäîâàòåëüíî, äëÿ ïîèñêà ñòîëáöîâ îáðàòíîé ìàòðèöû
A−1 íåîáõîäèìî ðåøèòü äâå òðåóãîëüíûå ñèñòåìû
(
(
2x1 + x2 = 0
2x1 + x2 = 1
1 ,
3
3
.
x2 =
x2 = 1
2
2
2
Ðåøåíèå ïåðâîé ñèñòåìû x = (1/3 1/3), ðåøåíèå âòîðîé x = (−1/3 2/3). Â èòîãå, èìååì


1
1
 3 −3 


−1
A =
 .
 1
2 
3
3
Óïðàæíåíèÿ
Íàéòè ðåøåíèå ëèíåéíîé ñèñòåìû ìåòîäîì Ãàóññà. Ïîäñ÷èòàòü îïðåäåëèòåëü ñèñòåìû.
1.
1.1.


x1 + x2 + 2x3 = −2
x1 + 2x2 + 2x3 = 1

−x1 + x2 + 2x3 = −1
21
1.2.
1.3.
1.4.
1.5.
1.6.
1.7.
1.8.

 −2x1 + x2 + 3x3 = 1
2x1 + 2x2 − 2x3 = −1

−x1 + 2x2 − 3x3 = 3

 −x1 + 2x2 − x3 = 2
3x1 − x2 − 2x3 = 3

x1 − x2 + 2x3 = 1

 2x1 − 3x2 + 2x3 = 2
x1 − 2x2 + x3 = 2

2x1 − x2 − 3x3 = −1

 2x1 + 2x2 + 2x3 = 1
x1 + x2 − x3 = −1

−x1 + x2 + 2x3 = 2

 x1 + 3x2 − x3 = 2
x1 + 2x2 − x3 = 2

2x1 − 2x2 + 2x3 = 2

 x1 − x2 + x3 = 1
x1 + 2x2 − x3 = 2

2x1 − 2x2 + 2x3 = 2

 2x1 + x2 − 2x3 = −1
x1 + 2x2 − 4x3 = −1

−x1 + x2 − 2x3 = 2
22
Äëÿ çàäàííîé ìàòðèöû A íàéòè îáðàòíóþ A−1 . Ïîäñ÷èòàòü detA.
2.
2.1.
2.2.
2.3.
2.4.
2.5.
2.6.


2
1 1
2 1 
A= 3
1 −1 2


2
3 −2
1
1 
A =  −1
2 −1 −3


−4
2 −2
2 
A =  −1 −1
1
2 −3


−2 1
1
A =  3 2 −1 
−1 1
2


1 −3
2
4 −1 
A =  −3
1
1
1


−1
2 −1
2 −1 
A =  −3
−4 −2 −1
23
2.7.
2.8.


2
4 2
A =  −3 −6 2 
2 −1 2


1 −2 −2
1 
A =  1 −2
1 −1 −1
24
Ÿ3. Èòåðàöèîííûå ìåòîäû ðåøåíèÿ ëèíåéíûõ ñèñòåì
1. Ìåòîä ïðîñòîé èòåðàöèè
êå
Ðàññìîòðèì ëèíåéíóþ ñèñòåìó â ñëåäóþùåé ïîñòàíîâ-
x = Bx + c ,
(1)
ãäå B (n × n) ìàòðèöà, c n-ìåðíûé âåêòîð.
Îðãàíèçóåì èòåðàöèîííûé ïðîöåññ ïîèñêà ðåøåíèÿ x∗
ñèñòåìû (1) ïî ïðàâèëó
xk+1
=
i
n
X
bij xkj + ci , i = 1, . . . , n , k = 0, 1, . . . .
(2)
j=1
Çäåñü k íîìåð èòåðàöèè, xk k -òîå ïðèáëèæåíèå,
x0 íà÷àëüíîå ïðèáëèæåíèå. Ïðàâèëî (2) ïåðåõîäà îò xk
ê xk+1 íàçûâàåòñÿ ìåòîäîì ïðîñòîé èòåðàöèè.
äà.
Ñôîðìóëèðóåì äîñòàòî÷íîå óñëîâèå ñõîäèìîñòè ìåòî-
Òåîðåìà 1. Åñëè k B k< 1 , òî ìåòîä ïðîñòîé èòåðàöèè
ñõîäèòñÿ (xk → x∗ , k → ∞) ïðè ëþáîì âûáîðå íà÷àëüíîãî
ïðèáëèæåíèÿ x0 .
Ñêîðîñòü ñõîäèìîñòè ìåòîäà õàðàêòåðèçóåòñÿ íåðàâåíñòâîì k xk+1 −x∗ k≤k B k · k xk −x∗ k . Îöåíêà ïîãðåøíîñòè
èìååò âèä
k xk − x∗ k≤
kBk
k xk − xk−1 k .
1− k B k
25
(3)
Ïóñòü > 0 çàäàííàÿ òî÷íîñòü ðåøåíèÿ. Ãîâîðÿò,
÷òî âåêòîð x ÿâëÿåòñÿ ïðèáëèæåííûì ðåøåíèåì ëèíåéíîé
ñèñòåìû ñ òî÷íîñòüþ , åñëè âûïîëíåíî íåðàâåíñòâî
k x − x∗ k≤ .
Òîãäà, â ñèëó (3), óñëîâèåì îñòàíîâêè ìåòîäà ìîæåò ñëóæèòü ñîîòíîøåíèå
kBk
k xk − xk−1 k≤ .
1− k B k
 ýòîì ñëó÷àå xk ÿâëÿåòñÿ ïðèáëèæåííûì ðåøåíèåì ñ òî÷íîñòüþ .
2. Ìåòîä Çåéäåëÿ
Ðàññìîòðèì ëèíåéíóþ ñèñòåìó â âèäå (1). Îïèøåì èòåðàöèîííûé ïðîöåññ ïîèñêà ðåøåíèÿ ýòîé ñèñòåìû. Ïóñòü
íà k -òîì øàãå (k = 0, 1, . . .) èìååòñÿ ïðèáëèæåíèå xk . Îïðåäåëèì 1-þ êîìïîíåíòó k + 1-ãî ïðèáëèæåíèÿ ïî ìåòîäó
ïðîñòîé èòåðàöèè:
= b11 xk1 + b12 xk2 + . . . + b1n xkn + c1 .
xk+1
1
Äàëåå, âîñïîëüçóåìñÿ âòîðûì óðàâíåíèåì ñèñòåìû (1) äëÿ
òîãî, ÷òîáû íàéòè xk+1
2 . Ïðè ýòîì ó÷èòûâàåì, ÷òî ïåðâàÿ
êîîðäèíàòà î÷åðåäíîãî ïðèáëèæåíèÿ óæå íàéäåíà. Ïîëó÷àåì
= b21 xk+1
+ b22 xk2 + . . . + b2n xkn + c2 .
xk+1
2
1
26
Ïðîäîëæàÿ äåéñòâîâàòü ïî ýòîé ñõåìå, èìååì
k
k
xk+1
= bi1 xk+1
+ . . . + bi,i−1 xk+1
1
i
i−1 + bii xi + . . . + bin xn + ci =
=
i−1
X
j=1
bij xk+1
+
j
n
X
bij xkj + ci , i = 1, n .
(4)
j=i
Òàêèì îáðàçîì, â îòëè÷èå îò ìåòîäà ïðîñòîé èòåðàöèè,
ïðè ïîäñ÷åòå xk+1
, i = 2, . . . , n èñïîëüçóþòñÿ óæå èçâåñòi
íûå êîîðäèíàòû íîâîãî ïðèáëèæåíèÿ xk+1
, j = 1, . . . ,
j
i − 1 . Ðàñ÷åòíàÿ ôîðìóëà (4) îïðåäåëÿåò ìåòîä Çåéäåëÿ
äëÿ ëèíåéíîé ñèñòåìû (1).
Òåîðåìà 2. Åñëè k B k∞ < 1 , òî ìåòîä Çåéäåëÿ ñõîäèòñÿ ïðè ëþáîì âûáîðå íà÷àëüíîãî ïðèáëèæåíèÿ x0 .
Ñêîðîñòü ñõîäèìîñòè ìåòîäà îïðåäåëÿåòñÿ íåðàâåíñòâîì k xk+1 − x∗ k∞ ≤ µ k xk − x∗ k . Îöåíêà ïîãðåøíîñòè
èìååò âèä
µ
k xk − xk−1 k∞ , k = 1, 2, . . . , (5)
k x k − x ∗ k∞ ≤
1−µ
i−1
n
X
X
βi
, αi =
| bij | , βi =
ãäå µ = max
| bij | .
1≤i≤n 1 − αi
j=1
j=i
Ïðè ýòîì êà÷åñòâî ìîäèôèêàöèè õàðàêòåðèçóåòñÿ íåðàâåíñòâîì µ ≤k B k∞ . Ýòî îçíà÷àåò, ÷òî ñêîðîñòü ñõîäèìîñòè ìåòîäà Çåéäåëÿ íå íèæå, ÷åì ó ìåòîäà ïðîñòîé èòåðàöèè.
Îòìåòèì, ÷òî ìåòîäû ïðîñòîé èòåðàöèè è Çåéäåëÿ ïðèìåíèìû ê ëèíåéíûì ñèñòåìàì, çàäàííûì â âèäå (1), óäîáíîì äëÿ èòåðàöèé. Ðàññìîòðèì ñèñòåìó â íîðìàëüíîé ôîðìå
Ax = b
(6)
27
è îïèøåì îäèí èç ñïîñîáîâ ïðèâåäåíèÿ ýòîé ñèñòåìû ê
ïðåäñòàâëåíèþ (1).
3. Ìåòîä ßêîáè
Èç ïåðâîãî óðàâíåíèÿ ñèñòåìû (6) âûðàçèì x1 :
x1 = −
a13
a1n
b1
a12
x2 −
x3 − . . . −
xn +
.
a11
a11
a11
a11
Àíàëîãè÷íî, âòîðîå óðàâíåíèå ðàçðåøèì îòíîñèòåëüíî x2 :
x2 = −
a21
a23
a2n
b2
x1 −
x3 − . . . −
xn +
.
a22
a22
a22
a22
è ò.ä.
xn = −
an1
an2
an,n−1
bn
x1 −
x2 − . . . −
xn−1 +
.
ann
ann
ann
ann
 ðåçóëüòàòå ïîëó÷èì ñèñòåìó â âèäå (1), ãäå


B=

0
−
an1
ann
a12
a1n
... −
a11
a11
...
an2
−
...
0
ann
−




 , c=



b1
a11
...
bn
ann



 .

Ïîêàçàòü, ÷òî åñëè A ìàòðèöà ñî
ñòðîãèì äèàãîíàëüíûì ïðåîáëàäàíèåì, òî äëÿ ìåòîäîâ ïðîñòîé èòåðàöèè è Çåéäåëÿ âûïîëíåíî äîñòàòî÷íîå óñëîâèå
ñõîäèìîñòè.
Óïðàæíåíèå 1.
28
Ïðèìåð 1.
4x1 + x2 = 2
, x0 =
x1 + 3x2 = 1
1
2
.
Ïðîâåñòè îäèí øàã ìåòîäà ïðîñòîé èòåðàöèè. Îöåíèòü ïîãðåøíîñòü ïîëó÷åííîãî ïðèáëèæåíèÿ. Ñäåëàòü çàêëþ÷åíèå î ñõîäèìîñòè ìåòîäà.
Ðåøåíèå. Âîñïîëüçóåìñÿ ìåòîäîì ßêîáè äëÿ ïðèâåäåíèÿ ñèñòåìû ê âèäó, óäîáíîìó äëÿ èòåðàöèé

1
1


x
=
−
x
+

1
2

4
2
.
(7)


1
1

 x2 = − x1 +
3
3
Çäåñü




1
1
 0 −4 
 2 




B=
, c = 
.
 1

 1 
−
0
3
3
Ïðèìåíèì òåïåðü ðàñ÷åòíóþ ôîðìóëó (2) ìåòîäà ïðîñòîé
èòåðàöèè.  ðåçóëüòàòå ïîëó÷àåì
1
1
x11 = − x02 + = 0
4
2
1
1
x12 = − x01 + = 0 .
3
3
Èñïîëüçóÿ íåðàâåíñòâî (3), îöåíèì ïîãðåøíîñòü íàéäåííîãî ïðèáëèæåíèÿ x1 . Ïðîâåäåì íåîáõîäèìûå âû÷èñëåíèÿ
1 1
1
k B k∞ = max{ , } = , k x1 − x0 k∞ = max{1, 2} = 2 .
4 3
3
29
Ñëåäîâàòåëüíî,
1
3
k x 1 − x ∗ k∞ ≤
1−
1
3
·2=1.
Ïîñêîëüêó, k B k∞ < 1 (èñõîäíàÿ ìàòðèöà A ìàòðèöà ñî
ñòðîãèì äèàãîíàëüíûì ïðåîáëàäàíèåì), òî ìåòîä ïðîñòîé
èòåðàöèè ñõîäèòñÿ.
 óñëîâèÿõ ïðèìåðà 1 ïðîâåñòè îäíó èòåðàöèþ ìåòîäà Çåéäåëÿ. Îöåíèòü ïîãðåøíîñòü ïîëó÷åííîãî
ïðèáëèæåíèÿ.
Ïðèìåð 2.
Ðåøåíèå. Íàïîìíèì, ÷òî ìåòîäîì ßêîáè ìû óæå ïðèâåëè èñõîäíóþ ñèñòåìó ê âèäó (7). Ñëåäóÿ ïðàâèëó (4),
ïîëó÷èì
1
1
x11 = − x02 + = 0
4
2
1
1
1
x12 = − x11 + = .
3
3
3
Ïðîâåäåì îöåíêó ïîãðåøíîñòè, âîñïîëüçîâàâøèñü íåðàâåíñòâîì (5). Ñ ýòîé öåëüþ ïîäñ÷èòàåì
α1 = 0 , α2 =
1
1
, β1 = , β2 = 0 ,
3
4
1
1
5
5
µ = max{ , 0} = , k x1 − x0 k∞ = max{1, } = .
4
4
3
3
 èòîãå èìååì
k x 1 − x ∗ k∞ ≤
1
4
1
1−
4
30
·
5
5
= .
3
9
Óïðàæíåíèÿ
Äëÿ ñëåäóþùèõ ñèñòåì ïðîâåñòè îäèí øàã
a) ìåòîäà ïðîñòîé èòåðàöèè;
b) ìåòîäà Çåéäåëÿ.
Îöåíèòü ïîãðåøíîñòü ïîëó÷åííîãî ïðèáëèæåíèÿ.
1.
1.1.



1
 6x1 + x2 − 2x3 = 1
x1 + 5x2 + x3 = 2 , x0 =  2 

x1 + 2x2 + 4x3 = 3
−1
1.2.



2x3 = −1
0
 −4x1 + x2 +
2x1 + 4x2 +
x3 = 2
, x0 =  −2 

x1
+3x3 = 1
1
1.3.



x3 = 2
2
 3x1 +
x1 + 5x2 + 2x3 = −1 , x0 =  4 

−x1 + x2 + 4x3 = 1
−1
1.4.

 −5x1 −

x1


x2 + x3 = 1
−1
3x2 − x3 = 1
, x0 =  3 
+ x2 − 3x3 = −3
0
1.5.



2
 3x1 + x2 − x3 = 2
2x1 + 4x2 + x3 = 2 , x0 =  −2 

1
x1 + 2x2 + 5x3 = 3
31
1.6.



1
 4x1 + x2 + 2x3 = 2
2x1 + 4x2 − x3 = −1 , x0 =  3 

−x1 + x2 + 5x3 = 3
−1
1.7.



−3
 6x1 + 2x2 − 3x3 = 2
2x1 + 5x2 + 2x3 = −1 , x0 =  2 

2x1 + x2 + 8x3 = 4
1
1.8.



2
 5x1 − x2 + 3x3 = 1
x1 + 3x2 − x3 = 4
, x0 =  1 

3x1 + x2 + 5x3 = −2
−1
32
Ÿ4. Ëèíåéíûå ñèñòåìû. Ðåäóêöèÿ ê ýêñòðåìàëüíûì çàäà÷àì
1. Âñïîìîãàòåëüíûå ðåçóëüòàòû
Ïóñòü ôóíêöèÿ f (x) îïðåäåëåíà íà ïðîñòðàíñòâå Rn .
Ôóíêöèÿ f (x) íàçûâàåòñÿ äèôôåðåíâ òî÷êå x ∈ Rn , åñëè äëÿ ëþáîãî ïðèðàùåíèÿ
∆x èìååò ìåñòî ïðåäñòàâëåíèå
Îïðåäåëåíèå 1.
öèðóåìîé
f (x + ∆x) − f (x) = hl(x), ∆xi + o(k ∆x k) ,
(1)
ãäå l(x) ∈ Rn , îñòàòîê o(k ∆x k) îáëàäàåò ñëåäóþùèì
ñâîéñòâîì
o(k ∆x k)
→ 0 , k ∆x k→ 0 .
(2)
k ∆x k
Îòìåòèì, ÷òî âåêòîð l(x) íàçûâàåòñÿ ãðàäèåíòîì ôóíêöèè f â òî÷êå x è îáîçíà÷àåòñÿ ÷åðåç ∇f (x). Âåêòîð −∇f (x)
íàçûâàåòñÿ àíòèãðàäèåíòîì ôóíêöèè f â òî÷êå x.
Ñîãëàñíî (1), ∇f (x) åñòü âåêòîð, ñîñòàâëåííûé èç
÷àñòíûõ ïðîèçâîäíûõ ôóíêöèè f :
∂f (x)
∂f (x)
∇f (x) =
.
...
∂x1
∂xn
Ïðèìåð 1.
Íàéòè ãðàäèåíò ôóíêöèè
1
f (x) = hx, Axi , AT = A .
2
33
Ðåøåíèå. Âîñïîëüçóåìñÿ îïðåäåëåíèåì 1. Ïîëó÷èì âûðàæåíèå äëÿ ïðèðàùåíèÿ ôóíêöèè f
1
1
f (x + ∆x) − f (x) = hx + ∆x, A(x + ∆x)i − hx, Axi =
2
2
1
1
= hx, Axi + hAx, ∆xi + h∆x, A∆xi−
2
2
1
1
− hx, Axi = hAx, ∆xi + h∆x, A∆xi .
2
2
Ïîêàæåì, ÷òî äëÿ âòîðîãî ñëàãàåìîãî âûïîëíÿåòñÿ ñâîéñòâî (2). Â ñîãëàñîâàííûõ íîðìàõ èìååì ñëåäóþùóþ îöåíêó
| h∆x, A∆xi |≤k ∆x k · k A∆x k≤k A k · k ∆x k2 .
Îòñþäà,
1
h∆x, A∆xi
2
→ 0 ïðè k ∆x k→ 0 .
k ∆x k
 ðåçóëüòàòå, ïîëó÷àåì
∇f (x) = Ax .
Ïîñòàâèì ñëåäóþùóþ çàäà÷ó: íàéòè òî÷êó x∗ ∈ Rn òàêóþ, ÷òî f (x∗ ) ≤ f (x) , ∀x ∈ Rn . Îòìåòèì, ÷òî â ýòîì
ñëó÷àå òî÷êà x∗ íàçûâàåòñÿ òî÷êîé ìèíèìóìà ôóíêöèè
f (x) íà Rn èëè ðåøåíèåì çàäà÷è íà ìèíèìóì
f (x) → min , x ∈ Rn .
34
(3)
Òåîðåìà 1. Ïóñòü ôóíêöèÿ f (x) äèôôåðåíöèðóåìà â
òî÷êå x∗ . Òîãäà, åñëè x∗ ðåøåíèå çàäà÷è (3), òî
∇f (x∗ ) = 0 .
(4)
Ïîä÷åðêíåì, ÷òî ðàâåíñòâî (4) ÿâëÿåòñÿ íåîáõîäèìûì
óñëîâèåì ìèíèìóìà ôóíêöèè f (x) â òî÷êå x∗ .
Âåêòîð p ∈ Rn íàçûâàåòñÿ íàïðàâëåíèåì ñïóñêà ôóíêöèè f â òî÷êå x, åñëè f (x + αp) < f (x)
äëÿ äîñòàòî÷íî ìàëûõ α.
Îïðåäåëåíèå 2.
Óòâåðæäåíèå 1. Ïóñòü ∇f (x) 6= 0 . Òîãäà âåêòîð p
ÿâëÿåòñÿ íàïðàâëåíèåì ñïóñêà, åñëè hp, ∇f (x)i < 0.
Íåòðóäíî âèäåòü, ÷òî âåêòîð p = −∇f (x) ÿâëÿåòñÿ íàïðàâëåíèåì ñïóñêà ôóíêöèè f (x) â òî÷êå x.
Óòâåðæäåíèå 2. Âåêòîð −∇f (x) óêàçûâàåò íàïðàâëåíèå ñêîðåéøåãî óáûâàíèÿ ôóíêöèè f â òî÷êå x.
Îòìåòèì, ÷òî äëÿ ôóíêöèè äâóõ ïåðåìåííûõ àíòèãðàäèåíò â òî÷êå x ïðåäñòàâëÿåò ñîáîé âåêòîð, ïåðïåíäèêóëÿðíûé êàñàòåëüíîé ê ëèíèè óðîâíÿ ôóíêöèè â ýòîé òî÷êå è íàïðàâëåííûé â ñòîðîíó óáûâàíèÿ ôóíêöèè. Óêàæåì ãåîìåòðè÷åñêóþ èíòåðïðåòàöèþ (x∗ òî÷êà ìèíèìóìà ôóíêöèè f (x)).
35
2. Ìåòîä ñêîðåéøåãî ñïóñêà
Ðàññìîòðèì ëèíåéíóþ ñèñòåìó
Ax = b ,
(5)
ãäå A (n×n) ñèììåòðè÷íàÿ, ïîëîæèòåëüíî îïðåäåëåííàÿ
ìàòðèöà:
AT = A , A > 0 .
(6)
Ñôîðìèðóåì ñëåäóþùóþ ôóíêöèþ
1
φ(x) = hx, Axi − hb, xi .
2
Îòìåòèì, ÷òî
∇φ(x) = Ax − b .
36
Ðàññìîòðèì ýêñòðåìàëüíóþ çàäà÷ó
φ(x) → min , x ∈ Rn .
(7)
Òî÷êà x∗ ÿâëÿåòñÿ ðåøåíèåì ñèñòåìû (5)
ñ óñëîâèåì (6) òîãäà è òîëüêî òîãäà, êîãäà x∗ ðåøåíèå
çàäà÷è (7).
Òåîðåìà 2.
Èíûìè ñëîâàìè, çàäà÷è (5)-(6) è (7) ýêâèâàëåíòíû.
Îïèøåì ìåòîä ïîñëåäîâàòåëüíûõ ïðèáëèæåíèé äëÿ ðåøåíèÿ çàäà÷è (7).
Ïóñòü íà k -òîì øàãå èòåðàöèîííîãî ïðîöåññà
(k = 0, 1, . . .) èìååòñÿ òî÷êà xk ∈ Rn . Ïîñòðîèì ñåìåéñòâî
òî÷åê
xk (α) = xk − α∇φ(xk )
(8)
ñ ÷èñëîâûì ïàðàìåòðîì α > 0.
Ðåøèì âñïîìîãàòåëüíóþ çàäà÷ó îòíîñèòåëüíî ïàðàìåòðà α
φ(xk (α)) → min , α > 0 .
(9)
Ïóñòü αk åå ðåøåíèå. Òîãäà ñëåäóþùåå ïðèáëèæåíèå
(xk+1 ) ñôîðìèðóåì ïî ïðàâèëó
xk+1 = xk (αk ) .
(10)
Ñîîòíîøåíèÿ (8)-(10) îïðåäåëÿþò ìåòîä ñêîðåéøåãî
ñïóñêà äëÿ çàäà÷è (7). Îòìåòèì, ÷òî óñëîâèåì îñòàíîâêè ìåòîäà ÿâëÿåòñÿ âûïîëíåíèå ðàâåíñòâà ∇φ(xk )) = 0
(Axk − b = 0). Ýòî îçíà÷àåò, ÷òî xk = x∗ .
37
Óêàæåì ðàñ÷åòíóþ ôîðìóëó äëÿ âåëè÷èíû αk . Îáîçíà÷èì gk (α) = φ(xk (α)). Òîãäà,
1
gk (α) = hxk − α∇φ(xk ), A(xk − α∇φ(xk ))i−
2
1
−hb, xk − α∇φ(xk )i = α2 h∇φ(xk ), A∇φ(xk )i−
2
−αh∇φ(xk ), ∇φ(xk )i + φ(xk ) .
Ôóíêöèÿ gk (α) åñòü âûïóêëàÿ ïàðàáîëà (êîýôôèöèåíò ïðè
α2 ïîëîæèòåëåí). Ïîýòîìó äëÿ ïîèñêà åå òî÷êè ìèíèìóìà
(áåç ó÷åòà îãðàíè÷åíèÿ α > 0) äîñòàòî÷íî ðåøèòü óðàâíåíèå
gk0 (α) = 0 .
 ðåçóëüòàòå ïîëó÷àåì
αk =
h∇φ(xk ), ∇φ(xk )i
.
h∇φ(xk ), A∇φ(xk )i
(11)
Ïîñêîëüêó αk > 0, òî äåëàåì âûâîä, ÷òî ôîðìóëà (11)
îïðåäåëÿåò ðåøåíèå çàäà÷è (9).
Ïðèìåð 2.
2x1 − x2 = 1
, x0 =
−x1 + 3x2 = 0
1
1
.
Ïðîâåñòè îäíó èòåðàöèþ ìåòîäà ñêîðåéøåãî ñïóñêà.
Ìàòðèöà A è âåêòîð b èìåþò âèä
2 −1
1
A=
, b=
.
−1
3
0
Ðåøåíèå.
38
Íàéäåì ãðàäèåíò ôóíêöèè φ â òî÷êå x0
1
0
1
2 −1
0
0
∇φ(x ) = Ax − b =
−
=
−1
3
1
0
2
Ïîäñ÷èòàåì çíà÷åíèå α0 ïî ôîðìóëå (11)
α0 =
4
1
h∇φ(x0 ), ∇φ(x0 )i
=
=
.
h∇φ(x0 ), A∇φ(x0 )i
12
3
Òîãäà,

1
x1 = x0 − α0 ∇φ(x0 ) = 
1


− 1
3
0

=
2
0
1
3
!
.
3. Ìåòîä ìèíèìàëüíûõ íåâÿçîê
Ðàññìîòðèì ëèíåéíóþ ñèñòåìó â ïîñòàíîâêå (5)-(6).
Ââåäåì âåêòîð íåâÿçîê
r(x) = Ax − b .
Ðàâåíñòâî r(x∗ ) = 0 îçíà÷àåò, ÷òî x∗ ÿâëÿåòñÿ ðåøåíèåì
ñèñòåìû (5). Îòìåòèì, ÷òî ∇φ(x) = r(x).
Îðãàíèçóåì ñëåäóþùèé èòåðàöèîííûé ïðîöåññ ïîèñêà ðåøåíèÿ çàäà÷è (5)-(6). Ïî èçâåñòíîìó ïðèáëèæåíèþ
xk , k = 0, 1, . . . ïîñòðîèì ñåìåéñòâî òî÷åê
xk (α) = xk − αr(xk )
39
ñ ïàðàìåòðîì α > 0. Çàìåòèì, ÷òî ýòî ïðàâèëî ñîâïàäàåò
ñ ôîðìóëîé (8) äëÿ ìåòîäà ñêîðåéøåãî ñïóñêà.
Äàëåå, â îòëè÷èå îò (9), ðåøèì âñïîìîãàòåëüíóþ çàäà÷ó íà ìèíèìóì íåâÿçêè
1
k r(xk (α)) k22 → min , α ∈ R .
2
Ïóñòü ðåøåíèåì ýòîé çàäà÷è ÿâëÿåòñÿ âåëè÷èíà αk . Òîãäà
îáðàçóåì ñëåäóþùåå ïðèáëèæåíèå
xk+1 = xk (αk ) .
Óïðàæíåíèå 1.
Äîêàçàòü, ÷òî
αk =
hr(xk ), Ar(xk )i
.
hAr(xk ), Ar(xk )i
(12)
Ïðèìåð 3.
x1 + x2 = 1
, x0 =
x1 + 3x2 = 1
−1
2
.
Ïðîâåñòè îäíó èòåðàöèþ ìåòîäà ìèíèìàëüíûõ íåâÿçîê.
Ðåøåíèå.
 äàííîé ñèòóàöèè
1 1
1
A=
, b=
.
1 3
1
Îïðåäåëèì âåêòîð íåâÿçîê
0
1 1
−1
1
0
0
r(x ) = Ax − b =
−
=
.
1 3
2
1
4
40
Âîñïîëüçóåìñÿ ôîðìóëîé (12) äëÿ âû÷èñëåíèÿ çíà÷åíèÿ
α0
hr(x0 ), Ar(x0 )i
48
α0 =
=
= 0.3 .
0
0
hAr(x ), Ar(x )i
160
 ðåçóëüòàòå ïîëó÷àåì
−1
0
1
1
0
0
x = x − α0 r(x ) =
− 0.3
=
.
2
4
0.8
4. Ìåòîä ìèíèìàëüíûõ îøèáîê
Ïðîäîëæèì èçó÷åíèå çàäà÷è (5). Îòìåòèì, ÷òî çäåñü
ìû íå òðåáóåì âûïîëíåíèÿ óñëîâèé (6). Ââåäåì â ðàññìîòðåíèå ñëåäóþùóþ ôóíêöèþ
ξ(x) =
1
k Ax − b k22 .
2
Ýòî íåâÿçêà ñèñòåìû (5) â òî÷êå x: ξ(x) ≥ 0 , ξ(x) = 0 ⇔
⇔ Ax = b.
Óïðàæíåíèå 2.
Ïîêàçàòü, ÷òî ∇ξ(x) = AT (Ax − b).
Íåòðóäíî âèäåòü, ÷òî çàäà÷à (5) ýêâèâàëåíòíà çàäà÷å
íà ìèíèìóì íåâÿçêè
ξ(x) → min , x ∈ Rn .
Ïîñòðîèì èòåðàöèîííûé ïðîöåññ ïîèñêà ðåøåíèÿ ëèíåéíîé ñèñòåìû (5) íà îñíîâå ξ(x).
41
Ïóñòü èìååòñÿ ïðèáëèæåíèå xk ∈ Rn , k = 0, 1, . . . .
Îáðàçóåì α-ïàðàìåòðè÷åñêîå ñåìåéñòâî òî÷åê
xk (α) = xk − α∇ξ(xk ) , α > 0 .
Íàéäåì âåëè÷èíó αk êàê ðåøåíèå çàäà÷è
1
k xk (α) − x∗ k22 → min , α > 0 ,
2
ãäå x∗ ðåøåíèå çàäà÷è (5).  ðåçóëüòàòå ïîëàãàåì
xk+1 = xk (αk ) .
Óïðàæíåíèå 3.
íèÿ
Äîêàçàòü ñïðàâåäëèâîñòü ñîîòíîøå-
αk =
x.
2ξ(xk )
.
h∇ξ(xk ), ∇ξ(xk )i
(13)
Îòìåòèì èíòåðåñíûé ôàêò: ôîðìóëà (13) íå çàâèñèò îò
∗
Ïðèìåð 4.
x1 − x2 = −1
, x0 =
2x1 + x2 = 2
0
1
.
Ïðîâåñòè îäíó èòåðàöèþ ìåòîäà ìèíèìàëüíûõ îøèáîê.
Ïàðàìåòðû çàäà÷è:
1 −1
−1
A=
, b=
.
2
1
2
Ðåøåíèå.
Íàéäåì ãðàäèåíò ôóíêöèè ξ â òî÷êå x0
∇ξ(x0 ) = AT (Ax0 − b) =
42
1 2
−1 1
1 −1
2
1
Òîãäà,
α0 =
0
1
−
−1
2
=
−2
−1
.
1
2ξ(x0 )
=
.
h∇ξ(x0 ), ∇ξ(x0 )i
5
Ñëåäîâàòåëüíî,


2


1 −2
0
 5 
1
0
0
x = x − α0 ∇ξ(x ) =
−
=
 .
1
5 −1
 6 
5
Ïîäâåäåì èòîã. Ìåòîäû, èçëîæåííûå â íàñòîÿùåì ðàçäåëå, îïèðàþòñÿ íà ðåäóêöèþ ëèíåéíîé ñèñòåìû ê çàäà÷àì íà ìèíèìóì è ðàçëè÷àþòñÿ ìåæäó ñîáîé, ïî ñóòè äåëà, õàðàêòåðîì âñïîìîãàòåëüíûõ ïîäçàäà÷ íà ïîèñê øàãà
αk . Â ìåòîäå ñêîðåéøåãî ñïóñêà íàõîäèòñÿ ìèíèìóì ôóíêöèè φ(x) âäîëü íàïðàâëåíèÿ åå àíòèãðàäèåíòà. Â ìåòîäå
ìèíèìàëüíûõ íåâÿçîê îáåñïå÷èâàåòñÿ íàèìåíüøåå çíà÷åíèå íåâÿçêè âäîëü òîãî æå íàïðàâëåíèÿ.  ìåòîäå ìèíèìàëüíûõ îøèáîê ãàðàíòèðóåòñÿ ìèíèìàëüíàÿ âåëè÷èíà
ïîãðåøíîñòè (îøèáêè) âäîëü íàïðàâëåíèÿ àíòèãðàäèåíòà
ôóíêöèè íåâÿçêè.
Óïðàæíåíèÿ
 ñëåäóþùèõ ñèñòåìàõ ïðîâåñòè îäíó èòåðàöèþ
a) ìåòîäà ñêîðåéøåãî ñïóñêà;
b) ìåòîäà ìèíèìàëüíûõ íåâÿçîê;
c) ìåòîäà ìèíèìàëüíûõ îøèáîê.
1.
43
1.1.

 
1
 2x1 + x2 − x3 = 1
x1 + 2x2 + 2x3 = 0 , x0 =  0 

−x1 + 2x2 + 5x3 = 0
0
1.2.



−1
 3x1 + x2 + x3 = −1
x1 + 3x2 + 2x3 = 2 , x0 =  0 

x1 + 2x2 + 2x3 = 1
1
1.3.

 
1
 2x1 − x2 + x3 = 1
0

−x1 + 3x2
=0 , x =
1 

x1 +
x3 = 1
0
1.4.

 3x1 +

x1
x2
− x2


x3 = 1
0
− x3 = −1 , x0 =  −1 
+ 2x3 = 1
1
1.5.

 
= −2
0
 x1 + x2
0

x1 + 3x2 + x3 = 0
0 
, x =

x2 + x3 = 0
1
1.6.

 
=0
0
 4x1 + x2
0

x1 + 2x2 + x3 = 2 , x =
0 

x2 + x3 = 0
1
44
1.7.

 x1

x1
3x2
− x2
 
+ x3 = −1
1
0

− x3 = 0
0 
, x =
+ 2x3 = 1
1
1.8.

 
0
 2x1 + x2 + x3 = 0
0

1 
x1 + x2 + x3 = −1 , x =

x1 + x2 + 2x3 = 1
0
45
Ÿ5. Ñèñòåìû ñ ïðÿìîóãîëüíûìè ìàòðèöàìè
Ðàññìîòðèì ëèíåéíóþ ñèñòåìó
Ax = b ,
(1)
ãäå A (m × n) ìàòðèöà êîýôôèöèåíòîâ, b ∈ Rm âåêòîð
ïðàâûõ ÷àñòåé. Îòìåòèì, ÷òî ñèñòåìà (1) ìîæåò íå èìåòü
ðåøåíèé (â îáû÷íîì ñìûñëå). Ðàñøèðèì ïîíÿòèå ðåøåíèÿ
ñèñòåìû (1). Ñôîðìóëèðóåì ýêñòðåìàëüíóþ çàäà÷ó íà ìèíèìóì íåâÿçêè
k Ax − b k2 → min , x ∈ Rn .
(2)
Ïåðåõîä îò (1) ê (2) íàçûâàåòñÿ ìåòîäîì íàèìåíüøèõ
êâàäðàòîâ.  îòëè÷èå îò (1), çàäà÷à (2) âñåãäà èìååò ðåøåíèå (âîçìîæíî íååäèíñòâåííîå).
Îïðåäåëåíèå 1.
Ïñåâäîðåøåíèåì
âàåòñÿ ëþáîå ðåøåíèå çàäà÷è (2).
ñèñòåìû (1) íàçû-
Åñëè ñèñòåìà (1) ñîâìåñòíà, òî åå ïñåâäîðåøåíèÿ ñîâïàäàþò ñ îáû÷íûìè ðåøåíèÿìè.  ýòîì ñëó÷àå çíà÷åíèå
çàäà÷è (2) ðàâíî íóëþ.
Îïðåäåëåíèå 2. Íîðìàëüíûì ïñåâäîðåøåíèåì ñèñòåìû (1) íàçûâàåòñÿ ïñåâäîðåøåíèå ñ íàèìåíüøåé íîðìîé.
Ïî çàäà÷å (2) ââåäåì â ðàññìîòðåíèå ôóíêöèþ
1
1
1
φ(x) = hAx − b, Ax − bi = hx, AT Axi − hx, AT bi + hb, bi .
2
2
2
Ïðè ýòîì, ∇φ(x) = AT (Ax − b) . Òîãäà çàäà÷à (2) ïðåäñòàâëÿåòñÿ â âèäå
φ(x) → min , x ∈ Rn
46
è ýêâèâàëåíòíà ëèíåéíîé ñèñòåìå
AT Ax = AT b
(3)
ñ (n×n) ñèììåòðè÷íîé, íåîòðèöàòåëüíî îïðåäåëåííîé ìàòðèöåé AT A.
Ñèñòåìà (3) íàçûâàåòñÿ íîðìàëüíîé ñèñòåìîé óðàâíåÎíà âñåãäà ñîâìåñòíà è ëþáîå åå ðåøåíèå åñòü ïñåâäîðåøåíèå ñèñòåìû (1).
íèé.
Ðàññìîòðèì ñëó÷àé m ≥ n , rankA = n (÷èñëî óðàâíåíèé íå ìåíüøå ÷èñëà íåèçâåñòíûõ è ìàòðèöà A èìååò
ïîëíûé ñòîëáöîâûé ðàíã). Òîãäà, êàê èçâåñòíî, ìàòðèöà
AT A íåâûðîæäåíà è åäèíñòâåííîå ðåøåíèå ñèñòåìû (3)
îïðåäåëÿåòñÿ ïî ôîðìóëå
x = (AT A)−1 AT b .
Îïðåäåëåíèå 3.
Ïñåâäîîáðàòíîé ìàòðèöåé
åòñÿ (n × m) ìàòðèöà âèäà A = (A A) A .
+
T
−1
íàçûâà-
T
Îòìåòèì, ÷òî ïñåâäîîáðàòíàÿ ìàòðèöà A+ îïðåäåëÿåò
íîðìàëüíîå ïñåâäîðåøåíèå ñèñòåìû (1): x = A+ b.
Åñëè m = n è ìàòðèöà A íåâûðîæäåíà, òî ïñåâäîîáðàòíàÿ ìàòðèöà ñîâïàäàåò ñ îáðàòíîé: A+ = A−1 .
Ïðèìåð.

 −x1 + 2x2 = 1
x1 + 3x2 = 3 .

3x1 − x2 = 1
Íàéòè íîðìàëüíîå ïñåâäîðåøåíèå.
Ðåøåíèå.
47
Ïðåäâàðèòåëüíî ñôîðìèðóåì ñèñòåìó (3):


−1
2
−1
1
3
T
3  , A =
A= 1
,
2 3 −1
3 −1
T
A A=
11 −2
−2 14
T
, A b=
5
10
,
11x1 − 2x2 = 5
.
−2x1 + 14x2 = 10
Äëÿ ïîèñêà åå ðåøåíèÿ âîñïîëüçóåìñÿ ìåòîäîì Ãàóññà,
îïèñàííûì ⠟2:


3
 5 


x∗ = 
 .
 4 
5
 ðåçóëüòàòå íàéäåíî íîðìàëüíîå ïñåâäîðåøåíèå èñõîäíîé
ñèñòåìû.
Óïðàæíåíèÿ
1.
Íàéòè íîðìàëüíîå ïñåâäîðåøåíèå
1.1.

 2x1 − x2 = 1
−x1 + x2 = 3

3x1 + x2 = −1
48
1.2.

 x1 + x2 = −1
x1 + 2x2 = −3

x1 + 3x2 = 3
1.3.
1.4.
1.5.

 2x1 + 2x2 = 1
x1 + 4x2 = 0

−x1 + 2x2 = −1




x1 +
x3
−x1 + x2
− x2 + 2x3



−x1 + 2x2 + x3







2.
2x2 +
−x1 +
x1 − x2
x1 + 2x2
x3 = 0
x3 = 1
+ 4x3 = 1
=0
Íàéòè ïñåâäîîáðàòíóþ ìàòðèöó
2.1.
2.2.


2 3
A= 1 1 
1 2


−3 1
A= 1 2 
1 1
49
=1
=2
=0
= −1
2.4
2.5


1
1 −1
 0
1
0 

A=
 1 −1
1 
1
3 −1

1
 1
A=
 0
1

1
1
2
1 

1
1 
1 −1
50
Ÿ6. Ïðîáëåìà ñîáñòâåííûõ çíà÷åíèé
1. Âñïîìîãàòåëüíûå îïðåäåëåíèÿ
Ïóñòü A êâàäðàòíàÿ ìàòðèöà ïîðÿäêà n. Íàïîìíèì,
÷òî ñîáñòâåííàÿ ïàðà (λ, x) ìàòðèöû A îïðåäåëÿåòñÿ ñîîòíîøåíèÿìè
Ax = λx , x 6= 0 .
Ïðîáëåìà ñîáñòâåííûõ çíà÷åíèé ñîñòîèò â ïîèñêå ñîáñòâåííûõ ÷èñåë λ è ñîîòâåòñòâóþùèõ ñîáñòâåííûõ âåêòîðîâ
x ìàòðèöû A.
Âûäåëèì íàèáîëåå ïðîñòîé ñëó÷àé äëÿ ïðîáëåìû ñîáñòâåííûõ çíà÷åíèé. Ïóñòü A äèàãîíàëüíàÿ ìàòðèöà: A =
= diag(a11 , . . . , ann ). Òîãäà åå ñîáñòâåííûå çíà÷åíèÿ ñîâïàäàþò ñ äèàãîíàëüíûìè ýëåìåíòàìè: λi = aii , i = 1, n. Â
êà÷åñòâå ñîîòâåòñòâóþùèõ ñîáñòâåííûõ âåêòîðîâ ìîæíî
âûáðàòü åäèíè÷íûå îðòû: xi = ei , i = 1, n.
Êâàäðàòíûå ìàòðèöû A, B ïîðÿäêà n
íàçûâàþòñÿ ïîäîáíûìè, åñëè ñóùåñòâóåò íåâûðîæäåííàÿ
ìàòðèöà P òàêàÿ, ÷òî B = P −1 AP . Ïðè ýòîì ìàòðèöà P
íàçûâàåòñÿ ìàòðèöåé ïîäîáèÿ, à ñîîòíîøåíèå P −1 AP ïðåîáðàçîâàíèåì ïîäîáèÿ.
Îïðåäåëåíèå 1.
Óïðàæíåíèå 1. Ïóñòü (λ, x) ñîáñòâåííàÿ ïàðà ìàòðèöû B = P −1 AP . Ïîêàçàòü, ÷òî (λ, P x) ñîáñòâåííàÿ
ïàðà ìàòðèöû A.
Òàêèì îáðàçîì, ïðåîáðàçîâàíèå ïîäîáèÿ ñîõðàíÿåò ñîáñòâåííûå ÷èñëà ìàòðèöû. Èíûìè ñëîâàìè, ïîäîáíûå ìàò51
ðèöû èìåþò îäèíàêîâûå ñîáñòâåííûå çíà÷åíèÿ.  ýòîì
ñëó÷àå ñîáñòâåííûå âåêòîðû ñâÿçàíû ÷åðåç ìàòðèöó ïîäîáèÿ ñëåäóþùèì îáðàçîì: x(A) = P x(B).
Îòìåòèì, ÷òî åñëè B äèàãîíàëüíàÿ ìàòðèöà, òî äèàãîíàëüíûå ýëåìåíòû ìàòðèöû B ÿâëÿþòñÿ ñîáñòâåííûìè
÷èñëàìè ìàòðèöû A, à ñòîëáöû ìàòðèöû P ñîáñòâåííûìè âåêòîðàìè A.
Ïóñòü P îðòîãîíàëüíàÿ ìàòðèöà.
Ïîêàçàòü, ÷òî ïðåîáðàçîâàíèå ïîäîáèÿ â ýòîì ñëó÷àå èìååò
âèä P T AP .
Óïðàæíåíèå 2.
Ïîêàçàòü, ÷òî îðòîãîíàëüíîå ïðåîáðàçîâàíèå ïîäîáèÿ ñîõðàíÿåò ñâîéñòâî ñèììåòðè÷íîñòè.
Óïðàæíåíèå 3.
Ïîêàçàòü, ÷òî îðòîãîíàëüíîå ïðåîáðàçîâàíèå ïîäîáèÿ ñîõðàíÿåò íîðìó Ôðîáåíèóñà ìàòðèöû
A.
Óïðàæíåíèå 4.
Óòâåðæäåíèå. Ñèììåòðè÷íàÿ ìàòðèöà A ïîäîáíà äèàãîíàëüíîé ñ îðòîãîíàëüíîé ìàòðèöåé ïîäîáèÿ.
Ðàññìîòðèì îäèí ìåòîä, ðåøàþùèé ïðîáëåìó ñîáñòâåííûõ çíà÷åíèé äëÿ ñèììåòðè÷íîé ìàòðèöû.
2. Ìåòîä âðàùåíèé
Ïóñòü a ∈ R2 âåêòîð ñ êîîðäèíàòàìè u, v . Ïîñòðîèì âåêòîð a0 = (u0 , v 0 ), ïîâåðíóâ âåêòîð a âîêðóã íà÷àëà
êîîðäèíàò íà óãîë φ ïðîòèâ ÷àñîâîé ñòðåëêè
52
y
6
a0
v
v
0
a
*
φ
0
u
-
0
x
u
Èçâåñòíî, ÷òî êîîðäèíàòû âåêòîðà a0 ñâÿçàíû ñ êîîðäèíàòàìè âåêòîðà a ñîîòíîøåíèÿìè
u0 = u cos φ − v sin φ ,
v 0 = u sin φ + v cos φ .
Ââåäåì â ðàññìîòðåíèå ìàòðèöó
cos φ − sin φ
U=
.
sin φ
cos φ
(1)
Òîãäà ìîæíî çàïèñàòü a0 = U a. Ïðè ýòîì ìàòðèöó U íàçûâàþò ìàòðèöåé âðàùåíèÿ, ñîîòíîøåíèå a0 = U a ïðåîáðàçîâàíèåì âðàùåíèÿ, φ óãëîì ïîâîðîòà.
Óïðàæíåíèå 5.
îðòîãîíàëüíîé
Ïîêàçàòü, ÷òî ìàòðèöà U ÿâëÿåòñÿ
53
Ïóñòü A ñèììåòðè÷íàÿ ìàòðèöà ïîðÿäêà 2 (a12 =
= a21 ). Ðàññìîòðèì ïðåîáðàçîâàíèå ïîäîáèÿ ñ ìàòðèöåé
âðàùåíèÿ C = U T AU . Îòìåòèì, ÷òî ìàòðèöà C ÿâëÿåòñÿ
òàêæå ñèììåòðè÷íîé: c12 = c21 .
Ïîêàçàòü, ÷òî åñëè
1
2a12
φ = arctg
,
2
a11 − a22
òî C äèàãîíàëüíàÿ ìàòðèöà.
Óïðàæíåíèå 6.
(2)
Ïðèìåð 1.
√ 4
3
A= √
.
3
2
Èñïîëüçóÿ ìàòðèöó âðàùåíèÿ, íàéòè ñîáñòâåííûå ïàðû
ìàòðèöû A.
Ðàññìîòðèì ïðåîáðàçîâàíèå âðàùåíèÿ ñ ìàòðèöåé (1), ãäå óãîë ïîâîðîòà φ ïîäñ÷èòàåì ïî ïðàâèëó (2).
 ðåçóëüòàòå èìååì
√
1
π
φ = arctg 3 = ,
2
6
 √

3
1
 2 −2 


U =
 .
√


1
3
2 2
Òîãäà
 √
 √


3
1
3
1
√


4
3  2 −2 
 2
2 



T

U AU = 
 √

=
√
√




1
3
3
2
1
3
−
2 2
2 2
Ðåøåíèå.
54

5 0
=

=C.
0 1
Ñëåäîâàòåëüíî, ñîáñòâåííûìè ÷èñëàìè ìàòðèöû A ÿâëÿþòñÿ äèàãîíàëüíûå ýëåìåíòû ìàòðèöû C : λ1 = 5 , λ2 = 1.
Ñîîòâåòñòâóþùèå èì ñîáñòâåííûå âåêòîðà ýòî ñòîëáöû
ìàòðèöû U :


 √ 
1
3
−
 2 
 2 




x1 = 
 , x2 =  √  .
 3 
 1 
2
2
Ðàññìîòðèì n-ìåðíûé ñëó÷àé, êîãäà A ñèììåòðè÷íàÿ ìàòðèöà ïîðÿäêà n. Òîãäà, àíàëîãè÷íûå êîíñòðóêöèè
èìåþò âèä:
ìàòðèöà âðàùåíèÿ (p < q)

1

..
.



cos φ

..
Upq (φ) = 
.


sin φ




. . . − sin φ
..
..
.
.
...
cos φ
..



 p



 q



.
1
ïðåîáðàçîâàíèå âðàùåíèÿ
C = Upq (φ)T AUpq (φ) ;
55
óãîë ïîâîðîòà
1
2apq
φ(p, q) = arctg
.
2
app − aqq
Äëÿ ìàòðèöû A ââåäåì âåëè÷èíó
n
X
∆(A) =
a2ij ,
i, j = 1
i 6= j
ïðåäñòàâëÿþùóþ ñîáîé ñóììó êâàäðàòîâ âíåäèàãîíàëüíûõ ýëåìåíòîâ ìàòðèöû A. Âåëè÷èíà ∆(A) õàðàêòåðèçóåò ìåðó "áëèçîñòè"ìàòðèöû A ê äèàãîíàëüíîé: ∆(A) ≥
≥ 0 , ∆(A) = 0 ⇔ A äèàãîíàëüíàÿ ìàòðèöà.
Îïèøåì èòåðàöèîííûé ìåòîä, ðåøàþùèé ïðîáëåìó
ñîáñòâåííûõ çíà÷åíèé ìåòîä âðàùåíèé.
Îáîçíà÷èì A0 = A è ðàññìîòðèì îáùèé øàã ìåòîäà.
Ïóñòü ïîñòðîåíà ñèììåòðè÷íàÿ ìàòðèöà Ak , ïîäîáíàÿ A0 .
Íàéäåì íàèáîëüøèé ïî ìîäóëþ íàääèàãîíàëüíûé ýëåìåíò
(k)
ìàòðèöû Ak . Ïóñòü ýòî áóäåò apq (âåäóùèé ýëåìåíò íà k òîì øàãå):
(k)
| a(k)
pq |= max | aij | , p < q .
1≤i<j≤n
(k)
Åñëè apq = 0, òî Ak äèàãîíàëüíàÿ ìàòðèöà è ìåòîä çàâåðøàåòñÿ: ñîáñòâåííûå ÷èñëà A ñîâïàäàþò ñ äèàãîíàëüíûìè
ýëåìåíòàìè Ak .
(k)
Ðàññìîòðèì îáùèé ñëó÷àé, êîãäà apq 6= 0. Ïðèìåíèì ê
ìàòðèöå Ak ïðåîáðàçîâàíèå ïîäîáèÿ ñ ìàòðèöåé âðàùåíèÿ
56
Upq = Upq (φ) , φ = φ(p, q).  ðåçóëüòàòå ïîëó÷àåì ñëåäóþùåå ìàòðè÷íîå ïðèáëèæåíèå
T
Ak+1 = Upq
Ak Upq .
Îòìåòèì ñâîéñòâà íîâîãî ïðèáëèæåíèÿ:
1) ìàòðèöà Ak+1 ñèììåòðè÷íà è ïîäîáíà Ak ;
(k+1)
2) apq
= 0 , k Ak+1 kF =k A kF ;
3) ìàòðèöà Ak+1 "áëèæå"ê äèàãîíàëüíîé, ÷åì Ak :
(k)
∆(Ak+1 ) = ∆(Ak ) − 2(apq )2 .
Ïðè ýòîì èìååò ìåñòî ñõîäèìîñòü: ∆(Ak ) → 0 , k → ∞.
Ïóñòü > 0 çàäàííàÿ òî÷íîñòü ïðèáëèæåíèÿ ê äèàãîíàëüíîé ìàòðèöå. Çà êîíå÷íîå ÷èñëî èòåðàöèé ìåòîäà âðàùåíèé ïðèäåì ê íåðàâåíñòâó ∆(Ak+1 ) ≤ . Òîãäà λi (A) ≈
(k+1)
≈ aii
, i = 1, n.
Îáñóäèì âîïðîñ î âû÷èñëåíèè ñîáñòâåííûõ âåêòîðîâ
ìàòðèöû A. Ïóñòü ìåòîä îñòàíîâëåí ïîñëå k -òîé èòåðàöèè
(k+1)
(k+1)
(Ak+1 ≈ diag(a11 , . . . , ann )). Ââåäåì îáîçíà÷åíèå: Uk ìàòðèöà âðàùåíèÿ íà k -òîé èòåðàöèè.
Ïîêàçàòü, ÷òî â êà÷åñòâå ïðèáëèæåííûõ ïðåäñòàâëåíèé äëÿ ñîáñòâåííûõ âåêòîðîâ ìàòðèöû A
ìîæíî âûáðàòü ñòîëáöû ìàòðèöû Pk = U0 U1 . . . Uk .
Óïðàæíåíèå 7.
Ïðèìåð.
√ 
2
0 2 3
1  .
A =  √0 −1
2 3
1 −2

Ïðîâåñòè îäèí øàã ìåòîäà âðàùåíèé.
Ðåøåíèå.
Îáîçíà÷èì A0 = A. Íàéäåì âåëè÷èíó
√
∆(A0 ) = 2 · (2 3)2 + 2 = 26 .
57
Îïðåäåëèì íàèáîëüøèé ïî ìîäóëþ íàääèàãîíàëüíûé ýëåìåíò ìàòðèöû A0 :
√
(0)
(0)
max | aij |= 2 3 = a13 .
1≤i<j≤3
(0)
 äàííîì ñëó÷àå p = 1 , q = 3. Ïîñêîëüêó a13 6= 0, òî
ïîäñ÷èòàåì óãîë ïîâîðîòà
(0)
√
1
2a13
1
π
φ = φ(1, 3) = arctg (0)
=
arctg
3= .
(0)
2
2
6
a11 − a33
Òîãäà ìàòðèöà âðàùåíèÿ ïðèìåò âèä

π
π
0 − sin
cos
6
6



1
0
U13 = U13 (φ) = 
 0


π
π
sin
0 cos
6
6
 √

3
1
 2 0 −2 






0  .
= 0 1




√


1
3
0
2
2
58




=



 èòîãå îïðåäåëèì ñëåäóþùåå ïðèáëèæåíèå


1
0 
 4
2



√ 


3 
 1
T
A1 = U13 A0 U13 = 
 .
−1
 2
2 




√


3
−4
0
2
Âû÷èñëèì âåëè÷èíó
(0)
∆(A1 ) = ∆(A0 ) − 2(a13 )2 = 26 − 24 = 2 .
Óïðàæíåíèÿ
1.
Ïðîâåñòè îäèí øàã ìåòîäà âðàùåíèé
1.1.
1.2.
1.3.
√

3
1
3
√
A= 3
1 −1 
1 −1
2



1
0
√2

A= 0
√5 −3 3
2 −3 3
−1
√ 
−3 1 4 3
0 
A =  √1 1
4 3 0
5

59
1.4.
1.5.

1
0 √
−1 0
 0
3 0 

√1
A=
 −1
3
3 1 
0
0
1 1


−1
2
 2
4
A=
 0
1
√
0 3 3
60

0 √0
1 3 3 

1
0 
0 −2
Ÿ7. Ìåòîäû ðåøåíèÿ íåëèíåéíûõ óðàâíåíèé
Ðàññìîòðèì íåïðåðûâíóþ ôóíêöèþ f (x), îïðåäåëåííóþ íà îòðåçêå [a, b] ÷èñëîâîé îñè. Ïîñòàâèì çàäà÷ó ðåøåíèÿ óðàâíåíèÿ
f (x) = 0 .
(1)
1. Ìåòîä èòåðàöèé
Ïðåäñòàâèì óðàâíåíèå (1) â ýêâèâàëåíòíîì âèäå
x = φ(x) .
(2)
Ïîñòðîèì ñëåäóþùèé èòåðàöèîííûé ïðîöåññ
xk+1 = φ(xk ) , k = 0, 1, . . . ,
(3)
ãäå x0 çàäàííîå íà÷àëüíîå ïðèáëèæåíèå. Ñõåìà (3) íàçûâàåòñÿ ìåòîäîì èòåðàöèé.
Òåîðåìà 1 (î ñõîäèìîñòè ìåòîäà èòåðàöèé). Ïóñòü
1) ôóíêöèÿ φ(x) îïðåäåëåíà â îáëàñòè
S = {x : | x − x0 |≤ δ , δ > 0} ;
2) äëÿ ëþáûõ x, y èç îáëàñòè S âûïîëíÿåòñÿ óñëîâèå
| φ(x) − φ(y) |≤ q | x − y | , 0 ≤ q < 1 ;
3) ñïðàâåäëèâî íåðàâåíñòâî
| φ(x0 ) − x0 |= r ≤ (1 − q)δ .
61
Òîãäà â ìåòîäå èòåðàöèé
1) xk ∈ S , k = 1, 2, . . .;
2) ïîñëåäîâàòåëüíîñòü {xk } ñõîäèòñÿ: xk → x∗ , k → ∞,
ãäå x∗ ∈ S ðåøåíèå óðàâíåíèÿ (2);
3) ñïðàâåäëèâà îöåíêà ïîãðåøíîñòè
| xk − x∗ |≤
r k
q , k = 1, 2, . . . .
1−q
(4)
Çàìå÷àíèå. Åñëè ôóíêöèÿ φ(x) íåïðåðûâíî äèôôåðåíöèðóåìà â îáëàñòè S , òî íåðàâåíñòâî | φ0 (x) |≤ q <
< 1 , x ∈ S îáåñïå÷èâàåò âûïîëíåíèå óñëîâèÿ 2).
Ïðèìåð 1.
1 2
5
1
1
1
x − x + = 0 , x0 = , S = {x : | x − |≤ } .
4
9
3
3
2
Òðåáóåòñÿ:
a) ïðîâåðèòü óñëîâèÿ òåîðåìû 1;
b) ìåòîäîì èòåðàöèé íàéòè x1 ;
c) îöåíèòü ïîãðåøíîñòü ïîëó÷åííîãî ïðèáëèæåíèÿ.
Ðåøåíèå.
äå
Äàííîå óðàâíåíèå ìîæíî ïðåäñòàâèòü â âè-
1
5
x = x2 + .
4
9
Ñëåäîâàòåëüíî,
1
5
φ(x) = x2 + .
4
9
Ïðîâåðèì óñëîâèÿ òåîðåìû 1. Ïåðâîå óñëîâèå, íåñîìíåííî, âûïîëíåíî. Ïîñêîëüêó,
1
5
| φ0 (x) |=| x |≤
< 1 , ïðè x ∈ S ,
2
12
62
òî è âòîðîå óñëîâèå âûïîëíåíî. Ïðè ýòîì, q = 5/12. Ïðèñòóïèì ê ïðîâåðêå òðåòüåãî óñëîâèÿ. Çàìåòèì, ÷òî â íàøåì ñëó÷àå
δ=
1
7
1
1
, | φ(x0 ) − x0 |=|
− |= = r .
2
12 3
4
Òîãäà,
7
1
< (1 − q)δ =
.
4
24
Ñëåäîâàòåëüíî, âñå óñëîâèÿ òåîðåìû 1 âûïîëíåíû. Äàëåå,
ïîäñ÷èòàåì x1 ïî ìåòîäó èòåðàöèé
r=
x1 = φ(x0 ) =
7
.
12
Íàêîíåö, èñïîëüçóåì íåðàâåíñòâî (4) äëÿ îöåíêè ïîãðåøíîñòè
1
5
5
4
·
=
≈ 0.18 .
| x1 − x∗ |≤
5 12
28
1−
12
Èññëåäóåì âîïðîñ îá ýôôåêòèâíîé ðåäóêöèè óðàâíåíèÿ (1) ê âèäó (2), óäîáíîìó äëÿ èòåðàöèé.
Ïðåäïîëîæèì, ÷òî ôóíêöèÿ f (x) íåïðåðûâíî äèôôåðåíöèðóåìà â îáëàñòè S , ïðè÷åì, ïðîèçâîäíàÿ f 0 óäîâëåòâîðÿåò óñëîâèÿì
f 0 (x) < 0 , 0 < m ≤| f 0 (x) |≤ M , x ∈ S
ñ èçâåñòíûìè ïîñòîÿííûìè m, M .
Çàäàäèì ôóíêöèþ φ(x) â âèäå
φ(x, α) = x + αf (x) ,
63
ãäå α > 0 ÷èñëîâîé ïàðàìåòð.
Âûáåðåì ïàðàìåòð α òàêèì îáðàçîì, ÷òîáû îáåñïå÷èòü
ñõîäèìîñòü ìåòîäà èòåðàöèé xk+1 = φ(xk , α) , k = 0, 1, . . .
ê êîðíþ x∗ ñ ìàêñèìàëüíî âîçìîæíîé ñêîðîñòüþ. Äëÿ ýòîãî íåîáõîäèìî:
1) ðåøèòü íåðàâåíñòâî | φ0 (x, α) |≤ q(α) < 1 , x ∈ S îòíîñèòåëüíî α;
2) íàéòè çíà÷åíèå α∗ , êîòîðîå äîñòàâëÿåò ìèíèìóì ôóíêöèè q(α).
Ïðèñòóïèì ê âûïîëíåíèþ ïîñòàâëåííûõ çàäà÷. Íàéäåì
âûðàæåíèå äëÿ q(α). Îòìåòèì, ÷òî φ0 (x, α) = 1 + αf 0 (x),
ïðè÷åì,
−M ≤ f 0 (x) ≤ −m , x ∈ S .
Îòñþäà,
1 − αM ≤ 1 + αf 0 (x) ≤ 1 − αm ,
Òîãäà, äëÿ x ∈ S èìååì
| φ0 (x, α) |=| 1 + αf 0 (x) |≤
∆
≤ max{| 1 − αm | , | 1 − αM |} = q(α) .
Ðåøèì íåðàâåíñòâî q(α) < 1. Ñîãëàñíî îïðåäåëåíèþ
ôóíêöèè q(α), íåîáõîäèìî ðåøèòü ñèñòåìó èç äâóõ íåðàâåíñòâ
| 1 − αm |< 1
.
| 1 − αM |< 1
Åå ðåøåíèå èìååò âèä: 0 < α < 2/M . Ñëåäîâàòåëüíî, ïðè
0 < α < 2/M èìååì q(α) < 1.
Çàìåòèì, ÷òî â ñîîòâåòñòâèè ñ óòâåðæäåíèåì 3) òåîðåìû 1, âåëè÷èíà q(α) õàðàêòåðèçóåò ñêîðîñòü ñõîäèìîñòè
64
xk → x∗ , k → ∞, à èìåííî, ÷åì ìåíüøå q(α), òåì áûñòðåå ñõîäèìîñòü. Ïîñòàâèì çàäà÷ó ïîèñêà îïòèìàëüíîãî
çíà÷åíèÿ α∗ ∈ (0, 2/M ) èç óñëîâèÿ
q(α∗ ) = min2 q(α) .
0<α< M
Óïðàæíåíèå 1.
Ïîêàçàòü, ÷òî
α∗ =
2
.
m+M
(5)
Òàêèì îáðàçîì, ôóíêöèþ φ(x) â óðàâíåíèè (2) ìîæíî
ïðåäñòàâèòü â âèäå
φ(x) = x + α∗ f (x) ,
ãäå âåëè÷èíà α∗ âû÷èñëÿåòñÿ ïî ïðàâèëó (5).
2. Ìåòîä Íüþòîíà
Ðàññìîòðèì çàäà÷ó ðåøåíèÿ óðàâíåíèÿ (1) â ïðåäïîëîæåíèè íåïðåðûâíîé äèôôåðåíöèðóåìîñòè ôóíêöèè f (x).
Ïóñòü x0 çàäàííîå íà÷àëüíîå ïðèáëèæåíèå. Ïðîâåäåì ëèíåàðèçàöèþ ôóíêöèè f â îêðåñòíîñòè òî÷êè x0 ñ
ïîìîùüþ ôîðìóëû Òåéëîðà
f (x) = f (x0 ) + f 0 (x0 )(x − x0 ) + o(| x − x0 |) .
Ïðåíåáðåãàÿ îñòàòî÷íûì ÷ëåíîì ðàçëîæåíèÿ, ïðèõîäèì ê
ëèíåéíîìó óðàâíåíèþ
f (x0 ) + f 0 (x0 )(x − x0 ) = 0 ,
65
ðåøåíèå êîòîðîãî ïðèíèìàåì çà ñëåäóþùåå ïðèáëèæåíèå
x1 = x0 −
f (x0 )
.
f 0 (x0 )
Äàëåå, ïîâòîðèì ïðîöåäóðó îòíîñèòåëüíî òî÷êè x1 .  ðåçóëüòàòå ïîëó÷èì ñëåäóþùóþ èòåðàöèîííóþ ôîðìóëó
xk+1 = xk −
f (xk )
, k = 0, 1, . . . .
f 0 (xk )
(6)
Èòåðàöèîííàÿ ïðîöåäóðà (6) íàçûâàåòñÿ ìåòîäîì Íüþòîíà äëÿ ðåøåíèÿ óðàâíåíèÿ (1).
Óêàæåì ãåîìåòðè÷åñêèé ñìûñë ôîðìóëû (6).
Ïóñòü íà êîîðäèíàòíîé ïëîñêîñòè èìååòñÿ òî÷êà
M (xk , f (xk )). Ïðîâåäåì êàñàòåëüíóþ ê êðèâîé y = f (x)
â òî÷êå M . Óðàâíåíèå ýòîé êàñàòåëüíîé èìååò âèä
y − f (x0 ) = f 0 (x0 )(x − x0 ) .
66
Ïîëàãàÿ çäåñü y = 0 (ïåðåñå÷åíèå êàñàòåëüíîé ñ îñüþ 0x),
è, ðåøàÿ ïîëó÷åííîå óðàâíåíèå îòíîñèòåëüíî x, ïðèõîäèì
ê ôîðìóëå (6).
Îòìåòèì äðóãîå íàçâàíèå ìåòîäà Íüþòîíà ìåòîä êàñàòåëüíûõ.
Ñôîðìóëèðóåì óñëîâèÿ ìîíîòîííîé ñõîäèìîñòè ìåòîäà Íüþòîíà.
Ïóñòü ôóíêöèÿ f (x) äâàæäû íåïðåðûâíî
äèôôåðåíöèðóåìà íà îòðåçêå [a, b] è óðàâíåíèå (1) èìååò
åäèíñòâåííûé êîðåíü x∗ íà [a, b]. Åñëè âûïîëíåíû óñëîâèÿ
çíàêîïîñòîÿíñòâà ïðîèçâîäíûõ
Òåîðåìà 2.
f 0 (x) > 0 , f 00 (x) > 0 , x ∈ [a, b] èëè
f 0 (x) < 0 , f 00 (x) < 0 , x ∈ [a, b] ,
(7)
òî ïîñëåäîâàòåëüíîñòü {xk }, âûðàáàòûâàåìàÿ ìåòîäîì
Íüþòîíà, ïðè âûáîðå x0 = b ìîíîòîííî óáûâàåò è ñõîäèòñÿ ê êîðíþ x∗ .
Åñëè óñëîâèÿ (7) çàìåíèòü íà ñëåäóþùèå
f 0 (x) > 0 , f 00 (x) < 0 , x ∈ [a, b] èëè
f 0 (x) < 0 , f 00 (x) > 0 , x ∈ [a, b] ,
òî ïîñëåäîâàòåëüíîñòü {xk } ïðè x0 = a ìîíîòîííî âîçðàñòàåò è ñõîäèòñÿ ê x∗ .
Äëÿ îöåíêè ïîãðåøíîñòè k -ãî ïðèáëèæåíèÿ ìîæíî âîñïîëüçîâàòüñÿ íåðàâåíñòâîì
| xk − x∗ |≤
67
| f (xk ) |
,
m
ãäå m = min | f 0 (x) |.
a≤x≤b
Ïðèìåð 2.
6x2 − 17x + 5 = 0 .
Íàéòè îòðåçêè ëîêàëèçàöèè êîðíåé óðàâíåíèÿ è, âûáðàâ
íà÷àëüíîå ïðèáëèæåíèå x0 , ïðîâåñòè ïî îäíîé èòåðàöèè
ìåòîäà Íüþòîíà.
Äëÿ îïðåäåëåíèÿ ãðàíèö ðàñïîëîæåíèÿ êîðíåé (îòðåçêîâ ëîêàëèçàöèè) ñîñòàâèì ñëåäóþùóþ òàáëèöó
Ðåøåíèå.
x
0 1
2 3
f (x) 5 −6 −5 8
Îòñþäà âèäíî, ÷òî êîðíè èñõîäíîãî óðàâíåíèÿ ðàñïîëîæåíû íà îòðåçêàõ [0, 1] è [2, 3]. Ïîñëåäîâàòåëüíî ïðèìåíèì
ìåòîä Íüþòîíà äëÿ êàæäîãî îòðåçêà.
1) Ïóñòü [a, b] = [0, 1]. Îïðåäåëèì çíàêè ïðîèçâîäíûõ
ôóíêöèè f (x) íà ýòîì îòðåçêå
f 0 (x) = 12x − 17 < 0 , f 00(x) = 12 > 0 , 0 ≤ x ≤ 1 .
Ñëåäîâàòåëüíî, ïîëàãàÿ x0 = a = 0, èìååì
x1 = x0 −
f (x0 )
5
=
≈ 0.29 .
f 0 (x0 )
17
2) Âûáåðåì òåïåðü [a, b] = [2, 3]. Òîãäà,
f 0 (x) = 12x − 17 > 0 , f 00(x) = 12 > 0 , 2 ≤ x ≤ 3 .
Íà÷àëüíîå ïðèáëèæåíèå â ýòîì ñëó÷àå x0 = b = 3 è
x1 = 3 −
49
8
=
≈ 2.58 .
19
19
68
3. Ìåòîäû ñîêðàùåíèÿ èíòåðâàëà ëîêàëèçàöèè
Ïðîäîëæèì èçó÷åíèå óðàâíåíèÿ (1).
Ïóñòü èçâåñòåí îòðåçîê [a, b] ñ óñëîâèåì f (a) · f (b) < 0.
Ýòî îçíà÷àåò, ÷òî èñêîìûé êîðåíü x∗ ëåæèò â ïðåäåëàõ
èíòåðâàëà (a, b). Áóäåì ñ÷èòàòü, ÷òî îí åäèíñòâåííûé íà
(a, b). Òîãäà ïðîìåæóòîê (a, b) íàçûâàåòñÿ èíòåðâàëîì ëîêàëèçàöèè è ãîâîðÿò, ÷òî ðåøåíèå x∗ ëîêàëèçîâàíî â ïðåäåëàõ (a, b).
Ïóñòü > 0 çàäàííàÿ òî÷íîñòü ðåøåíèÿ óðàâíåíèÿ
(1). Òîãäà çàäà÷ó (1) ìîæíî ñ÷èòàòü ðåøåííîé, åñëè íàéäåí
èíòåðâàë ëîêàëèçàöèè (a, b) ñ óñëîâèåì b−a ≤ .  êà÷åñòâå
ïðèáëèæåííîãî ðåøåíèÿ óðàâíåíèÿ (1) â ýòîì ñëó÷àå ìîæåò áûòü âûáðàíà ëþáàÿ òî÷êà x ∈ (a, b). Ïðè ýòîì ãàðàíòèðîâàíî âûïîëíÿåòñÿ îöåíêà ïîãðåøíîñòè | x − x∗ |< .
Ðàññìîòðèì ìåòîäû ïîñëåäîâàòåëüíîãî óìåíüøåíèÿ
äëèíû èíòåðâàëà ëîêàëèçàöèè, èñïîëüçóþùèå òîëüêî çíà÷åíèÿ ôóíêöèè f .
Îïèøåì îáùóþ ñõåìó ìåòîäîâ òàêîãî òèïà.
1) Ïóñòü íà k -òîì øàãå èòåðàöèîííîãî ïðîöåññà ïîëó÷åí
èíòåðâàë ëîêàëèçàöèè (ak , bk ) , k = 0, 1, . . . .
2) Âûáåðåì òî÷êó xk ∈ (ak , bk ).
3) Åñëè f (xk ) = 0, òî x∗ = xk è ìåòîä ïðåêðàùàåò ñâîþ
ðàáîòó (êîðåíü óðàâíåíèÿ (1) íàéäåí).
4) Ïóñòü f (xk ) 6= 0. Òîãäà
åñëè f (xk ) · f (ak ) < 0, òî (ak+1 , bk+1 ) = (ak , xk );
åñëè f (xk ) · f (bk ) < 0, òî (ak+1 , bk+1 ) = (xk , bk ).
 ðåçóëüòàòå ïîëó÷àåì èíòåðâàë ëîêàëèçàöèè (ak+1 , bk+1 )
69
ñ óñëîâèåì bk+1 − ak+1 < bk − ak .
Êîíêðåòíûå ìåòîäû ýòîãî òèïà ðàçëè÷àþòñÿ òîëüêî âûáîðîì òî÷êè xk â ïðåäåëàõ èíòåðâàëà ëîêàëèçàöèè. Óêàæåì íàèáîëåå èçâåñòíûå âàðèàíòû òàêîãî âûáîðà.
4. Ìåòîä ïîëîâèííîãî äåëåíèÿ
Âûáåðåì â êà÷åñòâå òî÷êè xk ñåðåäèíó îòðåçêà [ak , bk ]:
xk = (ak + bk )/2. Òàêîé âûáîð ñîêðàùàåò äëèíó èíòåðâàëà
ëîêàëèçàöèè âäâîå: bk+1 − ak+1 = (bk − ak )/2. Åñëè [a0 , b0 ]
íà÷àëüíûé èíòåðâàë ëîêàëèçàöèè, òî
bk+1 − ak+1 =
b k − ak
bk−1 − ak−1
=
=
2
4
b 0 − a0
.
2k
Îòñþäà ñëåäóåò, ÷òî xk → x∗ , k → ∞ ñî ñêîðîñòüþ ãåîìåòðè÷åñêîé ïðîãðåññèè ñî çíàìåíàòåëåì 1/2.
= ... =
Óêàæåì îäíî ýêñòðåìàëüíîå ñâîéñòâî òî÷êè xk â ìåòîäå ïîëîâèííîãî äåëåíèÿ. Âûáåðåì ïðîèçâîëüíûì îáðàçîì
íåêîòîðóþ òî÷êó x ∈ (ak , bk ). Òîãäà, ïîãðåøíîñòü òàêîãî
âûáîðà îöåíèâàåòñÿ ñëåäóþùèì îáðàçîì
∆
| x − x∗ |< max{bk − x, x − ak } = φ(x) .
Ïîêàçàòü, ÷òî âûáîð òî÷êè xk â ìåòîäå ïîëîâèííîãî äåëåíèÿ ÿâëÿåòñÿ íàèëó÷øèì â ñìûñëå
îöåíêè ïîãðåøíîñòè φ(x).
Óïðàæíåíèå 2.
70
Ïðèìåð 3.
3x2 − 8x + 4 = 0 .
Ïðîâåñòè îäíó èòåðàöèþ ìåòîäà ïîëîâèííîãî äåëåíèÿ äëÿ
ïîèñêà íàèìåíüøåãî êîðíÿ óðàâíåíèÿ.
Íåòðóäíî âèäåòü, ÷òî â êà÷åñòâå íà÷àëüíîãî èíòåðâàëà ëîêàëèçàöèè (a0 , b0 ) ìîæíî âûáðàòü èíòåðâàë (0, 1). Òîãäà, x0 = 1/2. Ïîñêîëüêó f (1/2) · f (1) =
= −3/4 < 0, òî ñëåäóþùèì ïðèáëèæåíèåì ÿâëÿåòñÿ èíòåðâàë (a1 , b1 ) = (1/2, 1).
Ðåøåíèå.
5. Ìåòîä õîðä
 êà÷åñòâå ïðèáëèæåíèÿ xk âûáåðåì òî÷êó ïåðåñå÷åíèÿ ñ îñüþ 0x ïðÿìîé, ïðîõîäÿùåé ÷åðåç òî÷êè (ak , f (ak )),
(bk , f (bk )) ãðàôèêà ôóíêöèè y = f (x).
71
Óïðàæíåíèå 3. Ïîêàçàòü, ÷òî ðàñ÷åòíàÿ ôîðìóëà äëÿ
âû÷èñëåíèÿ òî÷êè xk èìååò âèä
xk =
ak f (bk ) − bk f (ak )
.
f (bk ) − f (ak )
Óïðàæíåíèÿ
Ïðîâåñòè îäèí øàã ìåòîäà èòåðàöèé äëÿ ïîèñêà âñåõ
êîðíåé óðàâíåíèÿ
1.
2− | x |=
1
cos x
2
Ïîñòðîèòü ðàñ÷åòíóþ ôîðìóëó ìåòîäà èòåðàöèé äëÿ
âû÷èñëåíèÿ âñåõ êîðíåé óðàâíåíèÿ
2.
x3 + 3x2 − 1 = 0
Ïðîâåñòè îäèí øàã ìåòîäà èòåðàöèé äëÿ ïîèñêà âñåõ
êîðíåé óðàâíåíèÿ
3.
1
− x3 + 2x2 − 4x + 3 = 0
2
Ïðîâåñòè îäèí øàã ìåòîäà èòåðàöèé äëÿ ïîèñêà ïîëîæèòåëüíîãî êîðíÿ óðàâíåíèÿ
4.
−2x3 + x2 + 3x + 1 = 0
72
Ïðîâåñòè îäèí øàã ìåòîäà Íüþòîíà äëÿ ïîèñêà âñåõ
êîðíåé óðàâíåíèé
5.
a) x2 −
1
=0;
|x−1|
x
b) (x + 2)3 − e− 2 = 0
Ïîñòðîèòü
√ ðàñ÷åòíóþ ôîðìóëó ìåòîäà Íüþòîíà äëÿ âû÷èñëåíèÿ p a ,√a > 0 , p = 2, 3, . . . . Ïðîâåñòè äâå èòåðàöèè
äëÿ ïîäñ÷åòà 2.
6.
Ïðîâåñòè îäèí øàã ìåòîäà Íüþòîíà äëÿ âû÷èñëåíèÿ
ïîëîæèòåëüíîãî êîðíÿ óðàâíåíèÿ
7.
3
3x3 + x2 − 4x − 1 = 0
4
Ïðîâåñòè îäèí øàã ìåòîäà Íüþòîíà äëÿ ïîèñêà îòðèöàòåëüíîãî êîðíÿ óðàâíåíèÿ
8.
4
4x3 − x2 − 3x + 1 = 0
3
73
Âëàäèìèð Ãåîðãèåâè÷ Àíòîíèê
Âàðâàðà Ñåðãååâíà Çàõàð÷åíêî
×ÈÑËÅÍÍÛÅ ÌÅÒÎÄÛ
Ó÷åáíîå ïîñîáèå
ïî ïðàêòè÷åñêèì çàíÿòèÿì
Ðåäàêòîð Ò.Ï.Êîâàëü
ËÐ N XXXXXX îò XX.XX.XX. Êîìïüþòåðíûé íàáîð.
Îðèãèíàë-ìàêåò ïîäãîòîâëåí ñ ïîìîùüþ ñèñòåìû LaTeX.
Ïîäïèñàíî â ïå÷àòü XX.XX.XX ã. Ôîðìàò 60×90 1/16.
Áóìàãà îôñåòíàÿ. Çàêàç XX. Òèðàæ 200 ýêç.
Ðåäàêöèîííî-èçäàòåëüñêèé îòäåë
Èðêóòñêîãî ãîñóäàðñòâåííîãî óíèâåðñèòåòà
664003, Èðêóòñê, á.Ãàãàðèíà, 36
Îòïå÷àòàíî íà RISO â ÎÏÂÖ ÈÃÓ
664003, Èðêóòñê, á.Ãàãàðèíà, 20, òåë.24-22-10