Статистическое исследование одного алгоритма глобальной

ÑÒÀÒÈÑÒÈ×ÅÑÊÎÅ ÈÑÑËÅÄÎÂÀÍÈÅ ÎÄÍÎÃÎ ÀËÃÎÐÈÒÌÀ
ÃËÎÁÀËÜÍÎÉ ÎÏÒÈÌÈÇÀÖÈÈ1
Àáàêàðîâ À.Ø.2 , Ñóøêîâ Þ.À.3
Ñàíêò-Ïåòåðáóðãñêèé ãîñóäàðñòâåííûé óíèâåðñèòåò
ã. Ñàíêò-Ïåòåðáóðã
Àííîòàöèÿ
 ðàáîòå ïðèâîäÿòñÿ ðåçóëüòàòû è àíàëèç ñòàòèñòè÷åñêîãî èññëåäîâàíèÿ îäíîãî ñïîñîáà îðãàíèçàöèè ñëó÷àéíîãî ïîèñêà íà ðàçëè÷íûõ êëàññàõ òåñòîâûõ ôóíêöèé è äàþòñÿ ðåêîìåíäàöèè ïî åãî èñïîëüçîâàíèþ íà ïðàêòèêå.
Ââåäåíèå
Ãëîáàëüíàÿ îïòèìèçàöèÿ ÷àñòî âñòðå÷àþùàÿñÿ íà ïðàêòèêå çàäà÷à. Îòñþäà î÷åíü
áîëüøàÿ çíà÷èìîñòü âñåõ ðàçðàáàòûâàåìûõ ìåòîäîâ ãëîáàëüíîé îïòèìèçàöèè. Îäíèì èç èçâåñòíûõ ìåòîäîâ òàêîé îïòèìèçàöèè ÿâëÿåòñÿ ñëó÷àéíûé ïîèñê. Ïðè÷èíû:
ïðîñòîòà àëãîðèòìà, à îòñþäà è ëåãêîðåàëèçóåìîñòü íà ÝÂÌ, ìàëî÷óâñòâèòåëüíîñòü
ê íåðåãóëÿðíîñòÿì ïîâåäåíèÿ öåëåâîé ôóíêöèè, à òàêæå âîçìîæíîñòü ê ðàçëè÷íûì
ìîäèôèêàöèÿì èñõîäíîãî àëãîðèòìà ñ öåëüþ óëó÷øåíèÿ åãî ñõîäèìîñòè.
Ðàññìàòðèâàåìûé â ýòîé ðàáîòå ñëó÷àéíûé ïîèñê [1,2] ïðèíàäëåæèò ê ñåìåéñòâó
àäàïòèâíûõ ìåòîäîâ è õàðàêòåðèçóåòñÿ òåì, ÷òî â ïðîöåññå ðàáîòû íàêàïëèâàåò èíôîðìàöèþ î öåëåâîé ôóíêöèè è èñïîëüçóåò åå äëÿ óâåëè÷åíèÿ âåðîÿòíîñòè ñõîäèìîñòè ê îïòèìóìó.
Ïîëó÷åííûå ðåçóëüòàòû ñòàòèñòè÷åñêîãî òåñòèðîâàíèÿ íà ìíîæåñòâå êëàññîâ ôóíêöèé äàëè ïîâîä ê ðàçðàáîòêå ïðîãðàììíîãî êîìïëåêñà ñòîõàñòè÷åñêîé ãëîáàëüíîé
îïòèìèçàöèè "OPTIMUM" [3], ïîçâîëÿþùåãî ïîëüçîâàòåëþ ðåøàòü ðàçëè÷íûå çàäà÷è îïòèìèçàöèè â äèàëîãîâîì ðåæèìå.
Îïèñàíèå ñëó÷àéíîãî ïîèñêà (ÑÏ)
Ïóñòü òðåáóåòñÿ îïðåäåëèòü òàêîé âåêòîð x∗ = hx∗1 , x∗2 , . . . , x∗n i, ãäå 0 ≤ xi ≤ 1;
i ∈ 1 : n, ïðè êîòîðûõ ôóíêöèÿ öåëè Φ(x∗ ) ïðèíèìàåò ìèíèìàëüíîå çíà÷åíèå. Áóäåì
ñ÷èòàòü, ÷òî äîïîëíèòåëüíûå îãðàíè÷åíèÿ íà ïåðåìåííûå x1 , . . . , xn ó÷òåíû ïðè ïîñòðîåíèè öåëåâîé ôóíêöèè (íàïðèìåð, ïðè ïîìîùè øòðàôíûõ ôóíêöèé). Çàïèøåì
ïîñòàâëåííóþ çàäà÷ó â îáùåì âèäå:
Φ(x) → min,
x∈X
(1)
ãäå x = hx1 , x2 , . . . , xn i ∈ [0, 1]n .
 îáùåì âèäå ïðîöåññ ñëó÷àéíîãî ïîèñêà ìîæíî ïðåäñòàâèòü ñëåäóþùèì îáðàçîì.
Âåñü ïîèñê ðàçáèâàåòñÿ íà çàäàâàåìîå ïîëüçîâàòåëåì ÷èñëî øàãîâ nstep. Íà êàæäîì
øàãå ïî îïðåäåëåííîìó çàêîíó ñëó÷àéíûì îáðàçîì âûáèðàþòñÿ çíà÷åíèÿ âåêòîðà
1 Ðàáîòà âûïîëíÿëàñü ïðè ïîääåðæêå ãðàíòà MO N E02-2.0-28.
2 alik@vega.math.spbu.ru.
3 sushkov@vega.math.spbu.ru.
1
ïàðàìåòðîâ xj (j íîìåð øàãà), è ïîäñ÷èòûâàåòñÿ çíà÷åíèå öåëåâîé ôóíêöèè Φj =
Φ(xj ), i ∈ 1 : n. Äàëåå ïî ôîðìóëå
j−1
}
Φjmin = min{Φj , Φmin
(2)
îïðåäåëÿåòñÿ íàèìåíüøåå çíà÷åíèå, ïîëó÷åííîå çà j øàãîâ ïðîöåññà ïîèñêà. Ïîñëå
êàæäîãî ðàñ÷åòà ïî ôîðìóëå (2) çàêîí, ïî êîòîðîìó âûáèðàþòñÿ çíà÷åíèÿ ïåðåìåííûõ xi , èçìåíÿåòñÿ òàêèì îáðàçîì, ÷òîáû âåðîÿòíîñòü ïîïàäàíèÿ â ²-îêðåñòíîñòü
ãëîáàëüíîãî ìèíèìóìà, çàäàâàåìóþ ïîëüçîâàòåëåì èñõîäÿ èç òðåáóåìîé òî÷íîñòè
ðåøåíèÿ çàäà÷è, óâåëè÷èëàñü áû. Äëÿ ýòîãî èñïîëüçóåòñÿ èíôîðìàöèÿ, ïîëó÷åííàÿ
íà ïðåäûäóùèõ øàãàõ ïîèñêà.
Òàêîâà îáùàÿ ñõåìà ïîèñêà, ïîïàäàþùàÿ ïîä áàçîâûå ñõåìû, òàê íàçûâàåìûõ,
ìàðêîâñêèõ àëãîðèòìîâ ãëîáàëüíîãî ñëó÷àéíîãî ïîèñêà, â êîòîðûõ ðàñïðåäåëåíèå
âåðîÿòíîñòåé äëÿ çíà÷åíèé âåêòîðà xj+1 çàâèñèò îò xj è Φj .
Ïóñòü Iij ⊂ [0, 1] ïåðñïåêòèâíûé èíòåðâàë äëÿ xi , i ∈ 1 : n, íà øàãå j , òàêîé,
÷òî ïî ïîëó÷åííûì íà ïðåäûäóùèõ øàãàõ äàííûì íàëè÷èå îïòèìàëüíîãî çíà÷åíèÿ
x∗i âíóòðè Iij ïî íàøèì ïðåäñòàâëåíèÿì íàèáîëåå âåðîÿòíî. È ïóñòü I j îáîçíà÷àåò
äåêàðòîâî ïðîèçâåäåíèå èíòåðâàëîâ Iij , i ∈ 1 : n. Øèðèíà èíòåðâàëà Iij îäèíàêîâà
äëÿ âñåõ i ∈ 1 : n, çàâèñèò îò íîìåðà øàãà è ðàâíà 2qj . Êîîðäèíàòà åãî öåíòðà
èçìåíÿåòñÿ ïîñëå êàæäîãî øàãà, ïðèâåäøåãî ê óìåíüøåíèþ ôóíêöèè öåëè, è íà j îì øàãå ðàâíà
x0ji = max{qj , min{xji , 1 − qj }}, i ∈ 1 : n.
(3)
Ðàñïðåäåëåíèå âåðîÿòíîñòåé, ñ êîòîðûì ìîäåëèðóþòñÿ çíà÷åíèÿ âåêòîðà x ÿâëÿåòñÿ ðàâíîìåðíûì êàê âíóòðè I j , òàê è âíå åãî. Òàêîå ðàñïðåäåëåíèå, âî-ïåðâûõ, ëåãêî
ìîäåëèðîâàòü, à âî-âòîðûõ, ñ óâåëè÷åíèåì íîìåðà øàãà äîñòàòî÷íî ïðîñòî ìîæíî
óìåíüøàòü åãî äèñïåðñèþ.
Ïóñòü pj âåðîÿòíîñòü òîãî, ÷òî çíà÷åíèÿ âåêòîðà x íà j -îì øàãå ïîèñêà áóäóò
ïðèíàäëåæàòü I j . Òîãäà ñîîòâåòñòâóþùèå ïëîòíîñòè ðàñïðåäåëåíèÿ ðàâíû:
Hj = pj /sj
è
hj = (1 − pj )/(1 − sj ),
(4)
ãäå sj = (2qj )n n-ìåðíàÿ ïëîùàäü ïåðñïåêòèâíîé îáëàñòè I j íà j -îì øàãå (ðèñ. 1).
Íà ïåðâîì øàãå ÑÏ, êîãäà ó íàñ íåò íèêàêîé èíôîðìàöèè î ïîëîæåíèè ìèíèìóìà,
ëîãè÷íî ïðåäïîëîæèòü, ÷òî ïåðñïåêòèâíûé èíòåðâàë Ii1 ðàâåí [0, 1] (ïîèñê âåäåòñÿ
âî âñåì èíòåðâàëå èçìåíåíèÿ xi ), îòñþäà
p1 = 1
è
q1 = 1/2.
(5)
 ïðîöåññå ïîèñêà ïðîèñõîäèò íàêîïëåíèå èíôîðìàöèè î õàðàêòåðå ïîâåäåíèÿ
ôóíêöèè öåëè, ïîýòîìó øèðèíó èíòåðâàëà Iij ëîãè÷íî ñ êàæäûì øàãîì ñóæàòü, ÷òî
âëå÷åò óìåíüøåíèå âåðîÿòíîñòè ïîïàäàíèÿ pj â I j p1 = 1 äî pjm = pmin < 1. Òàê êàê
ïðåäïîëàãàåòñÿ, ÷òî ïðîöåññ ïîèñêà ñõîäèòñÿ ê ãëîáàëüíîìó ìèíèìóìó, òî îïÿòü-òàêè
ëîãè÷íî ïðåäïîëîæèòü, ÷òî
lim pj = 1
j→∞
è
lim qj = 0,
j→∞
(6)
ò.å. ñ÷èòàåòñÿ, ÷òî äàëåå, íà÷èíàÿ ñ pjm = pmin , ôóíêöèÿ pj óâåëè÷èâàåòñÿ äî åäèíèöû.
Ïðåäïîëàãàåòñÿ, ÷òî èíòåðâàë Iij ÿâëÿåòñÿ îáëàñòüþ íàèáîëåå âåðîÿòíîãî ïîëîæåíèÿ îïòèìàëüíîãî çíà÷åíèÿ xi , ïîýòîìó è ïîèñê â ýòîé îáëàñòè äîëæåí îñóùåñòâëÿòüñÿ ÷àùå è ñ áîëüøåé èíòåíñèâíîñòüþ, ÷åì âíå åãî. Îòñþäà è èç (4) ñëåäóåò,
2
÷òî
1/2 ≤ pj ≤ 1
è
hj ≤ 1 ≤ H j .
(8)
Ìîæíî ïðåäëîæèòü áåñêîíå÷íîå ÷èñëî ôóíêöèé p(j) = pj , óäîâëåòâîðÿþùèõ ïåðå÷èñëåííûì óñëîâèÿì (5)-(8). Îäíàêî ïðè îòñóòñòâèè èíôîðìàöèè î öåëåâîé ôóíêöèè
êðèòåðèé ìîæåò áûòü òîëüêî îäèí: ïðîñòîòà ìîäåëèðîâàíèÿ. Ïóñòü smin îáúåì îáëàñòè I jm , ñîîòâåòñòâóþùèé ìèíèìàëüíîìó çíà÷åíèþ pjm = pmin . Òîãäà èñïîëüçóåìûå
â ýòîé ðàáîòå ôóíêöèè ìîæíî çàïèñàòü â òàêîì âèäå:
½
sj (pmin − 1)/smin + 1, , åñëè 0 ≤ sj ≤ smin
pj =
(9)
sj (1 − pmin )/(1 − smin ) + (pmin − smin )/(1 − smin ), åñëè smin ≤ sj ≤ 1.
½
Hj =
½
hj =
(pmin − 1)/smin + 1/sj ,
åñëè 0 ≤ sj ≤ smin
(1 − pmin + (pmin − smin )/sj (1 − smin ), åñëè smin ≤ sj ≤ 1.
(1 − pmin )sj /(1 − sj )smin , åñëè 0 ≤ sj ≤ smin
(1 − pmin )/(1 − smin ),
åñëè smin ≤ sj ≤ 1.
(10)
(11)
Ðèñ. 1. Ôóíêöèÿ ïëîòíîñòè ðàñïðåäåëåíèÿ äëÿ äâóõ ïåðåìåííûõ.
Òåñòèðîâàíèå è îöåíêà ýôôåêòèâíîñòè
Äëÿ îöåíêè ýôôåêòèâíîñòè ñëó÷àéíîãî ïîèñêà çäåñü áóäóò èñïîëüçîâàòüñÿ èçâåñòíûå, òàê íàçûâàåìûå, òåñòîâûå ôóíêöèè.  êà÷åñòâå êðèòåðèÿ ýôôåêòèâíîñòè âûáðàíà çàâèñèìîñòü âåðîÿòíîñòè íàõîæäåíèÿ ãëîáàëüíîãî ìèíèìóìà îò ÷èñëà îáðàùåíèé ê ôóíêöèè öåëè. Êàê íàì êàæåòñÿ, ýòî îäèí èç íàèáîëåå "ñïðàâåäëèâûõ"
êðèòåðèåâ ñðàâíåíèÿ (îöåíêè) ýôôåêòèâíîñòè àëãîðèòìîâ ãëîáàëüíîé îïòèìèçàöèè.
Ïåðåä òåì êàê ïåðåéòè ê ðåçóëüòàòàì èññëåäîâàíèÿ ÑÏ, ñêàæåì íåñêîëüêî ñëîâ
î ïàðàìåòðàõ ñëó÷àéíîãî ïîèñêà. Ýòà èíôîðìàöèÿ áóäåò ïîëåçíà ïðåæäå âñåãî äëÿ
ïîëüçîâàòåëåé, èñïîëüçóþùèõ êîìïëåêñ "OPTIMUM"â êà÷åñòâå ñðåäñòâà ðåøåíèÿ
ñâîèõ çàäà÷ îïòèìèçàöèè.
Ïàðàìåòðàìè ÑÏ, êîòîðûìè ìîæåò âàðüèðîâàòü ïîëüçîâàòåëü, ÿâëÿþòñÿ: nstep ÷èñëî øàãîâ, ² = qeps òî÷íîñòü, ñ êîòîðîé èùåòñÿ ìèíèìóì, à òàêæå ïàðàìåòðû pmin
3
è qmin . Åñëè ïåðâûå äâà ïàðàìåòðà î÷åâèäíû è ïîíÿòíû ïîëüçîâàòåëþ, òî âëèÿíèå
äâóõ ïîñëåäíèõ íà ïîâåäåíèå ÑÏ òðåáóþò íåêîòîðûõ ïîÿñíåíèé.
Êàê áûëî ñêàçàíî âûøå, qmin îïðåäåëÿåò n-ìåðíóþ ïëîùàäü smin , òàêóþ, ÷òî íà
âñåì ïðîòÿæåíèè ïðîöåññà ïîèñêà, ïîêà sj > smin , ïëîòíîñòü hj íå ìåíÿåòñÿ. Êîãäà æå sj ñòàíîâèòñÿ ìåíüøå smin , òî hj íà÷èíàåò ñòðåìèòüñÿ ê íóëþ, ò.å. ïîèñê ñ
íàðàñòàþùåé èíòåíñèâíîñòüþ âåäåòñÿ âíóòðè I j .
Îò âåëè÷èíû pmin âî ìíîãîì çàâèñèò âåðîÿòíîñòü òîãî, ÷òî ìèíèìóì â ïðîöåññå
ïîèñêà îêàæåòñÿ âíóòðè I j è çíà÷åíèå âûñîòû hj . Òàêèì îáðàçîì, ïàðàìåòðû pmin
è qmin â íåêîòîðîì ñìûñëå ïîçâîëÿþò çàäàòü ñîîòíîøåíèå "ëîêàëüíûõ"è "ãëîáàëüíûõ"øàãîâ ê èõ îáùåìó êîëè÷åñòâó è òåì ñàìûì îïðåäåëèòü îáùåå ïîâåäåíèå ÑÏ.
Ïðè òåñòèðîâàíèè ñëó÷àéíîãî ïîèñêà áûëè èñïîëüçîâàíû äåñÿòü ðàçëè÷íûõ òåñòîâûõ ôóíêöèé [4,5,6], îòëè÷àþùèõñÿ äðóã îò äðóãà òàêèìè õàðàêòåðèñòèêàìè, êàê
ìíîãîýêñòðåìàëüíîñòü, îâðàæíîñòü, ÷èñëî ïåðåìåííûõ è äð. Äàëåå Φ∗ îáîçíà÷àåò èñòèííîå ìèíèìàëüíîå çíà÷åíèå ôóíêöèè öåëè. Çà îöåíêó âåðîÿòíîñòè P ñõîäèìîñòè
ÑÏ ê Φ∗ âûáðàíî îòíîøåíèå ÷èñëà ñëó÷àåâ, â êîòîðûõ íàéäåííûå çíà÷åíèÿ ïåðåìåííûõ x∗ öåëåâîé ôóíêöèè îòëè÷àþòñÿ îò îïòèìàëüíûõ ìåíåå, ÷åì íà ² = 0.01.
Ïîèñê âåçäå îñóùåñòâëÿåòñÿ â åäèíè÷íîì n-ìåðíîì ãèïåðêóáå.
Ñíà÷àëà ïðèâåäåì ðåçóëüòàòû äëÿ óíèìîäàëüíûõ ôóíêöèé.
Ôóíêöèÿ 1. Φ(x1 , x2 ) = x21 x22 (x1 + x2 − 1),
Φ∗ (0.4, 0.4) = −0.00512.
Ðèñ. 2. Ñõîäèìîñòü ÑÏ äëÿ ôóíêöèè 1 â çàâèñèìîñòè îò nstep.
Íà ðèñ. 2 ïðåäñòàâëåíû ãðàôèêè, ïîêàçûâàþùèå ñõîäèìîñòü ñëó÷àéíîãî ïîèñêà
äëÿ ôóíêöèè 1 â çàâèñèìîñòè îò ÷èñëà îáðàùåíèé ê âû÷èñëåíèþ ôóíêöèè öåëè. Ïàðàìåòðû ñëó÷àéíîãî ïîèñêà, ñîîòâåòñòâóþùèå ïðîíóìåðîâàííûì êðèâûì ïðèâåäåíû
â òàáë. 1.
Òàáëèöà 1. Ïàðàìåòðû ñëó÷àéíîãî ïîèñêà ê ðèñ. 1.
Íîìåð ãðàôèêà
ïàðàìåòðû ÑÏ
qmin
pmin
0.3
0.9
0.01
0.9
0.01
0.75
0.01
0.5
1
2
3
4
4
Ðèñ. 3. Ñõîäèìîñòü ÑÏ äëÿ ôóíêöèè 1 â çàâèñèìîñòè îò qmin .
Èç òàáë. 1 è ðèñ. 2 âèäíî, ÷òî íàèëó÷øóþ ñõîäèìîñòü îáåñïå÷èâàþò ïàðàìåòðû: pmin = 0.9 è qmin = 0.3. Âîçìîæíîå îáúÿñíåíèå ýòîãî òàêîå: òàê êàê ôóíêöèÿ 1
óíèìîäàëüíà, òî ëîãè÷íî îòíîñèòåëüíî íåìíîãî øàãîâ ïîòðàòèòü íà íàùóïûâàíèå
åå ìèíèìóìà, à îñòàëüíîå ÷èñëî øàãîâ èñïîëüçîâàòü äëÿ óòî÷íåíèÿ íàéäåííîãî ìèíèìóìà. Èìåííî òàêîå ïîâåäåíèå îáåñïå÷èâàþò ñëó÷àéíîìó ïîèñêó ïàðàìåòðû ÑÏ,
ñîîòâåòñòâóþùèå êðèâîé 1. Äëÿ âûáðàííûõ pmin = 0.9 è qmin = 0.3 h ðàâíî 0.156, à
smin ðàâíî 0.36, ýòî ïîçâîëÿåò, ìîäåëèðîâàòü âíóòðè ýôôåêòèâíîé îáëàñòè I j ñ áîëüøåé âåðîÿòíîñòüþ è óâåëè÷èòü ýòó âåðîÿòíîñòü ïîñëå òîãî, êàê sj ñòàíåò ìåíüøå
0.36.
Õóæå âûãëÿäèò ñõîäèìîñòü äëÿ pmin = 0.9 è qmin = 0.01. Íåñìîòðÿ íà òî, ÷òî çäåñü
h = 0.1, âåëè÷èíà sj îêàçûâàåòñÿ áîëüøå smin è íà ïðîòÿæåíèè âñåãî ïðîöåññà ïîèñêà
ñ âåðîÿòíîñòüþ p = 0.1 ïåðåìåííàÿ xi ìîäåëèðóåòñÿ âíå I j è ñ âåðîÿòíîñòüþ p = 0.9
âíóòðè èíòåðâàëà I j , êîòîðûé ñæèìàåòñÿ ïðè ýòîì äî íåêîòîðîãî çàäàííîãî ².
Àíàëîãè÷íî âåäåò ñåáÿ ñëó÷àéíûé ïîèñê äëÿ êðèâûõ 3 è 4, çà îäíèì ëèøü èñêëþ÷åíèåì âåðîÿòíîñòü, ñ êîòîðîé ìû ìîäåëèðóåì xi âíå I j , óâåëè÷èâàåòñÿ äî 0.25 è
0.5 ñîîòâåòñòâåííî.
Íà ðèñ. 3 ïðåäñòàâëåíû ãðàôèêè, ïîêàçûâàþùèå ñõîäèìîñòü ñëó÷àéíîãî ïîèñêà
äëÿ ôóíêöèè 1 â çàâèñèìîñòè îò ïàðàìåòðà qmin . Êðèâûå 1, 2 è 3 ñîîòâåòñòâóþò
çíà÷åíèÿì pmin ðàâíûì 0.9, 0.75 è 0.5. ×èñëî øàãîâ ÑÏ nstep çàôèêñèðîâàíî è ðàâíî
40. Èç ðèñ. 3 åùå ðàç ìîæíî óâèäåòü, ÷òî íàèëó÷øåé ñõîäèìîñòüþ ÑÏ îáëàäàåò â
ñëó÷àå qmin = 0.3, pmin = 0.9. Îñòàëüíûå êîìáèíàöèè pmin è qmin , åñëè òàê ìîæíî
ñêàçàòü, îáåñïå÷èâàþò ìåíåå "ëîêàëüíîå"ïîâåäåíèå ñëó÷àéíîãî ïîèñêà, à ïîòîìó â
ýòîì ñëó÷àå îêàçûâàþòñÿ õóæå.
Ôóíêöèÿ 2. Φ(x1 , x2 , . . . , xn ) =
n
P
(xi − 0.5)2 .
i=1
Φ∗ (0.5, 0.5, . . . , 0.5) = 0.
Íà ðèñ. 4 ïðåäñòàâëåíû ãðàôèêè, ïîêàçûâàþùèå ñõîäèìîñòü ñëó÷àéíîãî ïîèñêà
äëÿ ôóíêöèè 2 â çàâèñèìîñòè îò êîëè÷åñòâà åå ïåðåìåííûõ. ×èñëî øàãîâ ÑÏ nstep
çàôèêñèðîâàíî è ðàâíî 350. Ïàðàìåòðû ñëó÷àéíîãî ïîèñêà, ñîîòâåòñòâóþùèå êðèâûì 1, 2, 3 è 4, íàõîäÿòñÿ â
òàáë. 2.
5
Ðèñ. 4. Ñõîäèìîñòü ÑÏ äëÿ ôóíêöèè 2 â çàâèñèìîñòè îò ÷èñëà ïåðåìåííûõ.
Òàáëèöà. 2. Ïàðàìåòðû ñëó÷àéíîãî ïîèñêà ê ðèñ. 4.
Íîìåð ãðàôèêà
ïàðàìåòðû ÑÏ
qmin
pmin
0.3
0.9
0.3
0.5
0.01
0.9
0.01
0.5
1
2
3
4
Âñå ñêàçàííîå î ïàðàìåòðàõ ñëó÷àéíîãî ïîèñêà ïðè ïðåäñòàâëåíèè ðåçóëüòàòîâ
òåñòèðîâàíèÿ ôóíêöèè 1 ðàñïðîñòðàíÿåòñÿ è íà óíèìîäàëüíóþ ôóíêöèþ 2 (ýòî âèäíî
ïî ðàñ÷åòíûì äàííûì íà ðèñ. 4 è çíà÷åíèÿì ïàðàìåòðîâ ÑÏ â òàáë. 2).
Çäåñü ñëåäóåò äîáàâèòü, ÷òî òåñòèðóåìûé çäåñü ÑÏ îðãàíèçîâàí òàêèì îáðàçîì,
÷òî êîëè÷åñòâî ïåðåìåííûõ ôóíêöèè öåëè íå âëèÿåò íà íîìåð øàãà ÑÏ j ∗ , äëÿ êîòîðîãî sj ñòàíîâèòñÿ ìåíüøå smin , à ïîòîìó ïðè èçìåíåíèè ðàçìåðíîñòè çàäà÷è, äëÿ
êîòîðîé óæå ïîäîáðàíû ïàðàìåòðû pmin è qmin , ïîëüçîâàòåëþ ÑÏ ðåêîìåíäóåòñÿ ëèøü
óâåëè÷èòü ÷èñëî øàãîâ nstep.
Ôóíêöèÿ 3. Φ =
n
P
i=1
ai x2i , ai ∈ (0, 1), i ∈ 1 : n,
Φ∗ (0, 0, . . . , 0) = 0.
Ýòî ñòîõàñòè÷åñêàÿ ôóíêöèÿ, êàæäàÿ ðåàëèçàöèÿ êîòîðîé èìååò âûòÿíóòûå ãèïåðïîâåðõíîñòè óðîâíÿ ëèíèé, çàâèñÿùèå îò ðàçáðîñà êîýôôèöèåíòîâ ai .
Íà ðèñ. 5 ïðåäñòàâëåí ãðàôèê, àíàëîãè÷íûé ãðàôèêó íà ðèñ. 4. Ïàðàìåòðû ñëó÷àéíîãî ïîèñêà, ñîîòâåòñòâóþùèå êðèâûì 1,2,3 è 4, ïðåäñòàâëåíû â òàáë. 2. ×èñëî
øàãîâ ñëó÷àéíîãî ïîèñêà nstep = 400.
Âñå âûøåñêàçàííîå î ôóíêöèè 2 ìîæíî îòíåñòè è ê ðåçóëüòàòàì òåñòèðîâàíèÿ
ôóíêöèè 3.
Ôóíêöèÿ 4. Φ(x1 , x2 ) = (y1 − y2 )2 + 1/9(y1 + y2 − 10)2 ,
y1 = 10x1 , y2 = 10x2 , Φ∗ (0.5, 0.5) = 0.
Ëèíèè óðîâíÿ äàííîé ôóíêöèè ïðåäñòàâëÿþò ñîáîé ñëåãêà âûòÿíóòûå ýëëèïñîèäû, îñè êîòîðûõ ïîâåðíóòû íà 45 ãðàäóñîâ îòíîñèòåëüíî êîîðäèíàòíûõ.
6
Ðèñ. 5. Ñõîäèìîñòü ÑÏ äëÿ ôóíêöèè 3.
Ðèñ. 6. Ñõîäèìîñòü ÑÏ äëÿ ôóíêöèè 4 â çàâèñèìîñòè îò nstep.
Ãðàôèê íà ðèñ. 6 ïîêàçûâàåò ñõîäèìîñòü ñëó÷àéíîãî ïîèñêà â çàâèñèìîñòè îò
÷èñëà îáðàùåíèé ê âû÷èñëåíèþ öåëåâîé ôóíêöèè. Ïàðàìåòðû ñëó÷àéíîãî ïîèñêà,
ñîîòâåòñòâóþùèå êðèâûì íà ðèñ. 6, ïðèâåäåíû â òàáë. 2. Êîììåíòàðèè, êàñàþùèåñÿ
ðåçóëüòàòîâ òåñòèðîâàíèÿ ôóíêöèè 4, àíàëîãè÷íû êîììåíòàðèÿì ê ôóíêöèè 1.
Äàëåå ïðèâîäÿòñÿ ðåçóëüòàòû èññëåäîâàíèé äëÿ êëàññà ìíîãîýêñòðåìàëüíûõ ôóíêöèé.
Ôóíêöèÿ 5. Φ(x1 , x2 ) = (2x1 − 1)2 + (2x2 − 1)2 − cos 18(2x1 − 1)−
− cos 18(2x2 − 1), Φ∗ (0.5, 0.5) = −2.
Ôóíêöèÿ 5 èìååò 25 ëîêàëüíûõ ìèíèìóìîâ â îáëàñòè 0 ≤ x1 , x2 ≤ 1.
Íà ðèñ. 7 ïðåäñòàâëåíà ñõîäèìîñòü ñëó÷àéíîãî ïîèñêà â çàâèñèìîñòè îò ÷èñëà
îáðàùåíèé ê âû÷èñëåíèþ öåëåâîé ôóíêöèè. Ïàðàìåòðû ñëó÷àéíîãî ïîèñêà, ñîîòâåòñòâóþùèå êðèâûì 1 - 5 ðàñïîëîæåíû â òàáë. 3.
7
Ðèñ. 6. Ñõîäèìîñòü ÑÏ äëÿ ôóíêöèè 4 â çàâèñèìîñòè îò nstep.
Òàáëèöà 3.
Íîìåð ãðàôèêà
ïàðàìåòðû ÑÏ
qmin
pmin
0.01
0.5
0.01
0.75
0.01
0.9
0.3
0.9
0.3
0.5
1
2
3
4
5
Êàê âèäíî èç ðèñ. 7 è òàáë. 3, ðåçóëüòàòû òåñòèðîâàíèÿ ìíîãîýêñòðåìàëüíîé
ôóíêöèè 5 îòëè÷àþòñÿ îò ñîîòâåòñòâóþùèõ ðåçóëüòàòîâ óíèìîäàëüíûõ ôóíêöèé.
Íàèëó÷øàÿ ñõîäèìîñòü ñëó÷àéíîãî ïîèñêà îáåñïå÷èâàåòñÿ ïàðàìåòðàìè pmin = 0.5,
qmin = 0.01.
Ïîâåäåíèå ÑÏ ïðè ýòîì ñëåäóþùåå: íà ïðîòÿæåíèè âñåãî ïðîöåññà ïîèñêà ñ âåðîÿòíîñòüþ 0.5 x ìîäåëèðóåòñÿ âíå I j è, ñîîòâåòñòâåííî, ñ òîé æå âåðîÿòíîñòüþ âíóòðè I j .
Áîëüøèå ïî ñðàâíåíèþ ñ ïðåäûäóùèì çíà÷åíèåì âåðîÿòíîñòè ìîäåëèðîâàíèÿ x
âíóòðè I j îáåñïå÷èâàþò çíà÷åíèÿ ïàðàìåòðîâ ÑÏ pmin è qmin , ñîîòâåòñòâóþùèå êðèâûì 2 è 3, ýòèì è îáúÿñíÿåòñÿ óìåíüøåíèå ñõîäèìîñòè.
Õóäøèå ðåçóëüòàòû äëÿ ôóíêöèè 5 ñîîòâåòñòâóþò ïàðàìåòðàì ÑÏ, ðàñïîëîæåííûì â ñòðîêàõ 4 è 5 òàáë. 3.
Äàëåå ðàññìîòðèì çàâèñèìîñòü ñõîäèìîñòè ñëó÷àéíîãî ïîèñêà îò ïàðàìåòðà qmin
äëÿ ôóíêöèè 5, ïðåäñòàâëåííóþ íà ðèñ. 8.
Êðèâûå 1, 2 è 3 ñîîòâåòñòâóþò çíà÷åíèÿì pmin ðàâíûì 0.5, 0.75 è 0.9. Ðàñ÷åòû,
ïðåäñòàâëåííûå íà ðèñ. 8, åùå ðàç ïîäòâåðæäàþò, ÷òî çíà÷åíèÿ ïàðàìåòðîâ pmin = 0.5
è qmin = 0.01 äëÿ ôóíêöèè 5 ÿâëÿþòñÿ ëó÷øèìè.
Îäíàêî âìåñòå ñ ýòèì íà ðèñ. 8 ìîæíî óâèäåòü ñëåäóþùóþ îñîáåííîñòü: êðèâàÿ 1, ñîîòâåòñòâóþùàÿ pmin = 0.5, áóäó÷è íà ó÷àñòêå 0.01 < qmin < 0.12 âûøå äâóõ
îñòàëüíûõ êðèâûõ, íà ó÷àñòêå 0.16 < qmin < 0.3 îêàçûâàåòñÿ íèæå. Îáúÿñíèòü ýòè
ðåçóëüòàòû ìîæíî ñëåäóþùèì. Íà ó÷àñòêå 0.01 < qmin < 0.12 èíòåíñèâíîñòü ïîèñêà
âíóòðè I j ïðè ðàçëè÷íûõ pmin äîñòàòî÷íà äëÿ óòî÷íåíèÿ äî íåêîòîðîãî çàäàííîãî ², à
íà ó÷àñòêå 0.16 < qmin < 0.3 åå íåñêîëüêî "íå õâàòàåò"äëÿ òåõ çíà÷åíèé pmin , êîòîðûå
îïðåäåëÿþò âåðîÿòíîñòü ìîäåëèðîâàíèÿ x âíóòðè I j .  ÷àñòíîñòè, äëÿ pmin = 0.5 è
8
Ðèñ. 8. Ñõîäèìîñòü ÑÏ äëÿ ôóíêöèè 5 â çàâèñèìîñòè îò qmin .
qmin = 0.3 ýòà âåðîÿòíîñòü ðàâíà 0.22, à äëÿ pmin = 0.9 è qmin = 0.3 0.85, ïîýòîìó
ïåðâàÿ òî÷êà íà ðèñ. 8 îêàçûâàåòñÿ íèæå âòîðîé.
Ôóíêöèÿ 6. Φ(x1 , x2 ) = y12 + y22 − 10 cos(2πy1 ) − 10 cos(2πy2 ),
y1 = −5.12 + 10.24x1 , y2 = −5.12 + 10.24x2 ,
Φ∗ (0.0583, 0.0583)) = Φ∗ (0.9417, 0.9417) =
= Φ∗ (0.0583, 0.9417) = Φ∗ (0.9417, 0.0583) = −49.278.
Ôóíêöèÿ èìååò â îáëàñòè ïîèñêà 96 ëîêàëüíûõ è 4 ãëîáàëüíûõ ýêñòðåìóìà.
Ðèñ. 9. Ñõîäèìîñòü ÑÏ äëÿ ôóíêöèè 6 â çàâèñèìîñòè îò nstep.
Íà ðèñ. 9 ïðåäñòàâëåíà ñõîäèìîñòü ÑÏ â çàâèñèìîñòè îò ÷èñëà îáðàùåíèé ê âû÷èñëåíèþ ôóíêöèè öåëè. Ïàðàìåòðû, ñîîòâåòñòâóþùèå êðèâûì 1-5, ïðèâåäåíû â
òàáë. 3.
Âûâîäû, êàñàþùèåñÿ ñõîäèìîñòè ÑÏ çäåñü àíàëîãè÷íû ïðåäûäóùèì. Êðèâûå ñõîäèìîñòåé ðàñïîëîæèëèñü íà ðèñ. 9 â î÷åðåäíîñòè, ïðèâåäåííîé â òàáë. 3.
Äàëåå ïðèâîäèòñÿ ãðàôèê äëÿ ôóíêöèè 6, àíàëîãè÷íûé ãðàôèêó 8.  îòëè÷èè îò
ãðàôèêà 8 çäåñü êðèâûå ñõîäèìîñòè íå ïåðåñåêàþòñÿ.
Ïîäòâåðæäåíèåì ýôôåêòèâíîñòè èñïîëüçóåìîãî çäåñü ñëó÷àéíîãî ïîèñêà ìîæåò
ïîñëóæèòü îçíàêîìëåíèå ñ ðàáîòîé [5], ãäå îïòèìèçàöèÿ ôóíêöèè 6 âûïîëíÿëàñü ñ
9
Ðèñ. 10. Ñõîäèìîñòü ÑÏ äëÿ ôóíêöèè 6 â çàâèñèìîñòè îò qmin .
ïîìîùüþ ãåíåòè÷åñêèõ àëãîðèòìîâ.
Ôóíêöèÿ 7. Φ(x1 , x2 , x3 , x4 ) = sin2 (πz1 ) +
3 ¡
¢
P
(zi − 1)2 (1 + 10 sin2 (πzi+1 )) +
i=1
+(z4 − 1)2 , zi = 1 − (11 − 20xi )/4, i ∈ 1 : 4,
Φ∗ (0.55, 0.55, 0.55, 0.55) = 0.
Ðèñ. 10. Ñõîäèìîñòü ÑÏ äëÿ ôóíêöèè 7 â çàâèñèìîñòè îò nstep.
Ôóíêöèÿ 7 ÿâëÿåòñÿ òàêæå ìíîãîýêñòðåìàëüíîé è èìååò â îáëàñòè ïîèñêà 625
ëîêàëüíûõ ìèíèìóìîâ.
Íà ðèñ. 10 ïðåäñòàâëåíà ñõîäèìîñòü ÑÏ â çàâèñèìîñòè îò ÷èñëà îáðàùåíèé ê âû÷èñëåíèþ öåëåâîé ôóíêöèè. Ïàðàìåòðû ñëó÷àéíîãî ïîèñêà, ñîîòâåòñòâóþùèå êðèâûì 1-5, ïðèâåäåíû â òàáë. 4.
10
Òàáëèöà 4.
Íîìåð ãðàôèêà
1
2
3
4
5
ïàðàìåòðû ÑÏ
qmin
pmin
0.3
0.9
0.3
0.5
0.01
0.9
0.01
0.75
0.01
0.5
Äàëåå ðàññìàòðèâàþòñÿ îâðàæíûå ôóíêöèè.
Ôóíêöèÿ 8. Φ(x1 , x2 ) = 100(y2 − y12 )2 + (1 − y1 )2 ,
y1 = −10 + 20x1 , y2 = −10 + 20x2 , Φ∗ (0.55, 0.55) = 0.
Ðèñ. 11. Ñõîäèìîñòü ÑÏ äëÿ ôóíêöèè 8 â çàâèñèìîñòè îò nstep.
Ëèíèè óðîâíÿ ôóíêöèè 8 îáðàçóþò èñêðèâëåííûé îâðàã. Òî÷êà ìèíèìóìà íàõîäèòñÿ íà äíå îâðàãà è â åãî îêðåñòíîñòè ñêëîíû îâðàãà íàèáîëåå êðóòû. Äíî îâðàãà
èìååò âèä êâàäðàòè÷íîé ïàðàáîëû.
Íà ðèñ. 11 ïðåäñòàâëåíà ñõîäèìîñòü ÑÏ â çàâèñèìîñòè îò ÷èñëà îáðàùåíèé ê âû÷èñëåíèþ öåëåâîé ôóíêöèè. Ïàðàìåòðû ñëó÷àéíîãî ïîèñêà, ñîîòâåòñòâóþùèå êðèâûì 1-4, íàõîäÿòñÿ â òàáë. 5.
Òàáëèöà 5.
Íîìåð ãðàôèêà
1
2
3
4
ïàðàìåòðû ÑÏ
qmin
pmin
0.3
0.9
0.01
0.9
0.01
0.75
0.01
0.5
Èç ãðàôèêîâ, ïðåäñòàâëåííûõ íà ðèñ. 11, âèäíî, ÷òî äëÿ äîñòèæåíèÿ âåðîÿòíîñòè, áëèçêîé ê 1, ïîíàäîáèëîñü ñäåëàòü äîñòàòî÷íî áîëüøîå ÷èñëî âû÷èñëåíèé. Ýòî
îáúÿñíÿåòñÿ ïðåæäå âñåãî áîëüøèìè çàòðàòàìè àëãîðèòìà íà òî, ÷òîáû ñïóñòèòüñÿ
ê ìèíèìóìó âäîëü îâðàãà.
11
µ
Ôóíêöèÿ 9. Φ(x1 , . . . , xs ) =
s
P
i=1
yi2
¶2
s
P
− 1 − 0.1 yi ,
i=1
y1 = 2x1 , yi = −2 + 4xi , i ∈ 2 : 12,
Φ∗ (0.5, 0.75 . . . 0.75) = −1.2006.
Ðèñ. 12. Ñõîäèìîñòü ÑÏ äëÿ ôóíêöèè 9 â çàâèñèìîñòè îò nstep.
Ðåçóëüòàòû ñõîäèìîñòè ÑÏ â çàâèñèìîñòè îò ÷èñëà îáðàùåíèé ê âû÷èñëåíèþ öåëåâîé ôóíêöèè ïðåäñòàâëåíû íà ðèñ. 12. Ïàðàìåòðû ñëó÷àéíîãî ïîèñêà, ñîîòâåòñòâóþùèå êðèâûì 1-4, ïðèâåäåíû â òàáë. 5.
Êàê âèäíî èç ðèñ. 12 è òàáë. 5, ïàðàìåòðû ÑÏ, îáåñïå÷èâøèå íàèëó÷øóþ ñõîäèìîñòü äëÿ ôóíêöèè 9, àíàëîãè÷íû ïàðàìåòðàì äëÿ ôóíêöèè 8.
Ñ ðåçóëüòàòàìè ðàñ÷åòà ýòîé ôóíêöèè äðóãèì ìåòîäîì ãëîáàëüíîé îïòèìèçàöèè
ìîæíî îçíàêîìèòüñÿ â [6].
Ïðîâåäåííûå èññëåäîâàíèÿ çàâåðøèì ôóíêöèåé 12 èç ñòàòüè [6].
2
Ôóíêöèÿ 10. Φ(x1 , x2 , x3 ) = − (det ||1, yi , yi2 ||3i=1 ) ,
yi = 1 + 5xi , i ∈ 1 : 3, Φ∗ (0, 0.5, 1) = −976.28.
Íà ðèñ. 13 ïðåäñòàâëåíà ñõîäèìîñòü ÑÏ â çàâèñèìîñòè îò ÷èñëà îáðàùåíèé ê âû÷èñëåíèþ öåëåâîé ôóíêöèè, ïàðàìåòðû ñëó÷àéíîãî ïîèñêà, ñîîòâåòñòâóþùèå êðèâûì 1-3 íàõîäÿòñÿ â òàáë. 6.
Òàáëèöà 6.
Íîìåð ãðàôèêà
1
2
3
ïàðàìåòðû ÑÏ
qmin
pmin
0.3
0.9
0.01
0.9
0.01
0.75
Èç ðèñ. 13 âèäíî, ÷òî ÷èñëî âû÷èñëåíèé äëÿ ýòîé ôóíêöèè ãîðàçäî áîëüøå, ÷åì
äëÿ âñåõ îñòàëüíûõ. Ýòî ïðåæäå âñåãî îáúÿñíÿåòñÿ ñëîæíîñòüþ ôóíêöèè öåëè.
12
Ðèñ. 13. Ñõîäèìîñòü ÑÏ äëÿ ôóíêöèè 10 â çàâèñèìîñòè îò nstep.
Çàêëþ÷åíèå
1). Èññëåäîâàííûé â ýòîé ðàáîòå ñëó÷àéíûé ïîèñê îòíîñèòåëüíî ýôôåêòèâåí äëÿ
øèðîêîãî êëàññà òåñòîâûõ ôóíêöèé.
2). Ïðèìåíåíèå ÑÏ íà áàçå ñîâðåìåííûõ ÝÂÌ, à òàêæå ñîçäàíèå íåêîòîðûõ åãî
ìîäèôèêàöèé (èñïîëüçîâàíèå ÑÏ â êîìáèíàöèè ñ äåòåðìèíèðîâàííûìè ìåòîäàìè îïòèìèçàöèè è ðàñïàðàëëåëèâàíèå ÑÏ), ïîçâîëÿåò ïîëó÷èòü äîñòàòî÷íî ýôôåêòèâíûé
èíñòðóìåíò äëÿ ðåøåíèÿ ðàçëè÷íûõ çàäà÷ îïòèìèçàöèè, âîçíèêàþùèõ íà ïðàêòèêå.
3). Ïðàêòè÷åñêîå ïðèìåíåíèå ÑÏ è íåêîòîðûõ åãî ìîäèôèêàöèé, â êà÷åñòâå ñðåäñòâà òåõíîëîãèè ROOT (Red Organization of Optimization Technology), ïðåäïîëàãàåòñÿ ñäåëàòü äîñòóïíûì íà Internet ñàéòå http://www.r-tech.narod.ru.
Ëèòåðàòóðà:
1. Ñóøêîâ Þ.À. Ìåòîä, àëãîðèòì è ïðîãðàììà ñëó÷àéíîãî ïîèñêà // Ë. ÂÍÈÈÒðàíñÌàø, 1969. 43 ñ.
2. Ñóøêîâ Þ.À. Îá îäíîì ñïîñîáå îðãàíèçàöèè ñëó÷àéíîãî ïîèñêà // Èññëåäîâàíèå îïåðàöèé è ñòàòèñòè÷åñêîå ìîäåëèðîâàíèå. Ë. ËÃÓ. 1972. Âûï.1. Ñ.180-185.
3. Àáàêàðîâ À.Ø., Ñóøêîâ Þ.À. Ïðîãðàììíûé êîìïëåêñ ãëîáàëüíîé îïòèìèçàöèè "OPTIMUM"// Ñáîðíèê íàó÷íûõ ñòàòåé . Ìàòåìàòè÷åñêèå ìîäåëè. Òåîðèÿ è
ïðèëîæåíèÿ. ÑÏá, ÑÏáÃÓ. 2002. C.70-86.
4. Çàõàðîâ Â.Â. Äåñÿòü ðàñïðîñòðàíåííûõ òåñòîâûõ ôóíêöèé äëÿ ìåòîäîâ îïòèìèçàöèè // Àâòîìàòèêà è âû÷èñëèòåëüíàÿ òåõíèêà. 1974. Ñ.41-44.
5. Áàòèùåâ Ä.È., Èñàåâ Ñ.À. Îïòèìèçàöèÿ ìíîãîýêñòðåìàëüíûõ ôóíêöèé ñ
ïîìîùüþ ãåíåòè÷åñêèõ àëãîðèòìîâ // Ìåæâóç. ñá."Âûñîêèå òåõíîëîãèè â òåõíèêå,
ìåäèöèíå è îáðàçîâàíèè". ×àñòü 3. Âîðîíåæ, ÂÃÒÓ. 1997.
6. Åðìàêîâ C.Å., Ìèòèîãëîâà Ë.Â. Îá îäíîì ìåòîäå ïîèñêà ýêñòðåìóìà ôóíêöèè, îñíîâàííîì íà îöåíèâàíèè êîâàðèàöèîííîé ìàòðèöû // Àâòîìàòèêà è âû÷èñëèòåëüíàÿ òåõíèêà. 1977. Ñ.38-41.
13