Адаптивная оптимизация сервера, обрабатывающего очередь
advertisement
Àäàïòèâíàÿ îïòèìèçàöèÿ ñåðâåðà, îáðàáàòûâàþùåãî î÷åðåäü çàäàíèé ß. Â. Âîëêîâè÷, O. Í. Ãðàíè÷èí Ñàíêò-Ïåòåðáóðãñêèé ãîñóäàðñòâåííûé óíèâåðñèòåò1 Äëÿ àïðîáèðîâàíèÿ ìåòîäîâ àäàïòèâíîé îïòèìèçàöèè â çàäà÷å ïîâûøåíèÿ ýôôåêòèâíîñòè îáñëóæèâàíèÿ îäíèì ñåðâåðîì î÷åðåäè çàäàíèé ðàçðàáîòàíà ìîäåëü, èìèòèðóþùàÿ ðàáîòó ñåðâåðà, è èññëåäóåòñÿ ïðèìåíèìîñòü ðàíäîìèçèðîâàííûõ àëãîðèòìîâ ñòîõàñòè÷åñêîé îïòèìèçàöèè ïðè íàñòðîéêå íàèëó÷øåãî çíà÷åíèÿ ïàðàìåòðà äèñïåò÷åðèçàöèè ñåðâåðà â çàâèñèìîñòè îò ðåàëüíûõ âõîäíûõ äàííûõ. 1. Ââåäåíèå Ïðîáëåìà ýôôåêòèâíîãî îáñëóæèâàíèÿ ñåðâåðîì î÷åðåäè çàäàíèé îäíà èç êëàññè÷åñêèõ çàäà÷ òåîðèè ìàññîâîãî îáñëóæèâàíèÿ. Ñóùåñòâóåò ìíîæåñòâî ìåòîäîâ äëÿ åå ðåøåíèÿ, áûëè ðàçðàáîòàíû ðàçëè÷íûå àëãîðèòìû è ïðîâåäåíû ìíîãî÷èñëåííûå èññëåäîâàíèÿ. Âîçìîæíîñòè èñïîëüçîâàíèÿ àäàïòèâíûõ ìåòîäîâ â ýòîé çàäà÷å íå ñòîëü äåòàëüíî èçó÷åíû.  ÷àñòíîñòè, ðÿä ñïîñîáîâ ïðåäëàãàåòñÿ è èññëåäóåòñÿ â êíèãå [1] è â ñòàòüå [2]. Èõ îáîñíîâàíèå áàçèðóåòñÿ íà èñïîëüçîâàíèè òåõíèêè àíàëèçà áåñêîíå÷íî ìàëûõ âîçìóùåíèé.  êíèãå Ãðàíè÷èíà è Ïîëÿêà [3] ïðåäëàãàåòñÿ èñïîëüçîâàòü äëÿ àäàïòèâíîé ïîäñòðîéêè èçìåíÿåìîãî ïàðàìåòðà ñåðâåðà ðàíäîìèçèðîâàííûé àëãîðèòì ñòîõàñòè÷åñêîé àïïðîêñèìàöèè, íî â íåé íåò èñ÷åðïûâàþùèõ îáîñíîâàíèé ìåòîäà è íå ïðèâåäåíî íèêàêèõ ïðèìåðîâ èñïîëüçîâàíèÿ. Ðàññìîòðèì äëÿ ïðèìåðà çàãðóæåííîñòü îáû÷íîé êîðïîðàòèâíîé ñåòè.  íà÷àëå è êîíöå ðàáî÷åãî äíÿ â íåé ïðåîáëàäàþò êðàòêîâðåìåííûå è ÷àñòûå çàïðîñû ê ñåðâåðó, à â ñåðåäèíå äíÿ çàäàíèÿ ïîñòóïàþò ðåæå è ñòàíîâÿòñÿ áîëåå òðóäîåìêèìè. Òàêèå êîëåáàíèÿ ìîãóò âîçíèêàòü íå òîëüêî â òå÷åíèè ñóòîê, íî è çàâèñåòü îò ñåçîíà, äíÿ íåäåëè è ò. ï. Çàìåòèì, ÷òî äëÿ áîëåå ðåçóëüòàòèâíîé ðàáîòû ñåðâåðà ìîæíî ïîäñòðàèâàòü åãî õàðàêòåðèñòèêè ïîä òèï ïîñòóïàþùèõ çàäàíèé, íî êàê îïðåäåëèòü ãðàíèöû ïåðèîäîâ? Âîçìîæíî ïðîâåñòè íåêîòîðîå èññëåäîâàíèå-ìîíèòîðèíã è ïîëó÷èòü ïðèáëèçèòåëüíûå èñêîìûå çíà÷åíèÿ. Ýòîò ñïîñîá íå î÷åíü õîðîø, ïîòîìó 1 c ß. Â. Âîëêîâè÷, O. Í. Ãðàíè÷èí, 2005 17 êàê â ðåàëüíîé ñèòóàöèè âûÿâèòü ïðÿìóþ çàâèñèìîñòü îò ôàêòîðîâ ñëîæíî, è, êðîìå òîãî, ïîäîáíîå èññëåäîâàíèå âåñüìà äîðîãî è òðåáóåò ïîâòîðíûõ ðàáîò äàæå ïðè íåçíà÷èòåëüíûõ èçìåíåíèÿõ. Õîòåëîñü áû èìåòü âîçìîæíîñòü ðåàãèðîâàòü íà èçìåíåíèÿ ýòèõ çíà÷åíèé â ðåæèìå ðåàëüíîãî âðåìåíè â çàâèñèìîñòè îò âèäà ïîñòóïàþùèõ çàäàíèé. Äëÿ ðåàëèçàöèè òàêîé öåëè ìîæíî èñïîëüçîâàòü ðàíäîìèçèðîâàííûå àëãîðèòìû ñòîõàñòè÷åñêîé àïïðîêñèìàöèè [3]. 2. Ïîñòàíîâêà çàäà÷è Äëÿ ðåøåíèÿ êàêîé-òî ðåàëüíîé çàäà÷è ìîæíî ïîïûòàòüñÿ ïîñòàâèòü åé â ñîîòâåòñòâèå ìàòåìàòè÷åñêóþ ìîäåëü, ïðè ýòîì ðåøåíèåì áóäåò ìàòåìàòè÷åñêèé îáúåêò ÷èñëî, èëè êðèâàÿ, èëè ìíîæåñòâî è ò. ï. Âûáèðàÿ ìîäåëü, æåëàòåëüíî êàê ìîæíî áîëåå òî÷íåå ïîñòàâèòü çàäà÷ó, íî òàê êàê ñâÿçè è îòíîøåíèÿ â ðåàëüíîì ìèðå íàñòîëüêî ñëîæíû è ìíîãîîáðàçíû, òî ïðàêòè÷åñêè íåâîçìîæíî ìàòåìàòè÷åñêè ñòðîãî îïèñàòü îáúåêòû. Íåòî÷íîñòè îïèñàíèÿ ïðèâîäÿò ê íåîáõîäèìîñòè ó÷èòûâàòü âîçíèêàþùèå îøèáêè: ñèñòåìàòè÷åñêèå (ïîãðåøíîñòè ìîäåëè) è ñòàòèñòè÷åñêèå (ñëó÷àéíûå) ïîãðåøíîñòè. Ðàññìîòðèì çàäà÷ó ïîâûøåíèÿ ýôôåêòèâíîñòè ñåðâåðà. Ïóñòü îí èñïîëüçóåòñÿ äëÿ îáñëóæèâàíèÿ î÷åðåäè çàäàíèé, ïðîöåññ ïîñòóïëåíèÿ êîòîðûõ ÿâëÿåòñÿ ñëó÷àéíûì. Áóäåì ñ÷èòàòü, ÷òî âåðîÿòíîñòíîå ðàñïðåäåëåíèå âðåìåíè îáñëóæèâàíèÿ çàäàíèÿ ñåðâåðîì x, êîòîðûé òðåáóåòñÿ âûáðàòü L(x) âìåñòå ñ íåêîòîðîé ñòîèìîñòüþ èñïîëüçîâàíèÿ q (x) ïàðàìåòðà x çàâèñèò îò âåùåñòâåííîãî ïàðàìåòðà ñ öåëüþ ìèíèìèçàöèè ñðåäíåãî âðåìåíè îæèäàíèÿ êëèåíòàìè f (x) = q(x) + L(x) q(x) + lim N ãäå 1 X Efy (x)g ! min; N N i=1 i Efg ñèìâîë ìàòåìàòè÷åñêîãî îæèäàíèÿ, yi(x) âðåìÿ, êîi òîðîå çàäàíèå, çàêîí÷åííîå -ì ïî ñ÷åòó, îæèäàëî (ïðîñòàèâàëî) â ñåðâåðå äî ìîìåíòà ñâîåãî çàâåðøåíèÿ. Òðåáóåòñÿ íàéòè ïàðàìåòð , ìèíèìèçèðóþùèé f (x) ïî x èç íåêîòîðîãî êîìïàêòíîãî ìíîæåñòâà R (îáëàñòè îïðåäåëåíèÿ). Âîîáùå ãîâîðÿ, ôóíêöèþ L(x) î÷åíü òðóäíî âû÷èñëèòü. Ïóñòü x ôèêñèðîâàíî. Ìîæíî, íàáëþäàÿ çà î÷åðåäüþ äëèòåëüíîå âðåìÿ (ôèêñèðóÿ âðåìÿ ïîñòóïëåíèÿ çàêàçà, âðåìÿ îáñëóæèâàíèÿ è âðåìÿ 18 îòïðàâêè äëÿ êàæäîãî êëèåíòà), èñïîëüçîâàòü ïîëó÷åííûå äàííûå G^ ïðîèçâîäíîé ôóíêöèîíàëà êà÷åñòâà rf (x) äëÿ òåêóùåãî çíà÷åíèÿ x = , ïîëó÷àþùåãîñÿ â ðåçóëüòàòå ïîäñ÷åòà ïî íåêî- b äëÿ îöåíêè òîðîìó ãðàäèåíòíîìó àëãîðèòìó. Çäåñü òåðìèí îöåíêà ïðîèçâîäíîé ïîíèìàåòñÿ â øèðîêîì ñìûñëå, òàê êàê îíà ìîæåò ïîëó÷àòüñÿ ñìåùåííîé. Ôàêòè÷åñêè, ìû îáÿçàíû ïðåäïîëàãàòü, ÷òî ïîëó÷àþùàÿñÿ x, íî è w íåêîíòðîëèðóåìûõ âîçìóùåíèé (ïîìåõ) îöåíêà ïðîèçâîäíîé çàâèñèò íå òîëüêî îò âûáðàííîé òî÷êè îò íåêîòîðîãî íàáîðà G^ = G(x; w); îïðåäåëÿþùèõñÿ êîíêðåòíûìè óñëîâèÿìè ôóíêöèîíèðîâàíèÿ ñåðâåðà íà âûáðàííîì äëÿ èññëåäîâàíèé èíòåðâàëå âðåìåíè, âêëþ÷àÿ ôàêòè÷åñêè ðåàëèçîâàâøóþñÿ ïîñëåäîâàòåëüíîñòü çàïðîñîâ. Îñíîâíàÿ òðóäíîñòü, îáùàÿ äëÿ ìíîãèõ ñèñòåì ðåàëüíîãî âðåìåíè, çàêëþ÷àåòñÿ â òîì, ÷òî îïòèìèçàöèÿ äîëæíà áûòü ïîëó÷åíà íà îñíîâàíèè íàáëþäåíèé òîëüêî íà êîíêðåòíîé òðàåêòîðèè ðåàëèçàöèè ñëó÷àéíîé âåëè÷èíû. Ó ýêñïåðèìåíòàòîðà íåò âîçìîæíîñòè âûáèðàòü çíà÷åíèÿ ôóíêöèè â íåêîòîðîé îêðåñòíîñòè òî÷êè x äëÿ ôîð- ìèðîâàíèÿ îöåíêè ïðîèçâîäíîé â ýòîé òî÷êå, ò. å. ýòó çàäà÷ó îïòèìèçàöèè íå ðåøèòü òðàäèöèîííûìè ñðåäñòâàìè, ñòàíäàðòíûå êîíå÷íî-ðàçíîñòíûå ìåòîäû îöåíêè ïðîèçâîäíîé ôóíêöèîíàëà êà÷åñòâà â ðàññìàòðèâàåìîé çàäà÷å ìàëîïðèãîäíû. Áîëåå àäåêâàòíûìè ïîäõîäàìè ê ðåøåíèþ ÿâëÿþòñÿ àëãîðèòìû îñíîâàííûå íà èñïîëüçîâàíèè ïîäñ÷èòûâàåìûõ íà îïðåäåëåííûõ èíòåðâàëàõ âðåìåíè çíà÷åíèé ýìïèðè÷åñêèõ ôóíêöèîíàëîâ êà÷åñòâà F (x; w), êîòî- ðûå ïðè îïðåäåëåííûõ åñòåñòâåííûõ ïðåäïîëîæåíèÿõ î ðåãóëÿðíîñòè âõîäíîãî ïîòîêà è ýêñïëóàòàöèîííûõ õàðàêòåðèñòèê ñåðâåðà ÿâëÿþòñÿ íåñìåùåííûìè îöåíêàìè çíà÷åíèé ôóíêöèîíàëà êà÷åñòâà f (x) = EfF (x; w)g: Êðîìå ïåðå÷èñëåííûõ òðóäíîñòåé ñ òå÷åíèåì âðåìåíè îïòèìàëüíîå çíà÷åíèå îáû÷íî äðåéôóåò, íàïðèìåð, êàê ïðè êîëåáàíèÿõ ïàðàìåòðîâ âõîäíûõ ïîòîêîâ â êîðïîðàòèâíûõ âû÷èñëèòåëüíûõ ñåòÿõ. Ïîýòîìó íàðÿäó ñ çàäà÷åé îïòèìèçàöèè íå ìåíåå àêòóàëüíîé ÿâëÿåòñÿ ïðîáëåìà î òðåêèíãå (îòñëåæèâàíèè èçìåíÿþùåéñÿ òî÷êè Ft (x; w) ñëó÷àéíàÿ ôóíêöèÿ äèñ= 1; 2; : : :, âåêòîðíîãî ïàðàìåòðà x è âåêòîðà ìèíèìóìà). Áîëåå òî÷íî, ïóñòü êðåòíîãî âðåìåíè t íåêîíòðîëèðóåìûõ âîçìóùåíèé w. Îáîçíà÷èì ÷åðåç ft òåêóùèé 19 ôóíêöèîíàë ñðåäíåãî ðèñêà: ft (x) = Ew fFt (x; w)g: Òî÷êó ìèíèìóìà ôóíêöèîíàëà ft îáîçíà÷èì t = arg min f (x): x t Êàê è ðàíåå áóäåì ñ÷èòàòü, ÷òî, âûáðàâ x íà îïðåäåëåííûõ èí- òåðâàëàõ âðåìåíè, ìû ìîæåì èçìåðèòü çíà÷åíèÿ ñîîòâåòñòâóþùåãî òåêóùåãî ýìïèðè÷åñêîãî ôóíêöèîíàëà Ft (x; w). Ïðè ýòîì ìû åñòåñòâåííî ïðåäïîëàãàåì, ÷òî ñêîðîñòü äðåéôà îïòèìàëüíîãî ïàðàìåòðà íàñòîëüêî íèçêàÿ, ÷òî ìû â ñîñòîÿíèè ïîëó÷èòü öåëóþ ñåðèþ çíà÷åíèé Ft (xn ; wn ); n = 1; 2; : : :. Òðåáóåòñÿ ïî íàáëþäåíèÿì (ìîæåò áûòü ñ äîïîëíèòåëüíûìè ïîìåõàìè) çà ñëó÷àéíûìè âåëè÷èíàìè Ft (xn ; wn ); n = 1; 2; : : : ïî- f^n g, îòñëåæèâàþùèõ èçìåíå^ êîòîðîé kn t k ! min â êàêîì-íèáóäü ñòðîèòü ïîñëåäîâàòåëüíîñòü îöåíîê íèÿ ïàðàìåòðà ñìûñëå. t , äëÿ Äàëåå áóäåò îïèñàí ñïîñîá êàê äëÿ ðåøåíèÿ îïèñàííûõ ïðîáëåì ìîæíî ïîïûòàòüñÿ ïðèìåíèòü ðàíäîìèçèðîâàííûå àëãîðèòìû ñòîõàñòè÷åñêîé îïòèìèçàöèè èç [3]. 3. Ðàíäîìèçèðîâàííûå àëãîðèòìû ñòîõàñòè÷åñêîé îïòèìèçàöèè Ïðîáíûì îäíîâðåìåííûì âîçìóùåíèåì áóäåì íàçûâàòü ïîñëåäîâàòåëüíîñòü íàáëþäàåìûõ îäèíàêîâî ñèììåòðè÷íî ðàñïðåäåëåííûõ íåçàâèñèìûõ ñëó÷àéíûõ âåêòîðîâ öèé fn g ñ ìàòðèöàìè êîâàðèà- covfn Tj g = Ænj 2 I; ãäå Ænj 2 f0; 1g ñèìâîë Êðîíåêåðà, 0 < < 1.  ïðèëîæåíèÿõ ÷àñòî â ðîëè ïðîáíîãî îäíîâðåìåííîãî âîçìóùåíèÿ èñïîëüçóþòñÿ áåðíóëëèåâñêèå ñëó÷àéíûå âåêòîðû (êîîðäèíàòû âåêòîðà n íå çà- âèñÿò äðóã îò äðóãà è ïðèíèìàþò ñ ðàâíîé âåðîÿòíîñòüþ çíà÷åíèÿ 1). Îêàçûâàåòñÿ (ñì.[3-4]), ÷òî ïðè çàøóìëåííûõ íàáëþäåíèÿõ áåç ñóùåñòâåííûõ ïîòåðü â ñêîðîñòè ñõîäèìîñòè äëÿ ïîñòðîåíèÿ ñîñòî- 20 ÿòåëüíîé ïîñëåäîâàòåëüíîñòè îöåíîê òî÷êè ìèíèìóìà ôóíêöèîíàëà f (x) ìîæíî âîñïîëüçîâàòüñÿ àëãîðèòìîì y+ y0 ^n = ^n 1 n n n n ; n ïîõîæèì âíåøíå íà êëàññè÷åñêóþ ïðîöåäóðó Êèôåðà-Âîëüôîâèöà, íî èñïîëüçóþùèì íà êàæäîé èòåðàöèè âñåãî äâà çàøóìëåííûõ èçìåðåíèÿ ýìïèðè÷åñêîé ôóíêöèè : yn+ = F (^n 1 + n n ; wn+ ) + vn+ ; yn0 = F (^n 1 ; wn0 ) + vn0 : Áîëåå òîãî, àíàëîãè÷íûìè ñâîéñòâàìè îáëàäàåò àëãîðèòì ñ îäíèì çàøóìëåííûì íàáëþäåíèåì íà êàæäîé èòåðàöèè: ^n = ^n 1 n y; n n n yn = F (^n 1 + n n ; wn ) + vn :  îáîèõ àëãîðèòìàõ fn g è fn g ïîñëåäîâàòåëüíîñòè íåîòðèöàòåëüíûõ ÷èñåë, óäîâëåòâîðÿþùèå íåêîòîðûì óñëîâèÿì. Ýòè ðåêóð- ðàíäîìèçèðîâàííûìè àëãîðèòìàìè ñòîõàñòè÷åñêîé îïòèìèçàöèè, òàê êàê â èõ ñòðóêòóðó íåîòúåìëåðåíòíûå ïðîöåäóðû íàçûâàþò ìîé ÷àñòüþ âõîäèò ñëó÷àéíîå ïðîáíîå îäíîâðåìåííîå ïî âñåì êîîðäèíàòàì âîçìóùåíèå, êîòîðîå òàêæå îäíîâðåìåííî èñïîëüçóåòñÿ è â çàäàíèè íàïðàâëåíèÿ î÷åðåäíîãî èçìåíåíèÿ îöåíêè è ïðè âûáîðå íîâîé òî÷êè èçìåðåíèÿ.  ëèòåðàòóðå èíîãäà âñòðå÷àþòñÿ íà- ñòîõàñòè÷åñêàÿ àïïðîêñèìàöèÿ ñî ñëó÷àéíûìè íàïðàâëåíèÿìè, ïîèñêîâûé àëãîðèòì ñòîõàñòè÷åñêîé àïïðîêñèìàöèè èëè ñòîõàñòè÷åñêàÿ àïïðîêñèìàöèÿ ñ âîçìóùåíèåì íà âõîäå.  àíãëîÿçû÷íîé ëèòåðàòóðå øèðîêî èñïîëüçóåòñÿ íàçâàíèå îäíîâðåìåííî âîçìóùàåìàÿ ñòîõàñòè÷åñêàÿ àïïðîêñèìàöèÿ (simultaneous perturbation stochastic approximation, SPSA). Òî÷íûå óñëîâèÿ, îáåñçâàíèÿ ïå÷èâàþùèå ñîñòîÿòåëüíîñòü îöåíîê ðàíäîìèçèðîâàííûõ àëãîðèòìîâ ñòîõàñòè÷åñêîé îïòèìèçàöèè ïðèâåäåíû, íàïðèìåð, â [3]. Èç âñåõ îãðàíè÷åíèé íàèáîëåå ñóùåñòâåííûì ÿâëÿåòñÿ óñëîâèå î ñëà- fn g è ïîñëåäîâàfwn g è fvn g. Åñòåñòâåííî, ÷òî ñðåä- áîé êîððåëèðîâàííîñòè ïðîáíîãî âîçìóùåíèÿ òåëüíîñòåé íåîïðåäåëåííîñòåé íåêâàäðàòè÷íàÿ ñêîðîñòü ñõîäèìîñòè ïåðâîãî ðàíäîìèçèðîâàííîãî àëãîðèòìà ñ äâóìÿ èçìåðåíèÿìè îáû÷íî âûøå, ÷åì ó âòîðîãî. Íî 21 ñòîèò çàìåòèòü, ÷òî â öåëîì ðÿäå ïðàêòè÷åñêèõ çàäà÷ îïòèìèçàöèè ñèñòåì ðåàëüíîãî âðåìåíè, îáíàðóæåíèÿ ñèãíàëîâ è àäàïòèâíîãî óïðàâëåíèÿ âàæíî èìåòü âîçìîæíîñòü èñïîëüçîâàòü àëãîðèòì òîëüêî ñ îäíèì íàáëþäåíèåì íà êàæäîì øàãå, òàê êàê â ýòèõ çàäà÷àõ íåäîñòóïíû äàæå äâà íàáëþäåíèÿ ñ íåçàâèñèìûìè îò ïîìåõàìè. 4. n Îñíîâíûå ïðåäïîëîæåíèÿ è ñîñòîÿòåëüíîñòü îöåíîê Ïóñòü f (x) âåùåñòâåííàÿ ôóíêöèÿ âåùåñòâåííîãî àðãóìåíòà x, äâàæäû íåïðåðûâíî äèôôåðåíöèðóåìàÿ, îãðàíè÷åííàÿ, ñèëüíîâûïóêëàÿ, òî åñòü èìååò â R åäèíñòâåííûé ìèíèìóì â íåêîòîðîé òî÷êå = (f ()): (x ; rf (x)) (x )2; 8X 2 R; ñ íåêîòîðîé ïîñòîÿííîé > 0, è äëÿ ãðàäèåíòà ôóíêöèè f (x) âû- ïîëíåíî óñëîâèå Ëèïøèöà: krf (x) rf ()k M kx k; 8x; 2 R ñ íåêîòîðîé ïîñòîÿííîé âðåìåííîå âîçìóùåíèå ÷åíèÿ M > . Áóäåì ñ÷èòàòü, ÷òî ïðîáíîå îäíî- n ïðèíèìàåò ñ ðàâíîé âåðîÿòíîñòüþ çíà- 1 íåçàâèñèìî îò vn . Ïðèìåíåíèå ðàíäîìèçèðîâàííûõ àëãîðèòìîâ ñòîõàñòè÷åñêîé îïòèìèçàöèè ýôôåêòèâíî è ïðè ïî÷òè ïðîèçâîëüíûõ àääèòèâíûõ ïîìåõàõ â íàáëþäåíèè fvng.  ïîäòâåðæäåíèå ýòîãî ôàêòà â ñëó÷àå íåèçâåñòíîé, íî îãðàíè÷åííîé äåòåðìèíèðîâàííîé ïîñëåäîâàòåëüíîñòè ïîìåõ fvn g îñòàíîâèìñÿ çäåñü òîëüêî íà íåôîðìàëüíîì îáú- ÿñíåíèè, áëèçêîì ê èäåå äîêàçàòåëüñòâà â êíèãå [3]. Äëÿ ïðèìåðà ðàññìîòðèì ïîñëåäîâàòåëüíîñòü îöåíîê f^ng, ôîðìèðóåìûõ ïî ðàí- äîìèçèðîâàííîìó àëãîðèòìó ñòîõàñòè÷åñêîé îïòèìèçàöèè ñ îäíèì = (^n )2 è, ó÷èòûâàÿ öåíòðèðîâàííîñòü n è íåçàâèñèìîñòü n îò vn , îöåíèì óñëîâíîå ìàòåìàòè÷åèçìåðåíèåì. Îáîçíà÷èì Dn ñêîå îæèäàíèå: EfDn j ^i ; i < ng Dn 1 n ^ ( )Efn yn j ^i ; i < ng+ n n 1 2 + n2 Ef2nyn2 j ^i; i < ng = Dn n 1 22 n ^ ( n n 1 Ïî ôîðìóëå )Efn f (n 1 + n n ) j ^i ; i < ng+ 2 + n2 Efyn2 j ^i ; i < ng: n Òåéëîðà äëÿ çíà÷åíèÿ ôóíêöèè f (n 1 + n n ) ñïðàâåäëèâî ðàçëîæåíèå f (n 1 + n n ) = f (^n 1 ) + n n rf (^n 1 ) + n2 n ; n íåêîòîðîå ÷èñëî ìåæäó ^n 1 è ^n 1 + n n (âîîáùå ãîâîðÿ, n ñëó÷àéíàÿ âåëè÷èíà). Ñ ó÷åòîì ïîñëåäíåé ôîðìóëû, ïðèíèìàÿ ãäå n, âûâîäèì: EfDn j ^i ; i < ng (1 + 12 nn)Dn 1 n(^n 1 )rf (^n 1 ) + n; 2 2 2 2 ^i ; i < ng. Îòñþäà, â ñèëó ñèëüíîé ãäå n = Efn n n =2+ n n yn j âûïóêëîñòè ôóíêöèè f (), ïîëó÷àåì, ÷òî ïîñëåäîâàòåëüíîñòü n âî âíèìàíèå öåíòðèðîâàííîñòü ïî÷òè ñóïåðìàðòèíãàë: E fDn j ^i ; i < ng (1 n )Dn 1 + n ; ãäå n = n n n =2. Åñëè ïðåäïîëîæèòü, ÷òî äëÿ ÷èñëîâûõ ïîñëåäîâàòåëüíîñòåé n è n âûïîëíÿþòñÿ óñëîâèÿ 2n n n < 1; n > 0; n = 1; n ! 1; 2 < 1; n n n n X X X òî âûïîëíåíû âñå óñëîâèÿ ëåììû Ðîááèíñà-Ñèãìóíäà [5] î ñõîäèìî- f^n g ñèëüíîñîñòîÿòåëüíàÿ. Ïðè ýòîì äèñïåðñèÿ îøèáêè îöå2 ñòè ïî÷òè ñóïåðìàðòèíãàëîâ. Ñëåäîâàòåëüíî, ïîñëåäîâàòåëüíîñòü îöåíîê íèâàíèÿ ïðÿìî ïðîïîðöèîíàëüíà n . n2 Ïðè îòñëåæèâàíèè äðåéôà îïòèìàëüíîãî çíà÷åíèÿ ïàðàìåòðà ñåðâåðà â [4] ïîêàçàíî, ÷òî â ðÿäå ñëó÷àåâ âîçìîæíî ïðèìåíåíèå è . Åñòåñòâåííî, ÷òî ïðè íåèçìåííîì îïòèìàëüíîì àëãîðèòìû ñ ïîñòîÿííûìè è íå ìîãóò äîñòè÷ü òî÷- ïîñòîÿííûõ çíà÷åíèè íîãî çíà÷åíèÿ, íî ïðè èõ óäà÷íîì âûáîðå êà÷åñòâî ðàáîòû ñåðâåðà ìîæåò ïîëó÷èòüñÿ äîñòàòî÷íî õîðîøèì â òîé ñèòóàöèè, êîãäà ïàðàìåòðû äðåéôóþò. Äðóãèìè ñëîâàìè, èñïîëüçóÿ ïîñòîÿííûå è , ìû ìîæåì ïîæåðòâîâàòü îïòèìèçàöèåé â ïîëüçó ëó÷øåãî êà÷åñòâà òðåêèíãà. 23 5. Àëãîðèòì àäàïòàöèè øàãà äèñïåò÷åðèçàöèè ñåðâåðà Âåðíåìñÿ ê çàäà÷å ýôôåêòèâíîãî îáñëóæèâàíèÿ î÷åðåäè çàäàíèé îäíèì ñåðâåðîì. Áóäåì ïðåäïîëàãàòü, ÷òî ïðîöåññ ïîñòóïëåíèÿ ýòèõ çàäàíèé îò êëèåíòîâ íîñèò ñëó÷àéíûé õàðàêòåð. Âõîäíûå äàííûå îïðåäåëÿþò ïîñëåäîâàòåëüíîñòü ïàð ÷èñåë f(tini ; di )g, â êîòîðûõ ïåðâîå çíà÷åíèå ñîîòâåòñòâóåò âðåìåíè ïðèõîäà çàäàíèÿ íà ñåðâåð, à âòîðîå âðåìåíè, íåîáõîäèìîìó äëÿ åãî èñïîëíåíèÿ. Åñòåñòâåííî, ÷òî äëÿ ñåðâåðà çíà÷åíèÿ ìè. din i ñ÷èòàþòñÿ íåèçâåñòíû- Äëÿ ïðîñòîòû ñ÷èòàåì, ÷òî ñåðâåð îáðàáàòûâàåò çàäàíèÿ ñëåäóþùèì îáðàçîì: çàäàåòñÿ øàã äèñïåò÷åðèçàöèè x (x 2 = [a; b]); ïåðâîå ïîñòóïèâøåå çàäàíèå íà÷èíàåò âûïîëíÿòüñÿ ñåðâåðîì ñðàçó ïîñëå ïîñòóïëåíèÿ; ïîñòóïàþùèå çàäàíèÿ ïîïàäàþò â åñòåñòâåííóþ î÷åðåäü; â êàæäûé ìîìåíò âðåìåíè ñåðâåð îáðàáàòûâàåò òîëüêî îäíî òåêóùåå çàäàíèå; â ìîìåíòû âðåìåíè êðàòíûå âûáðàííîìó øàãó äèñïåò÷åðèçà- öèè x, åñëè ñåðâåð ñâîáîäåí, òî îí ïåðåêëþ÷àåòñÿ íà âûïîëíåíèå ïåðâîãî â î÷åðåäè çàäàíèÿ, åñëè îí çàíÿò, òî âûïîëíÿþùååñÿ çàäàíèå ïðåðûâàåòñÿ è îòïðàâëÿåòñÿ â êîíåö î÷åðåäè, à ñåðâåð ïåðåêëþ÷àåòñÿ íà ïåðâîå çàäàíèå èç î÷åðåäè. Íà ýòó îïåðàöèþ çàãðóçêèâûãðóçêè ñåðâåð âñåãäà çàòðà÷èâàåò ôèêñèðîâàííîå âðåìÿ N Âûáåðåì íàòóðàëüíîå äîñòàòî÷íî áîëüøîå ÷èñëî N dload . (íàïðèìåð, = 1000). Ðàçîáüåì îáùåå âðåìÿ ðàáîòû ñåðâåðà íà îïðåäåëåííûå èíòåðâàëû òàêòû: t0 t1 t0 ; t1 ; : : : ; tk ; : : :, ïî ïðàâèëó: âðåìÿ íà÷àëà ðàáîòû ñåðâåðà; âðåìÿ îêîí÷àíèÿ âûïîëíåíèÿ ïåðâûõ ... tk âðåìÿ îêîí÷àíèÿ âûïîëíåíèÿ N çàäàíèé; k-îé ñåðèè èç N çàäàíèé; ... Îòìåòèì, ÷òî âîîáùå-òî çàäàâàòü òàêòû ìîæíî ðàçëè÷íûìè ñïîñîáàìè: ëèáî íà÷èíàÿ íîâûé èíòåðâàë ïî çàâåðøåíèè îáðàáîòêè ãðóïïû èç íåêîòîðîãî ôèêñèðîâàííîãî ÷èñëà çàêàçîâ, ëèáî ïîñëå ïðèõîäà íà ñåðâåð ôèêñèðîâàííîãî ÷èñëà çàäàíèé, ëèáî âûáèðàÿ ôèêñèðîâàííûé èíòåðâàë âðåìåíè ñåðâåðà, è ò. ï. Âñå ðàçóìíûå ïðàâèëà âûáîðà òàêòîâ âî ìíîãîì ýêâèâàëåíòíû. 24 yk äëÿ ýìïèðè÷åñêîãî ôóíêk-ãî òàêòà êàêèì-òî ^k äëÿ ðåãóëèðóîáðàçîì çàäàíî ñîîòâåòñòâóþùåå çíà÷åíèå îöåíêè åìîãî ïàðàìåòðà x (èíòåðâàëà âðåìåíè îáñëóæèâàíèÿ çàäàíèÿ íà Îïèøåì ñïîñîá ïîëó÷åíèÿ çíà÷åíèé F (x; w). öèîíàëà Ñ÷èòàåì, ÷òî äëÿ êàæäîãî ñåðâåðå). Äëÿ óäîáñòâà ïåðåíóìåðóåì çàäàíèÿ, âûïîëíåííûå ñåðâåðîì, â ïîðÿäêå îêîí÷àíèÿ èõ îáðàáîòêè. Êàæäîìó çàäàíèþ íàðÿäó ñ ïàðîé ÷èñåë (tini ; di), îïðåäåëåííûõ óæå â ìîìåíò åãî ïîñòóïëå- tout i âðåìÿ îêîí÷àíèÿ åãî îáðàáîòêè. íèÿ, ñîïîñòàâèì åùå îäíî Îïðåäåëèì çíà÷åíèÿ ýìïèðè÷åñêîé ôóíêöèè êà÷åñòâà êàê ñðåäíåå âðåìÿ áåñïîëåçíîãî îæèäàíèÿ çàäàíèé äî èõ çàâåðøåíèÿ ñ ó÷åòîì X ñòîèìîñòè èñïîëüçîâàíèÿ çàãðóçêè-âûãðóçêè îáðàáîò÷èêà (t yk = k tk 1 ) dload ^k + N1 tout 2[tk 1 ;tk ] i (tout i tin di ): i Àëãîðèòìû àäàïòàöèè >0 >0 fn g 1 P[a;b]() [a; b] Àëãîðèòì SPSA ñ îäíèì èçìåðåíèåì: k = 0 ^0 k k0 = P[a;b](^k + k ) x = k0 Âûáåðåì íåêîòîðûå äîñòàòî÷íî ìàëûå êîýôôèöèåíòû è ñëó÷àéíóþ ïîñëåäîâàòåëüíîñòü ÷èñåë îäèíàêîâîé âåðîÿòíîñòüþ. Îáîçíà÷èì âàë , ðàâíûõ è ñ ïðîåêòîð â èíòåð- . 1. Ïîëîæèì îöåíêè è âûáåðåì íåêîòîðîå íà÷àëüíîå çíà÷åíèå . 2.  íà÷àëå êàæäîãî ãî òàêòà âû÷èñëÿåì 3. Çàïóñêàåì ñåðâåð ñ çíà÷åíèåì ïàðàìåòðà 4. Ïîñëå çàâåðøåíèÿ ïðàâèëó k . . ãî òàêòà ïîäñ÷èòàåì íîâóþ îöåíêó ïî ^k+1 = P[a;b](^k 5. Óâåëè÷èâàåì íîìåð òàêòà y ): k k k = k + 1. 6. Ïåðåõîä ê ï.2 (ïîâòîð äåéñòâèé çàíîâî). Àëãîðèòì SPSA ñ äâóìÿ èçìåðåíèÿìè îòëè÷àåòñÿ îò ïðåäûäóùåãî àëãîðèòìà òîëüêî â äâóõ îïåðàöèÿõ 2.  íà÷àëå êàæäîãî òàêòà k k0 , íî â ýòîò k ÷åòíîå, òî k0 = ^k , âû÷èñëÿåì çíà÷åíèå ðàç îíî çàâèñèò îò ÷åòíîñòè ñ÷åò÷èêà: åñëè k0 = P[a;b](^k + k ). 4. Ïîñëå çàâåðøåíèÿ k ãî òàêòà ïîäñ÷èòàåì ^k+1 = ^k , èíà÷å ïðàâèëó: åñëè k ÷åòíîå, òî ^k+1 = ^k (y y ): k k k 1 èíà÷å íîâóþ îöåíêó ïî 25 Ðèñ. 1: Îïòèìèçàöèÿ ôóíêöèîíàëà êà÷åñòâà. 6. Èìèòàöèîííîå ìîäåëèðîâàíèå Äëÿ èìèòàöèè ðàáîòû îïèñàííîãî âûøå ñåðâåðà áûëà íàïèñàíà ïðîãðàììà, â êîòîðîé çàäàâàòü î÷åðåäü âõîäíûõ çàäàíèé ìîæíî ðàçëè÷íûìè ñïîñîáàìè. Êðîìå òîãî, èíòåðôåéñ ïðîãðàììû ïîçâîëÿë çàïóñêàòü ñåðâåð (ñ íîâûìè âõîäíûìè äàííûìè è íóëåâîé î÷åðåäüþ ñåðâåðà), çàäàâàòü ïàóçó â ðàáîòå ñåðâåðà (âñå äàííûå ñîõðàíÿþòñÿ), âîçîáíîâëÿòü ðàáîòó ñåðâåðà ñ ñîõðàíåííûìè äàííûìè, çàâåðøàòü ðàáîòó ïðîãðàììû, çàäàâàòü ïàðàìåòðû x èíòåðâàë íåïðåðûâíîãî âðåìåíè îáñëóæèâàíèÿ çàäàíèé ñåðâåðîì, è dload âðåìÿ, íåîáõîäèìîå íà çàãðóçêó-âûãðóçêó çàäàíèé. Âõîäíûå äàííûå ïðåäñòàâëÿþò ñîáîé ïîñëåäîâàòåëüíîñòü ïàð (tini ; di ).  ïðîãðàììå ïðåäóñìîòðåíà âîçìîæíîñòü âûáîðà âõîäíûõ äàííûõ èëè èç ôàéëà, èëè â ðåçóëüòàòå ãåíåðàöèè ïñåâäîñëó÷àéíîé ïîñëåäîâàòåëüíîñòè, çàäàâàåìîé ñ ïîìîùüþ ýêñïîíåíöèàëüíûõ ðàñïðåäåëåíèé ñ ïàðàìåòðàìè in è d in tin i = ti 1 di = ãäå íà !iin ; !id ñîîòâåòñòâåííî: 1 ln !in ; i in 1 ln !d; i d íåêîòîðûå ðåàëèçàöèè ðàâíîìåðíî ðàñïðåäåëåííîé [0; 1] ñëó÷àéíîé âåëè÷èíû. 26 Ðèñ. 2: Àäàïòàöèÿ ê îïòèìàëüíîìó ïàðàìåòðó. Âîçìîæíîñòè èìèòàöèîííîé ìîäåëè ïîçâîëÿþò, âûáðàâ ïàðàìåòðû âõîäíîãî ïîòîêà, èññëåäîâàòü çàâèñèìîñòü ïîâåäåíèÿ çíà÷åíèé ýìïèðè÷åñêîãî ôóíêöèîíàëà êà÷åñòâà îò èçìåíåíèÿ ïàðàìåòðà x (øàãà äèñïåò÷åðèçàöèè). Íà ðèñ. 1à ïîêàçàí ãðàôèê çàx óñðåäíåííûõ çíà÷åíèé ýìïèðè÷åñêîãî ôóíêöèîíàëà ïðè âûáîðå dload = 0:05; in = 0:5 è d = 0:75. Ìèíèìàëüíîå çíà÷åíèå ñîîòâåòñòâóåò òî÷êå x áëèçêîé ê 0:17. Ðèñ. 1á èëëþñòðèðóåò òîò ôàêò, ÷òî ïðè ðàáîòå ñ ôèêñèðîâàííûì ïàðàìåòðîì x = 0:05 ñåðâåðà âèñèìîñòè îò ïîâåäåíèå òåêóùèõ îöåíîê ôóíêöèîíàëà êà÷åñòâà ÷àñòî ïðèâîäèò ê ñóùåñòâåííîìó ðîñòó ôóíêöèè ïîòåðü, ÷òî ãîâîðèò î íèçêîé ýôôåêòèâíîñòè îáðàáîòêè î÷åðåäè çàäàíèé. Íàïðîòèâ, èñïîëüçîâàíèå ðàññìîòðåííîãî â ðàáîòå ðàíäîìèçèðîâàííîãî àëãîðèòìà àäàïòàöèè øàãà äèñïåò÷åðèçàöèè ïðè òåõ æå ñòàðòîâûõ óñëîâèÿõ ïîçâîëÿåò ñ òå÷åíèåì âðåìåíè âûéòè íà óðîâåíü áëèçêèé ê ñðåäíåìó ìèíèìàëüíî âîçìîæíîìó çíà÷åíèþ, ò. å. ñåðâåð, íà÷àâ ðàáîòó ñ íåîïòèìàëüíûì ïàðàìåòðîì x, ñ òå÷åíèåì âðåìåíè àäàïòèðóåòñÿ ê êîíêðåòíûì (íåèçâåñòíûì äëÿ ñåðâåðà) ïàðàìåòðàì âõîäíîãî ïîòîêà. Òèïè÷íûé âèä ïîâåäåíèÿ çíà÷åíèé ýìïèðè÷åñêîãî ôóíêöèîíàëà êà÷åñòâà ïðè òàêîé ïîäñòðîéêå ïðèâåäåí íà ðèñ. 2. Íà ðèñ. 3 ïîêàçàí ïðèìåð ïîäñòðîéêè íàñòðàèâàåìîãî ïàðàìåòðà ñåðâåðà (òðåêèíãà) ê ñêà÷êîîáðàçíîìó èçìåíåíèþ ïàðàìåòðîâ âõîäíîãî ïîòîêà. 27 Ðèñ. 3: Ïîâåäåíèå yk ïðè òðåêèíãå. Ñïèñîê ëèòåðàòóðû [1] Kushner H.J., Yin G.G. Stochastic Approximation Algorithms and Applications. New York: SpringerVerlag. 2002. 415 p. [2] Tang Q-Y., Chen H.F., Han Z-J. Convergence rates of PerturbationAnalysisRobbinsMonroSingleRun algorithms for single server queues // IEEE Trans. on Automatic Control. 1997. Vol. 42, 10. P. 14421447. [3] Ãðàíè÷èí Î. Í., Ïîëÿê Á. Ò. Ðàíäîìèçèðîâàííûå àëãîðèòìû îöåíèâàíèÿ è îïòèìèçàöèè ïðè ïî÷òè ïðîèçâîëüíûõ ïîìåõàõ. Ì.: Hàóêà, 2003. 291 ñ. [4] Granichin O. N. Linear regression and filtering under nonstandard assumptions (Arbitrary noise) // Trans. on Automatic Control. 2004. Vol. 49. Oct. 10. P. 18301835. [5] Robbins H., Siegmuud D. A convergence theorem for nonnegative almost super-martingales and some applications // In: Optimizing Methods in Statistics, J. S. Rustagi ed. Academic Press. NY. 1971. P. 233257. 28
