Ìîñêîâñêèé ôèçèêî-òåõíè÷åñêèé èíñòèòóò Ôàêóëüòåò èííîâàöèé è âûñîêèõ òåõíîëîãèé Ìàòåìàòè÷åñêàÿ ëîãèêà è òåîðèÿ àëãîðèòìîâ, îñåíü 2014 Ëåêöèÿ 1: Èçìåðåíèå ñëîæíîñòè â ðàçëè÷íûõ ìîäåëÿõ âû÷èñëåíèé Êðàòêîå ñîäåðæàíèå Âèäû âû÷èñëèòåëüíûõ çàäà÷: çàäà÷è âû÷èñëåíèÿ ÿçûêà, ðàñïîçíàâàíèÿ ôóíêöèè è ïîèñêà. Âèäû âû÷èñëèòåëüíûõ ðåñóðñîâ: âðåìÿ, ïàìÿòü, ñëó÷àéíîñòü, ïîäñêàçêà, äëèíà ïðîãðàììû, ñïåöèàëüíûå ìîäåëè âû÷èñëåíèé, îðàêóëû. Ðàçëè÷íûå ïîäõîäû ê èçìåðåíèþ ñëîæíîñòè çàäà÷è. Áèòîâàÿ è àëãåáðàè÷åñêàÿ ñëîæíîñòè. Ñëîæíîñòü â õóäøåì ñëó÷àå è â ñðåäíåì. Äåòåðìèíèðîâàííûå ìíîãîëåíòî÷íûå ìàøèíû Òüþðèíãà. Ïîíÿòèÿ ìàøèíû, êîíôèãóðàöèè, øàãà âû÷èñëåíèÿ, âû÷èñëåíèÿ. Ðàñïîçíàâàíèå ÿçûêà íà ìàøèíå. Èçìåðåíèå âðåìåíè â õóäøåì ñëó÷àå. Êëàññ DTIME(T (n)). Ìîäåëèðîâàíèå ìíîãîëåíòî÷íîé ìàøèíû íà îäíîëåíòî÷íîé ìà- øèíå. Ôóíêöèè, êîíñòðóèðóåìûå ïî âðåìåíè. 1 Âèäû âû÷èñëèòåëüíûõ çàäà÷ è âû÷èñëèòåëüíûõ ðåñóðñîâ Àëãîðèòìû ðàáîòàþò ñ ìàññîâûìè çàäà÷àìè, ò.å. ïîõîæèìè ýêçåìïëÿðàìè îäíîé è òîé æå çàäà÷è. Àëãîðèòì äîëæåí äåéñòâîâàòü ïî îäíîé è òîé æå èíñòðóêöèè äëÿ âñåõ ýêñçåìïëÿðîâ. Ìû áóäåì èçó÷àòü òðè îñíîâíûõ âèäà âû÷èñëèòåëüíûõ çàäà÷: Ïî ñëîâó x íóæíî âûÿñíèòü, ëåæèò ëè îíî â ÿçûêå L ⊂ Σ∗ . Èíûìè ñëîâàìè, àëãîðèòì äîëæåí âîçâðàùàòü 1 íà âñåõ x ∈ L è 0 íà âñåõ x 6∈ L. . Ïî ñëîâó x íóæíî íàéòè çíà÷åíèå f (x), ãäå f : Σ∗ → ∗ Σ . Èíûìè ñëîâàìè, àëãîðèòì äîëæåí íà ëþáîì x âîçâðàùàòü f (x). Êàê ïðàâèëî, ìû áóäåì ñ÷èòàòü, ÷òî f âñþäó îïðåäåëåíà. Ïî ñëîâó x íóæíî íàéòè ñëîâî y, òàêîå ÷òî xRy, ãäå R ⊂ Σ∗ × Σ∗ íåêîòîðîå îòíîøåíèå. Èíûìè ñëîâàìè, àëãîðèòì íà ëþáîì x äîëæåí ëèáî âîçâðàùàòü y, òàêîå ÷òî xRy, ëèáî ãîâîðèòü, ÷òî òàêèõ y íåò.  îñíîâíîì ìû áóäåì ðàáîòàòü ñ çàäà÷àìè ðàñïîçíàâàíèÿ ÿçûêà. Äëÿ àëãîðèòìè÷åñêîãî ðåøåíèÿ çàäà÷ òðåáóþòñÿ ðàçëè÷íûå âû÷èñëèòåëüíûå ðåñóðñû: Âñå àëãîðèòìû ðàáîòàþò ïîøàãîâî. Äëÿ ðåøåíèÿ êàæäîé çàäà÷è òðåáóåòñÿ íåêîòîðîå ìèíèìàëüíîå ÷èñëî øàãîâ. Àëãîðèòìó íåîáõîäèìî ïðîñòðàíñòâî äëÿ ïðîìåæóòî÷íûõ âû÷èñëåíèé. Íåêîòîðûå çàäà÷è (íàïðèìåð, ïðîâåðêà ÷èñëà íà ïðîñòîòó) ïðè ñîâðåìåííîì óðîâíå çíàíèé ðåøàþòñÿ ãîðàçäî áûñòðåå, åñëè ïðèìåíèòü âåðîÿòíîñòíûé àëãîðèòì âìåñòî äåòåðìèíèðîâàííîãî. Êàê ïðàâèëî, ðàñïëàòîé çà ýòî óñêîðåíèå áóäåò ìàëåíüêàÿ, íî ïîëîæèòåëüíàÿ âåðîÿòíîñòü îøèáêè. Çàäà÷à ðàñïîçíàâàíèÿ ÿçûêà. Çàäà÷à âû÷èñëåíèÿ ôóíêöèè Çàäà÷à ïîèñêà. Âðåìÿ ðàáîòû. Ïàìÿòü. Ñëó÷àéíîñòü. 1 2 Åñëè ìàøèíà ïîëó÷àåò íåáîëüøóþ ïîäñêàçêó, çàâèñÿùóþ òîëüêî îò äëèíû âõîäà, îíà ìîæåò ñóùåñòâåííî óñêîðèòüñÿ. Áîëåå òîãî, ñ ïîäñêàçêîé ìîæíî äàæå íåêîòîðûå íåâû÷èñëèìûå ôóíêöèè. Ìîæíî ñåáå ïðåäñòàâèòü, ÷òî ïðîãðàììà ñ áîëåå äëèííûì òåêñòîì áóäåò ðàáîòàòü áûñòðåå. Ñóùåñòâóþò ìîäåëè âû÷èñëåíèé, êîòîðûå íå óìåþò ñèìóëèðîâàòü íà ñòàíäàðòíûõ êîìïüþòåðàõ áåç çíà÷èòåëüíîãî ðîñòà âû÷èñëèòåëüíûõ ðåñóðñîâ. Ïðåæäå âñåãî, ýòî íåäåòåðìèíèðîâàííûå è êâàíòîâûå âû÷èñëåíèÿ. Íåêîòîðûå çàäà÷è ïðè ñîâðåìåííîì óðîâíå çíàíèé ðåøàþòñÿ â ýòèõ ìîäåëÿõ ãîðàçäî áûñòðåå. Âû÷èñëåíèÿ ñ îðàêóëîì ïîçâîëÿþò ïðî ëþáîå ñëîâî çà îäèí øàã óçíàâàòü, ïðèíàäëåæèò ëè ýòî ñëîâî íåêîòîðîìó ôèêñèðîâàííîìó ìíîæåñòâó. Êàê èçâåñòíî, ýòî äàæå ðàñøèðÿåò êëàññ àëãîðèòìè÷åñêè ðåøàåìûõ çàäà÷. Òàêæå ýòî ðàñøèðÿåò êëàññ çàäà÷, ðåøàåìûõ ýôôåêòèâíî, à êîëè÷åñòâî çàïðîñîâ ê îðàêóëó ìîæíî ñàìî ïî ñåáå âîñïðèíèìàòü êàê ìåðó ýôôåêòèâíîñòè àëãîðèòìà. Ïîäñêàçêà. Äëèíà ïðîãðàììû. Ñïåöèàëüíûå ìîäåëè âû÷èñëåíèé. Îðàêóë. Ïîäõîäû ê ïîäñ÷¼òó ñëîæíîñòè çàäà÷ Äëÿ îïðåäåëåíèÿ ñëîæíîñòè ðåøåíèÿ àëãîðèòìè÷åñêîé çàäà÷è íóæíî îïðåäåëèòüñÿ ñ äâóìÿ âåùàìè: â ÷¼ì èçìåðÿòü âû÷èñëèòåëüíûå ðåñóðñû è êàê ñðàâíèâàòü ïîòðà÷åííûå ðåñóðñû äëÿ ðàçíûõ êîíêðåòíûõ âõîäîâ. Êàê ïðàâèëî, â âû÷èñëèòåëüíûõ ìîäåëÿõ åñòü ïîíÿòèå ýëåìåíòàðíîãî øàãà è ýëåìåíòàðíîé ÿ÷åéêè ïàìÿòè. Ñîîòâåòñòâåííî, èìåííî ýòè ýëåìåíòàðíûå åäèíèöû èñïîëüçóþòñÿ äëÿ ïîäñ÷¼òà âðåìåíè ðàáîòû è ïàìÿòè.  íåêîòîðûõ ìîäåëÿõ âîçìîæíû áîëåå ñëîæíûå ïîäõîäû. Íàïðèìåð, ìîæåò ïîäñ÷èòûâàòüñÿ êîëè÷åñòâî àëãåáðàè÷åñêèõ îïåðàöèé íàä íàòóðàëüíûìè ÷èñëàìè (îòäåëüíî àääèòèâíûõ è ìóëüòèïëèêàòèâíûõ), èëè íåîáõîäèìîå ÷èñëî ðåãèñòðîâ, â êîòîðûõ òàêæå õðàíÿòñÿ íàòóðàëüíûå ÷èñëà. Ïåðâûé ïîäõîä íàçûâàåòñÿ áèòîâîé ñëîæíîñòüþ, âòîðîé àëãåáðàè÷åñêîé. ×òî êàñàåòñÿ ñðàâíåíèÿ çàòðà÷åííûõ ðåñóðñîâ äëÿ ðàçíûõ âõîäîâ, òî, âî-ïåðâûõ, êîëè÷åñòâî ýòèõ ðåñóðñîâ âîñïðèíèìàþò êàê ôóíêöèþ îò äëèíû âõîäà è àíàëèçèðóþò å¼ àñèìïòîòè÷åñêîå ïîâåäåíèå ïðè áåñêîíå÷íî âîçðàñòàþùåé äëèíå. Âî-âòîðûõ, äëÿ ñëîâ îäèíàêîâîé äëèíû èñïîëüçóþò äâà ïîäõîäà: ñëîæíîñòü â õóäøåì ñëó÷àå, èçìåðÿåìàÿ êàê ìàêñèìóì ïî âñåì âõîäàì äàííîé äëèíû, è ñëîæíîñòü â ñðåäíåì, äëÿ êîòîðîé âåëè÷èíû òàê èëè èíà÷å óñðåäíÿþòñÿ. Âîçìîæíî òàêæå èçó÷åíèå ñëîæíîñòè â òèïè÷íîì ñëó÷àå: íà âõîäàõ, êîòîðûå îáû÷íî âñòðå÷àþòñÿ íà ïðàêòèêå. Íî òàêîé ïîäõîä òðóäíî ôîðìàëèçîâàòü. 3 Ìíîãîëåíòî÷íàÿ ìàøèíà Òüþðèíãà Áàçîâîé âû÷èñëèòåëüíîé ìîäåëüþ äëÿ íàøåãî êóðñà ñëóæèò ìíîãîëåíòî÷íàÿ ìàøèíà Òüþðèíãà.  íåêîòîðûõ ïðèëîæåíèÿõ óäîáíî èñïîëüçîâàòü äðóãèå ìîäåëè, íàïðèìåð 2 àäðåñíûå ìàøèíû, íî äëÿ òåîðèè ìàøèíà Òüþðèíãà íàèáîëåå óäîáíà. Ìû îïðåäåëèì ìàøèíó, ðåøàþùóþ çàäà÷ó ðàñïîçíàâàíèÿ ÿçûêà. ñ k ëåíòàìè íàçûâàåòñÿ êîðòåæ hΣ, Γ, Q, q1, qa, qr , δi, ãäå Σ, Γ è Q ñóòü êîíå÷íûå íåïóñòûå ìíîæåñòâà, ïðè÷¼ì Σ ⊂ Γ è Γ∩Q = ∅, q1, qa, qr ∈ Q è ïîïàðíî ðàçëè÷íû, à δ : (Q\{qa, qr })×Γk → Q×Γk ×{L, N, R}k . Σ íàçûâàåòñÿ âõîäíûì àëôàâèòîì, Γ ëåíòî÷íûì àëôàâèòîì, Q ìíîæåñòâîì ñîñòîÿíèé, q1, qa è qr íà÷àëüíûì, ïðèíèìàþùèì è îòâåðãàþùèì ñîñòîÿíèÿìè ñîîòâåòñòâåííî, à δ ôóíêöèåé ïåðåõîäà. Ñðåäè ýëåìåíòîâ Γ âûäåëÿþò ñïåöèàëüíûé ñèìâîë # (áëàíê, ïðîáåë, ïóñòîé ñèìâîë, îáîçíà÷àåòñÿ òàêæå êàê _, , ), íå âõîäÿùèé â ìíîæåñòâî Σ. Íåôîðìâëüíî ãîâîðÿ, ìàøèíà ñîñòîèò èç k áåñêîíå÷íûõ â îáå ñòîðîíû ëåíò, ðàçäåë¼ííûõ íà ÿ÷åéêè, è óïðàâëÿþùåãî áëîêà ñ óêàçàòåëÿìè íà êàæäóþ èç k ëåíò. Çà îäèí òàêò ìàøèíà ñ÷èòûâàåò ñèìâîëû ñî âñåõ k ÿ÷ååê, íà êîòîðûå óêàçûâàåò, è â çàâèñèìîñòè îò âíóòðåííåãî ñîñòîÿíèÿ è ïðî÷ò¼ííûõ ñèìâîëîâ ïåðåõîäèò â íîâîå ñîñòîÿíèå, çàïèñûâàåò íîâûå ñèìâîëû è ñäâèãàåò êàæäûé óêàçàòåëü âëåâî èëè âïðàâî èëè îñòàâëÿåò åãî íà ìåñòå.  íà÷àëå ðàáîòû íà ïåðâîé ëåíòå íàïèñàíî ñëîâî x, âñå îñòàëüíûå ëåíòû ïóñòû, ìàøèíà íàõîäèòñÿ â ñîñòîÿòíèè q1, à óêàçàòåëü íà ïåðâîé ëåíòå óêàçûâàåò íà ïåðâûé ñèìâîë ñëîâà x. Åñëè ÷åðåç íåêîòîðîå êîëè÷åñòâî òàêòîâ ìàøèíà ïðèõîäèò â ñîñòîÿíèå qa, òî ãîâîðÿò, ÷òî ìàøèíà ñëîâî x, åñëè ìàøèíà ïðèõîäèò â ñîñòîÿíèå qr , òî . Äàäèì ôîðìàëüíîå îïðåäåëåíèå âû÷èñëåíèÿ íà ìàøèíå Òüþðèíãà. k -ëåíòî÷íîé ìàøèíû Òüþðèíãà M íàçûâàåòñÿ êîðòåæ (a1, . . . , ak , b1, . . . , bk , q), ãäå ai ∈ Γ+, bi ∈ Γ+ è q ∈ Q. Ñìûñë îïðåäåëåíèÿ: ìàøèíà íàõîäèòñÿ â ñîñòîÿíèè q, íà i-îé ëåíòå íàïèñàíî ñëîâî aibi (îñòàëüíàÿ ÷àñòü ëåíòû çàïîëíåíà áëàíêàìè), ïðè÷¼ì óêàçàòåëü íàõîäèòñÿ íà ïåðâîì ñèìâîëå ñëîâà bi. Ïóñòü C = (a1σ1, . . . , ak σk , τ1b1, . . . , τk bk , q) íåêîòîðàÿ êîíôèãóðàöèÿ, ãäå q 6= qa è q 6= qr . (Ïîñêîëüêó âñå ñëîâà ai è bi íåïóñòû, ìîæíî âûäåëèòü èõ ïîñëåäíèå è ïåðâûå ñèìâîëû, ñîîòâåòñòâåííî, à îñòàâøèåñÿ ÷àñòè ïåðåîáîçíà÷èòü âíîâü çà ai è bi). Ïóñòü δ(q, τ1, . . . , τk ) = (r, ρ1, . . . , ρk , D1, . . . , Dk ). Òîãäà ñëåäóþùåé çà C êîíôèãóðàöèåé áóäåò C 0 = (a01, . . . , a0k , b01, . . . , b0k , r), ãäå: Åñëè Di = L, òî a0i = ai (èëè a0i = #, åñëè ai = ε), b0i = σi ρi bi ; Åñëè Di = N , òî a0i = ai σi , b0i = ρi bi ; Åñëè Di = R, òî a0i = ai σi ρi , b0i = bi (èëè b0i = #, åñëè bi = ε). Òàêèì îáðàçîì, ìàøèíà ìåíÿåò âñå σi íà τi è ñäâèãàåòñÿ â óêàçàííûõ åé íàïðàâëåíèÿõ íà êàæäîé ëåíòå. Î÷åâèäíî, ÷òî çà îäíîé êîíôèãóðàöèåé ñëåäóåò ðîâíî îäíà êîíôèãóðàöèÿ. À âîò ïðåäøåñòâóþùèõ êîíôèãóðàöèé ìîæåò áûòü íåñêîëüêî. íàçûâàåòñÿ ïîñëåäîâàòåëüíîñòü êîíôèãóðàöèé (C1, . . . , Ct), òàêàÿ ÷òî äëÿ âñåõ i = 1, . . . , t − 1 êîíôèãóðàöèÿ Ci+1 ñëåäóåò çà Ci. Îïðåäåëåíèå 1. Äåòåðìèíèðîâàííîé ìàøèíîé Òüþðèíãà ïðèíèìàåò îòâåðãàåò Îïðåäåëåíèå 2. Êîíôèãóðàöèåé Îïðåäåëåíèå 3. Îïðåäåëåíèå 4. Âû÷èñëåíèåì 3 Ìàøèíà ñëîâî x, åñëè ñóùåñòâóåò âû÷èñëåíèå, íà÷èíàþùååñÿ ñ êîíôèãóðàöèè (#, . . . , #, x, #, . . . , #, q ) è çàêàí÷èâàþùàÿñÿ â êîíôèãóðàöèè, | {z } | {z } 0 Îïðåäåëåíèå 5. ïðèíèìàåò k ðàç k−1 ðàç ñîäåðæàùåé qa. Àíàëîãè÷íî ìàøèíà ñëîâî x, åñëè ñóùåñòâóåò âû÷èñëåíèå, íà÷èíàþùååñÿ ñ òîé æå êîíôèãóðàöèè è çàêàí÷èâàþùååñÿ êîíôèãóðàöèåé, ñîäåðæàùåé qr . Íåòðóäíî çàìåòèòü, ÷òî âû÷èñëåíèå ïîëíîñòüþ îïðåäåëÿåòñÿ íà÷àëüíûì ñîñòîÿíèåì. Ïîýòîìó äëÿ êàæäîãî x âåðíî îäíî èç òð¼õ: ëèáî ìàøèíà ïðèíèìàåò åãî, ëèáî îòâåðãàåò, ëèáî íå îñòàíàâëèâàåòñÿ. îòâåðãàåò Çàìå÷àíèå 6. 4 Ðàñïîçíàâàíèå ÿçûêîâ Ìàøèíà ðàñïîçíà¼ò ÿçûê L çà âðåìÿ T (n), åñëè îíà ïðèíèìàåò âñå ñëîâà, ëåæàùèå â L, îòâåðãàåò âñå ñëîâà, íå ëåæàùèå â L, è íà êàæäîì ñëîâå x ðàáîòàåò íå áîëüøå T (|x|) øàãîâ. Çäåñü èçìåðÿåòñÿ ñëîæíîñòü : íóæíî, ÷òîáû ìàêñèìàëüíîå âðåìÿ ðàáîòû íà ñëîâàõ äëèíû n íå ïðåâûñèëî T (n). Êëàññîì DTIME(T (n)) íàçûâàåòñÿ êëàññ ÿçûêîâ, êîòîðûå ðàñïîçíàþòñÿ çà âðåìÿ O(T (n)). O(·)-îáîçíà÷åíèå îçíà÷àåò, ÷òî ñóùåñòâóþò ìàøèíà M è êîíñòàíòà c, òàêèå ÷òî íà êàæäîì ñëîâå x ìàøèíà ðàáîòàåò íå áîëüøå cT (n) øàãîâ. Âûáîð O(·)-îáîçíà÷åíèÿ ñâÿçàí ñ òåì, ÷òî çà ñ÷¼ò óâåëè÷åíèÿ ÷èñëà ñîñòîÿíèé è ÷èñëà ñèìâîëîâ â ëåíòî÷íîì àëôàâèòå ìîæíî óìåíüøèòü âðåìÿ ðàáîòû â íåêîòîðîå êîíñòàíòíîå ÷èñëî ðàç: íàïðèìåð, â êà÷åñòâå ýëåìåíòàðíûõ îïåðàöèé ìîæíî ñ÷èòàòü íå îïåðàöèè ñ áèòàìè, à ñ áàéòàìè. Åñëè æå èçìåíèòü è ìîäåëü âû÷èñëåíèÿ, òî âðåìÿ ðàáîòû ìîæåò èçìåíèòüñÿ åù¼ ñèëüíåå. Íàïðèìåð, åñëè ïåðåéòè îò ìíîãîëåíòî÷íîé ìàøèíû ê îäíîëåíòî÷íîé, òî âðåìÿ ðàáîòû âîçâåä¼òñÿ â êâàäðàò. Îïðåäåëåíèå 7. â õóäøåì ñëó÷àå Îïðåäåëåíèå 8. O(T (n)) íà ìíîO(T (n) ) íà îäíîëåíòî÷- Óòâåðæäåíèå 9. Ëþáîé ÿçûê, êîòîðûé ìîæíî ðàñïîçíàòü çà âðåìÿ ãîëåíòî÷íîé ìàøèíå Òüþðèíãà, ìîæíî ðàñïîçíàòü çà âðåìÿ 2 íîé ìàøèíå. Áóäåì ìîäåëèðîâàòü ìàøèíó ñ k ëåíòàìè ïðè ïîìîùè îäíîëåíòî÷íîé. Íà ëåíòå íîâîé ìàøèíû áóäåì õðàíèòü ñîäåðæèìîå âñåõ ëåíò èñõîäíîé, à òàêæå ïîëîæåíèÿ âñåõ óêàçàòåëåé. Ïîñêîëüêó èñõîäíàÿ ìàøèíà ðàáîòàåò íå äîëüøå O(T (n)), òî íà êàæäîé èç ëåíò íåïóñòûìè ìîãóò áûòü íå áîëüøå O(T (n)) ÿ÷ååê. Òàêèì îáðàçîì, íîâàÿ ìàøèíà çàéì¼ò íå áîëüøå k · O(T (n)) ÿ÷ååê, ò.å. òàêæå O(T (n)). Äëÿ ìîäåëèðîâàíèÿ îäíîãî øàãà èñõîäíîé ìàøèíû íóæíî èçìåíèòü ñîäåðæèìîå âñåõ ëåíò è ïåðåäâèíóòü óêàçàòåëè. Åñëè èñõîäíîé ìàøèíå òðåáóåòñÿ áîëüøå ìåñòà, òî íóæíî áóäåò îñâîáîäèòü ÿ÷åéêè, ñäâèíóâ âñ¼ ñîäåðæèìîå íà îäíó ÿ÷åéêó â ñòîðîíó.  ëþáîì ñëó÷àå ìîäåëèðîâàíèå îäíîãî øàãà ïîòðåáóåò O(T (n)) øàãîâ, òàêèì îáðàçîì ìîäåëèðîâàíèå âñåé ðàáîòû ïîòðåáóåò O(T (n)) · O(T (n)) = O(T (n)2) øàãîâ. Äîêàçàòåëüñòâî. 4 Ìîæíî ïîêàçàòü, ÷òî ÿçûê ïàëèíäðîìîâ PAL = {x | x = xR} ìîæíî ðàñïîçíàòü äâóõëåíòî÷íîé ìàøèíîé çà âðåìÿ O(n), íî íåëüçÿ ðàñïîçíàòü îäíîëåíòî÷íîé ìàøèíîé çà âðåìÿ o(n2). Êàê ïðàâèëî, êëàññ DTIME(T (n)) ðàññìàòðèâàþò íå äëÿ âñåõ ôóíêöèé, à òîëüêî äëÿ õîðîøèõ . Âî-ïåðâûõ, åñòåñòâåííî ïîòðåáîâàòü T (n) ≥ n, èíà÷å ìàøèíà íå óñïååò äàæå ïðî÷åñòü ñâîé âõîä. Âî-âòîðûõ, åñòåñòâåííî ïîòðåáîâàòü ìîíîòîííîñòè T (n): ÷åì äëèííåå âõîä, òåì áîëüøå âðåìÿ ðàáîòû. Â-òðåòüèõ, ôóíêöèÿ äîëæíà áûòü êîíñòðóèðóåìà ïî âðåìåíè: âû÷èñëèòü T (n) äîëæíî áûòü âîçìîæíî çà âðåìÿ T (n). Ôóíêöèÿ T : N → N íàçûâàåòñÿ êîíñòðóèðóåìîé ïî âðåìåíè, åñëè ñóùåñòâóåò àëãîðèòì, êîòîðûé çà âðåìÿ O(T (n)) ïî 1n (ò.å. ÷èñëó n â óíàðíîé çàïèñè) ïîëó÷àåò T (n). Óíàðíàÿ çàïèñü àðãóìåíòà ââåäåíà äëÿ åäèíîîáðàçèÿ: òîãäà âðåìÿ âû÷èñëåíèÿ T (n) èçìåðÿåòñÿ êàê ôóíêöèÿ îò äëèíû àðãóìåíòà, ò.å. n, è ýòî âðåìÿ íå äîëæíî áûòü áîëüøå O(T (n)). Âñå îáû÷íûå ôóíêöèè êîíñòðóèðóåìû ïî âðåìåíè: nc, 2n, n log n è ò.ä. Áîëåå òîãî, äëÿ ïîñòðîåíèÿ ôóíêöèè, íå êîíñòðóèðóåìîé ïî âðåìåíè, íóæíî ïðèìåíèòü ñïåöèàëüíóþ íåòðèâèàëüíóþ êîíñòðóêöèþ. Ñ äðóãîé ñòîðîíû, ðàññìîòðåíèå íå êîíñòðóèðóåìûõ ïî âðåìåíè ôóíêöèé ïðèâîäèò ê ïàðàäîêñàëüíûì ðåçóëüòàòàì, íàïðèìåð, òåîðåìà îá èåðàðõèè áóäåò íåâåðíà. Îïðåäåëåíèå 10. 5