1. Модели вычислений

Ìîñêîâñêèé ôèçèêî-òåõíè÷åñêèé èíñòèòóò
Ôàêóëüòåò èííîâàöèé è âûñîêèõ òåõíîëîãèé
Ìàòåìàòè÷åñêàÿ ëîãèêà è òåîðèÿ àëãîðèòìîâ, îñåíü 2015
Ëåêöèÿ 1: Èçìåðåíèå ñëîæíîñòè â ðàçëè÷íûõ ìîäåëÿõ âû÷èñëåíèé
Êðàòêîå ñîäåðæàíèå
Ïðåäñòàâëåíèå äàííûõ êàê âõîäà àëãîðèòìà. Âèäû âû÷èñëèòåëüíûõ çàäà÷: çàäà÷è âû÷èñëåíèÿ ÿçûêà, ðàñïîçíàâàíèÿ ôóíêöèè è ïîèñêà. Âèäû âû÷èñëèòåëüíûõ
ðåñóðñîâ: âðåìÿ, ïàìÿòü, ñëó÷àéíîñòü, ïîäñêàçêà, äëèíà ïðîãðàììû, ñïåöèàëüíûå
ìîäåëè âû÷èñëåíèé, îðàêóëû. Ðàçëè÷íûå ïîäõîäû ê èçìåðåíèþ ñëîæíîñòè çàäà÷è. Áèòîâàÿ è àëãåáðàè÷åñêàÿ ñëîæíîñòè. Ñëîæíîñòü â õóäøåì ñëó÷àå è â ñðåäíåì. Äåòåðìèíèðîâàííûå ìíîãîëåíòî÷íûå ìàøèíû Òüþðèíãà. Ïîíÿòèÿ ìàøèíû,
êîíôèãóðàöèè, øàãà âû÷èñëåíèÿ, âû÷èñëåíèÿ. Ðàñïîçíàâàíèå ÿçûêà íà ìàøèíå.
Èçìåðåíèå âðåìåíè â õóäøåì ñëó÷àå. Êëàññ DTIME(T (n)). Ìîäåëèðîâàíèå ìíîãîëåíòî÷íîé ìàøèíû íà îäíîëåíòî÷íîé ìàøèíå. Òåçèñ ×¼ð÷àÒüþðèíãà â ñèëüíîé
ôîðìå. Ôóíêöèè, êîíñòðóèðóåìûå ïî âðåìåíè.
1
Âèäû âû÷èñëèòåëüíûõ çàäà÷ è âû÷èñëèòåëüíûõ ðåñóðñîâ
Âñå àëãîðèòìû ìîãóò ðàáîòàòü ëèøü ñ êîíå÷íûìè îáúåêòàìè. Ïîä êîíå÷íûìè îáúåêòàìè ìû áóäåì ïîíèìàòü îáúåêòû, êîòîðûå ìîæíî ýôôåêòèâíî çàêîäèðîâàòü ñëîâàìè â íåêîòîðîì àëôàâèòå (áåç îãðàíè÷åíèÿ îáùíîñòè, â äâîè÷íîì). Ýôôåêòèâíîñòü
êîäèðîâàíèÿ îçíà÷àåò, ÷òî ïî êîäó îáúåêòà ìîæíî âû÷èñëèòü âñå êëþ÷åâûå õàðàêòåðèñòèêè. Íàïðèìåð, ïî êîäó ãðàôà ìîæíî âû÷èñëèòü, ñêîëüêî â í¼ì âåðøèí è ñîåäèíåíû
ëè äâå äàííûå âåðøèíû ðåáðîì, ïî êîäó ìàòðèöû ìîæíî âû÷èñëèòü å¼ ðàçìåð è ÷èñëî â ëþáîé ÿ÷åéêå, è ò.ä. Êàê ïðàâèëî, êîäèðîâàíèå íå ïðåäñòàâëÿåò îñîáûõ ïðîáëåì:
ñ îáû÷íûìè ñòðîêàìè, îïèñûâàþùèìè îáúåêòû, ìîæíî ðàáîòàòü àëãîðèòìè÷åñêè. Íàïðèìåð, íàòóðàëüíûå ÷èñëà ïðåäñòàâëÿþòñÿ ñâîåé äâîè÷íîé (èëè äåñÿòè÷íîé) çàïèñüþ,
âåêòîðà è ìàòðèöû ïðåäñòàâëÿþòñÿ êàê öåïî÷êè çàïèñåé ÷èñåë ñ ðàçäåëèòåëÿìè, ãðàô
ìîæíî ïðåäñòàâèòü â âèäå ñïèñêà ð¼áåð èëè â âèäå ìàòðèöû ñìåæíîñòè, è ò.ä. Âî âñåõ
ïðèìåðàõ ìû áóäåì ñ÷èòàòü, ÷òî âñå îáúåêòû óæå çàêîäèðîâàíû êàê ñëîâà â íåêîòîðîì àëôàâèòå, è íå áóäåì îòäåëüíî îáîçíà÷àòü êîä îáúåêòà. Ðàçóìååòñÿ, èñêëþ÷åíèåì
áóäóò áåñêîíå÷íûå îáúåêòû, òàêèå êàê äåéñòâèòåëüíûå ÷èñëà èëè ãåîìåòðè÷åñêèå ôèãóðû. Òàêèå îáúåêòû ìû ðàññìàòðèâàòü íå áóäåì, õîòÿ ñîäåðæàòåëüíàÿ òåîðèÿ âîçìîæíà
è äëÿ íèõ.
Àëãîðèòìû ðàáîòàþò ñ ìàññîâûìè çàäà÷àìè, ò.å. ñ ðàçëè÷íûìè ýêçåìïëÿðàìè îäíîé
è òîé æå çàäà÷è äëÿ âñåâîçìîæíûõ êîíêðåòíûõ äàííûõ. Àëãîðèòì äîëæåí äåéñòâîâàòü
ïî îäíîé è òîé æå èíñòðóêöèè äëÿ âñåõ ýêçåìïëÿðîâ. Ìû áóäåì èçó÷àòü òðè îñíîâíûõ
âèäà âû÷èñëèòåëüíûõ çàäà÷:
ˆ Çàäà÷à ðàñïîçíàâàíèÿ ÿçûêà. Ïî ñëîâó x íóæíî âûÿñíèòü, ëåæèò ëè îíî â ÿçûêå
L ⊂ Σ∗ . Èíûìè ñëîâàìè, àëãîðèòì äîëæåí âîçâðàòèòü 1 íà ëþáîì x ∈ L è âîçâðàòèòü 0 íà ëþáîì x 6∈ L. Ìîæíî òàêæå ñêàçàòü, àëãîðèòì äîëæåí ïðîâåðèòü,
âûïîëíåíî ëè äëÿ ñëîâà x äàííîå ñâîéñòâî.
1
ˆ Çàäà÷à âû÷èñëåíèÿ ôóíêöèè. Ïî ñëîâó x íóæíî íàéòè çíà÷åíèå f (x), ãäå f : Σ∗ →
Σ∗ .
ñû:
Èíûìè ñëîâàìè, àëãîðèòì äîëæåí íà ëþáîì x âîçâðàòèòü f (x). Êàê ïðàâèëî,
ìû áóäåì ñ÷èòàòü, ÷òî f âñþäó îïðåäåëåíà.
ˆ Çàäà÷à ïîèñêà. Ïî ñëîâó x íóæíî íàéòè ñëîâî y , òàêîå ÷òî xRy , ãäå R ⊂ Σ∗ ×
Σ∗ íåêîòîðîå îòíîøåíèå. Èíûìè ñëîâàìè, àëãîðèòì íà ëþáîì x äîëæåí ëèáî
âîçâðàòèòü y, òàêîå ÷òî xRy, ëèáî ñîîáùèòü, ÷òî òàêèõ y íåò.
 îñíîâíîì ìû áóäåì ðàáîòàòü ñ çàäà÷àìè ðàñïîçíàâàíèÿ ÿçûêà.
Äëÿ àëãîðèòìè÷åñêîãî ðåøåíèÿ çàäà÷ òðåáóþòñÿ ðàçëè÷íûå âû÷èñëèòåëüíûå ðåñóðÂñå àëãîðèòìû ðàáîòàþò ïîøàãîâî. Äëÿ ðåøåíèÿ êàæäîé çàäà÷è
òðåáóåòñÿ íåêîòîðîå ìèíèìàëüíîå ÷èñëî øàãîâ.
Ïàìÿòü. Àëãîðèòìó íåîáõîäèìî ïðîñòðàíñòâî äëÿ ïðîìåæóòî÷íûõ âû÷èñëåíèé.
Ñëó÷àéíîñòü. Íåêîòîðûå çàäà÷è (íàïðèìåð, ïðîâåðêà ÷èñëà íà ïðîñòîòó) ïðè
ñîâðåìåííîì óðîâíå çíàíèé ðåøàþòñÿ ãîðàçäî áûñòðåå, åñëè ïðèìåíèòü âåðîÿòíîñòíûé àëãîðèòì âìåñòî äåòåðìèíèðîâàííîãî. Êàê ïðàâèëî, ðàñïëàòîé çà ýòî
óñêîðåíèå áóäåò ìàëåíüêàÿ, íî ïîëîæèòåëüíàÿ âåðîÿòíîñòü îøèáêè.
Ïîäñêàçêà. Åñëè ìàøèíà ïîëó÷àåò íåáîëüøóþ ïîäñêàçêó, çàâèñÿùóþ òîëüêî îò
äëèíû âõîäà, îíà ìîæåò ñóùåñòâåííî óñêîðèòüñÿ. Áîëåå òîãî, ñ ïîäñêàçêîé ìîæíî
ðåøèòü äàæå íåêîòîðûå íåâû÷èñëèìûå ôóíêöèè.
Äëèíà ïðîãðàììû. Áûâàþò ñèòóàöèè, êîãäà ïðîãðàììà ñ áîëåå äëèííûì òåêñòîì
áóäåò ðàáîòàòü áûñòðåå. Ïîýòîìó îãðàíè÷åíèÿ íà äëèíó ïðîãðàììû ìîãóò áûòü
âàæíû ñ òî÷êè çðåíèÿ ðàñõîäà îñòàëüíûõ ðåñóðñîâ.
Ñïåöèàëüíûå ìîäåëè âû÷èñëåíèé. Ñóùåñòâóþò ìîäåëè âû÷èñëåíèé, êîòîðûå ïîêà
÷òî íå óìåþò ñèìóëèðîâàòü íà ñòàíäàðòíûõ êîìïüþòåðàõ áåç çíà÷èòåëüíîãî ðîñòà
âû÷èñëèòåëüíûõ ðåñóðñîâ. Ïðåæäå âñåãî, ýòî íåäåòåðìèíèðîâàííûå è êâàíòîâûå
âû÷èñëåíèÿ. Íåêîòîðûå çàäà÷è íà äàííûé ìîìåíò ðåøàþòñÿ â ýòèõ ìîäåëÿõ ãîðàçäî áûñòðåå, ÷åì â êëàññè÷åñêîé.
Îðàêóë. Âû÷èñëåíèÿ ñ îðàêóëîì ïîçâîëÿþò ïðî ëþáîå ñëîâî çà îäèí øàã óçíàâàòü,
ïðèíàäëåæèò ëè ýòî ñëîâî íåêîòîðîìó ôèêñèðîâàííîìó ìíîæåñòâó. Êàê èçâåñòíî,
ýòî äàæå ðàñøèðÿåò êëàññ àëãîðèòìè÷åñêè ðåøàåìûõ çàäà÷. Òàêæå ýòî ðàñøèðÿåò
êëàññ çàäà÷, ðåøàåìûõ ýôôåêòèâíî, à êîëè÷åñòâî çàïðîñîâ ê îðàêóëó ìîæíî ñàìî
ïî ñåáå âîñïðèíèìàòü êàê ìåðó ýôôåêòèâíîñòè àëãîðèòìà.
ˆ Âðåìÿ ðàáîòû.
ˆ
ˆ
ˆ
ˆ
ˆ
ˆ
2
Ïîäõîäû ê ïîäñ÷¼òó ñëîæíîñòè çàäà÷
Äëÿ îïðåäåëåíèÿ ñëîæíîñòè ðåøåíèÿ àëãîðèòìè÷åñêîé çàäà÷è íóæíî îïðåäåëèòüñÿ
ñ äâóìÿ âåùàìè: â ÷¼ì èçìåðÿòü âû÷èñëèòåëüíûå ðåñóðñû è êàê ñðàâíèâàòü ïîòðà÷åííûå ðåñóðñû äëÿ ðàçíûõ êîíêðåòíûõ âõîäîâ.
2
Êàê ïðàâèëî, â âû÷èñëèòåëüíûõ ìîäåëÿõ åñòü ïîíÿòèå ýëåìåíòàðíîãî øàãà è ýëåìåíòàðíîé ÿ÷åéêè ïàìÿòè. Ñîîòâåòñòâåííî, èìåííî ýòè ýëåìåíòàðíûå åäèíèöû èñïîëüçóþòñÿ äëÿ ïîäñ÷¼òà âðåìåíè ðàáîòû è ïàìÿòè. Ýòîò ïîäõîä íàçûâàåòñÿ áèòîâîé ñëîæíîñòüþ.  íåêîòîðûõ ìîäåëÿõ âîçìîæíû áîëåå ñëîæíûå ïîäõîäû. Íàïðèìåð, ìîæåò ïîäñ÷èòûâàòüñÿ êîëè÷åñòâî àëãåáðàè÷åñêèõ îïåðàöèé íàä íàòóðàëüíûìè ÷èñëàìè (îòäåëüíî àääèòèâíûõ è ìóëüòèïëèêàòèâíûõ, ýòîò ïîäõîä íàçûâàåòñÿ àëãåáðàè÷åñêîé ñëîæíîñòüþ), èëè íåîáõîäèìîå ÷èñëî ðåãèñòðîâ, â êîòîðûõ òàêæå õðàíÿòñÿ íàòóðàëüíûå ÷èñëà.
×òî êàñàåòñÿ ñðàâíåíèÿ çàòðà÷åííûõ ðåñóðñîâ äëÿ ðàçíûõ âõîäîâ, òî, âî-ïåðâûõ,
êîëè÷åñòâî ýòèõ ðåñóðñîâ âîñïðèíèìàþò êàê ôóíêöèþ îò äëèíû âõîäà è àíàëèçèðóþò å¼ àñèìïòîòè÷åñêîå ïîâåäåíèå ïðè áåñêîíå÷íî âîçðàñòàþùåé äëèíå. Âî-âòîðûõ, äëÿ
ñëîâ îäèíàêîâîé äëèíû èñïîëüçóþò äâà ïîäõîäà: ñëîæíîñòü â õóäøåì ñëó÷àå, èçìåðÿåìàÿ êàê ìàêñèìóì ïî âñåì âõîäàì äàííîé äëèíû, è ñëîæíîñòü â ñðåäíåì, äëÿ êîòîðîé
âåëè÷èíû òàê èëè èíà÷å óñðåäíÿþòñÿ. Âîçìîæíî òàêæå èçó÷åíèå ñëîæíîñòè â òèïè÷íîì ñëó÷àå: íà âõîäàõ, êîòîðûå îáû÷íî âñòðå÷àþòñÿ íà ïðàêòèêå. Íî òàêîé ïîäõîä
òðóäíî ôîðìàëèçîâàòü.
3
Ìíîãîëåíòî÷íàÿ ìàøèíà Òüþðèíãà
Áàçîâîé âû÷èñëèòåëüíîé ìîäåëüþ äëÿ íàøåãî êóðñà ñëóæèò ìíîãîëåíòî÷íàÿ ìàøèíà Òüþðèíãà.  íåêîòîðûõ ïðèëîæåíèÿõ óäîáíî èñïîëüçîâàòü äðóãèå ìîäåëè, íàïðèìåð
àäðåñíûå ìàøèíû, íî äëÿ òåîðèè ìàøèíà Òüþðèíãà íàèáîëåå óäîáíà. Ìû îïðåäåëèì
ìàøèíó, ðåøàþùóþ çàäà÷ó ðàñïîçíàâàíèÿ ÿçûêà.
Äåòåðìèíèðîâàííîé ìàøèíîé Òüþðèíãà ñ k ëåíòàìè íàçûâàåòñÿ êîðòåæ hΣ, Γ, Q, q0, qa, qr , δi, ãäå Σ, Γ è Q ñóòü êîíå÷íûå íåïóñòûå ìíîæåñòâà, ïðè÷¼ì Σ ⊂ Γ
è Γ∩Q = ∅, q1, qa, qr ∈ Q è ïîïàðíî ðàçëè÷íû, à δ : (Q\{qa, qr })×Γk → Q×Γk ×{L, N, R}k .
Σ íàçûâàåòñÿ âõîäíûì àëôàâèòîì, Γ ëåíòî÷íûì àëôàâèòîì, Q ìíîæåñòâîì ñîñòîÿíèé, q0, qa è qr íà÷àëüíûì, ïðèíèìàþùèì è îòâåðãàþùèì ñîñòîÿíèÿìè ñîîòâåòñòâåííî, à δ ôóíêöèåé ïåðåõîäà. Ñðåäè ýëåìåíòîâ Γ âûäåëÿþò ñïåöèàëüíûé ñèìâîë
# (áëàíê, ïðîáåë, ïóñòîé ñèìâîë, îáîçíà÷àåòñÿ òàêæå êàê _, , ), íå âõîäÿùèé â
ìíîæåñòâî Σ.
Íåôîðìàëüíî ãîâîðÿ, ìàøèíà ñîñòîèò èç k áåñêîíå÷íûõ â îáå ñòîðîíû ëåíò, ðàçäåë¼ííûõ íà ÿ÷åéêè, è óïðàâëÿþùåãî áëîêà ñ óêàçàòåëÿìè íà êàæäóþ èç k ëåíò. Çà îäèí
òàêò ìàøèíà ñ÷èòûâàåò ñèìâîëû ñî âñåõ k ÿ÷ååê, íà êîòîðûå óêàçûâàåò, è â çàâèñèìîñòè îò âíóòðåííåãî ñîñòîÿíèÿ è ïðî÷ò¼ííûõ ñèìâîëîâ ïåðåõîäèò â íîâîå ñîñòîÿíèå,
çàïèñûâàåò íîâûå ñèìâîëû è ñäâèãàåò êàæäûé óêàçàòåëü âëåâî èëè âïðàâî èëè îñòàâëÿåò åãî íà ìåñòå.  íà÷àëå ðàáîòû íà ïåðâîé ëåíòå íàïèñàíî ñëîâî x, âñå îñòàëüíûå
ëåíòû ïóñòû, ìàøèíà íàõîäèòñÿ â ñîñòîÿòíèè q1, à óêàçàòåëü íà ïåðâîé ëåíòå óêàçûâàåò
íà ïåðâûé ñèìâîë ñëîâà x. Åñëè ÷åðåç íåêîòîðîå êîëè÷åñòâî òàêòîâ ìàøèíà ïðèõîäèò
â ñîñòîÿíèå qa, òî ãîâîðÿò, ÷òî ìàøèíà ïðèíèìàåò ñëîâî x, åñëè ìàøèíà ïðèõîäèò â
ñîñòîÿíèå qr , òî îòâåðãàåò. Äàäèì ôîðìàëüíîå îïðåäåëåíèå âû÷èñëåíèÿ íà ìàøèíå
Òüþðèíãà.
Êîíôèãóðàöèåé k -ëåíòî÷íîé ìàøèíû Òüþðèíãà M íàçûâàåòñÿ êîðòåæ (a1, . . . , ak ; b1, . . . , bk ; q), ãäå ai ∈ Γ+, bi ∈ Γ+ è q ∈ Q.
Îïðåäåëåíèå 1.
Îïðåäåëåíèå 2.
3
Ñìûñë îïðåäåëåíèÿ: ìàøèíà íàõîäèòñÿ â ñîñòîÿíèè q, íà i-îé ëåíòå íàïèñàíî ñëîâî aibi (îñòàëüíàÿ ÷àñòü ëåíòû çàïîëíåíà áëàíêàìè), ïðè÷¼ì óêàçàòåëü íàõîäèòñÿ íà
ïåðâîì ñèìâîëå ñëîâà bi.
Ïóñòü C = (a1σ1, . . . , ak σk ; τ1b1, . . . , τk bk ; q) íåêîòîðàÿ êîíôèãóðàöèÿ, ãäå q 6= qa è q 6= qr . (Ïîñêîëüêó âñå ñëîâà ai è bi íåïóñòû, ìîæíî âûäåëèòü èõ
ïîñëåäíèå è ïåðâûå ñèìâîëû, ñîîòâåòñòâåííî, à îñòàâøèåñÿ ÷àñòè ïåðåîáîçíà÷èòü âíîâü
çà ai è bi). Ïóñòü δ(q, τ1, . . . , τk ) = (r, ρ1, . . . , ρk , D1, . . . , Dk ). Òîãäà ñëåäóþùåé çà C êîíôèãóðàöèåé áóäåò C 0 = (a01, . . . , a0k ; b01, . . . , b0k ; r), ãäå:
ˆ Åñëè Di = L, òî a0i = ai (èëè a0i = #, åñëè ai = ε), b0i = σi ρi bi ;
ˆ Åñëè Di = N , òî a0i = ai σi , b0i = ρi bi ;
ˆ Åñëè Di = R, òî a0i = ai σi ρi , b0i = bi (èëè b0i = #, åñëè bi = ε).
Òàêèì îáðàçîì, ìàøèíà ìåíÿåò âñå τi íà ρi è ñäâèãàåòñÿ â óêàçàííûõ åé íàïðàâëåíèÿõ íà êàæäîé ëåíòå. Î÷åâèäíî, ÷òî çà îäíîé êîíôèãóðàöèåé ñëåäóåò ðîâíî îäíà
êîíôèãóðàöèÿ. À âîò ïðåäøåñòâóþùèõ êîíôèãóðàöèé ìîæåò áûòü íåñêîëüêî.
Âû÷èñëåíèåì íàçûâàåòñÿ ïîñëåäîâàòåëüíîñòü êîíôèãóðàöèé (C1 , . . . , Ct ),
òàêàÿ ÷òî äëÿ âñåõ i = 1, . . . , t − 1 êîíôèãóðàöèÿ Ci+1 ñëåäóåò çà Ci.
Ìàøèíà ïðèíèìàåò ñëîâî x, åñëè ñóùåñòâóåò âû÷èñëåíèå, íà÷èíàþùååñÿ ñ êîíôèãóðàöèè (#,
. . . , #; x, #, . . . , #; q ) è çàêàí÷èâàþùàÿñÿ â êîíôèãóðàöèè,
| {z } | {z } 0
Îïðåäåëåíèå 3.
Îïðåäåëåíèå 4.
Îïðåäåëåíèå 5.
k ðàç
k−1 ðàç
ñîäåðæàùåé qa. Àíàëîãè÷íî ìàøèíà îòâåðãàåò ñëîâî x, åñëè ñóùåñòâóåò âû÷èñëåíèå,
íà÷èíàþùååñÿ ñ òîé æå êîíôèãóðàöèè è çàêàí÷èâàþùååñÿ êîíôèãóðàöèåé, ñîäåðæàùåé
qr .
Íåòðóäíî çàìåòèòü, ÷òî âû÷èñëåíèå ïîëíîñòüþ îïðåäåëÿåòñÿ íà÷àëüíûì ñîñòîÿíèåì. Ïîýòîìó äëÿ êàæäîãî x âåðíî îäíî èç òð¼õ: ëèáî ìàøèíà ïðèíèìàåò
åãî, ëèáî îòâåðãàåò, ëèáî íå îñòàíàâëèâàåòñÿ.
Çàìå÷àíèå 6.
4
Ðàñïîçíàâàíèå ÿçûêîâ
Ìàøèíà ðàñïîçíà¼ò ÿçûê L çà âðåìÿ T (n), åñëè îíà ïðèíèìàåò âñå
ñëîâà, ëåæàùèå â L, îòâåðãàåò âñå ñëîâà, íå ëåæàùèå â L, è íà êàæäîì ñëîâå x ðàáîòàåò
íå áîëüøå T (|x|) øàãîâ.
Çäåñü èçìåðÿåòñÿ ñëîæíîñòü â õóäøåì ñëó÷àå : íóæíî, ÷òîáû ìàêñèìàëüíîå âðåìÿ
ðàáîòû íà ñëîâàõ äëèíû n íå ïðåâûñèëî T (n).
Êëàññîì DTIME(T (n)) íàçûâàåòñÿ êëàññ ÿçûêîâ, êîòîðûå ðàñïîçíàþòñÿ çà âðåìÿ O(T (n)). O(·)-îáîçíà÷åíèå îçíà÷àåò, ÷òî ñóùåñòâóþò ìàøèíà M è
êîíñòàíòà c, òàêèå ÷òî íà êàæäîì ñëîâå x ìàøèíà ðàáîòàåò íå áîëüøå cT (n) øàãîâ.
Îïðåäåëåíèå 7.
Îïðåäåëåíèå 8.
4
Âûáîð O(·)-îáîçíà÷åíèÿ ñâÿçàí ñ òåì, ÷òî çà ñ÷¼ò óâåëè÷åíèÿ ÷èñëà ñîñòîÿíèé è
÷èñëà ñèìâîëîâ â ëåíòî÷íîì àëôàâèòå ìîæíî óìåíüøèòü âðåìÿ ðàáîòû â íåêîòîðîå
êîíñòàíòíîå ÷èñëî ðàç: íàïðèìåð, â êà÷åñòâå ýëåìåíòàðíûõ îïåðàöèé ìîæíî ñ÷èòàòü
íå îïåðàöèè ñ áèòàìè, à ñ áàéòàìè. Åñëè æå èçìåíèòü è ìîäåëü âû÷èñëåíèÿ, òî âðåìÿ
ðàáîòû ìîæåò èçìåíèòüñÿ åù¼ ñèëüíåå. Íàïðèìåð, åñëè ïåðåéòè îò ìíîãîëåíòî÷íîé
ìàøèíû ê îäíîëåíòî÷íîé, òî âðåìÿ ðàáîòû ìîæåò âîçâåñòèñü â êâàäðàò.
Ëþáîé ÿçûê, êîòîðûé ìîæíî ðàñïîçíàòü çà âðåìÿ O(T (n)) íà ìíîãîëåíòî÷íîé ìàøèíå Òüþðèíãà, ìîæíî ðàñïîçíàòü çà âðåìÿ O(T (n)2 ) íà îäíîëåíòî÷íîé ìàøèíå.
Óòâåðæäåíèå 9.
Áóäåì ìîäåëèðîâàòü ìàøèíó ñ k ëåíòàìè ïðè ïîìîùè îäíîëåíòî÷íîé. Íà ëåíòå íîâîé ìàøèíû áóäåì õðàíèòü ñîäåðæèìîå âñåõ ëåíò èñõîäíîé, à òàêæå
ïîëîæåíèÿ âñåõ óêàçàòåëåé. Ïîñêîëüêó èñõîäíàÿ ìàøèíà ðàáîòàåò íå äîëüøå O(T (n)),
òî íà êàæäîé èç ëåíò íåïóñòûìè ìîãóò áûòü íå áîëüøå O(T (n)) ÿ÷ååê. Òàêèì îáðàçîì,
íîâàÿ ìàøèíà çàéì¼ò íå áîëüøå k · O(T (n)) ÿ÷ååê, ò.å. òàêæå O(T (n)). Äëÿ ìîäåëèðîâàíèÿ îäíîãî øàãà èñõîäíîé ìàøèíû íóæíî èçìåíèòü ñîäåðæèìîå âñåõ ëåíò è ïåðåäâèíóòü óêàçàòåëè. Åñëè èñõîäíîé ìàøèíå òðåáóåòñÿ áîëüøå ìåñòà, òî íóæíî áóäåò
îñâîáîäèòü ÿ÷åéêè, ñäâèíóâ âñ¼ ñîäåðæèìîå íà îäíó ÿ÷åéêó â ñòîðîíó.  ëþáîì ñëó÷àå
ìîäåëèðîâàíèå îäíîãî øàãà ïîòðåáóåò O(T (n)) øàãîâ, òàêèì îáðàçîì ìîäåëèðîâàíèå
âñåé ðàáîòû ïîòðåáóåò O(T (n)) · O(T (n)) = O(T (n)2) øàãîâ.
Ìîæíî ïîêàçàòü, ÷òî ÿçûê ïàëèíäðîìîâ PAL = {x | x = xR} ìîæíî ðàñïîçíàòü
äâóõëåíòî÷íîé ìàøèíîé çà âðåìÿ O(n), íî íåëüçÿ ðàñïîçíàòü îäíîëåíòî÷íîé ìàøèíîé
çà âðåìÿ o(n2).
Ïîõîæèå òåîðåìû ìîæíî äîêàçàòü è äëÿ äðóãèõ âàðèàöèé âû÷èñëèòåëüíîé ìîäåëè:
ìàøèí ñ äâóìåðíîé ëåíòîé, ïðîèçâîëüíûì äîñòóïîì è ò.ä.  êàæäîì èç ýòèõ ñëó÷àåâ
âû÷èñëåíèÿ ìîæíî áóäåò ñìîäåëèðîâàòü íà áîëåå ïðîñòîé ìàøèíå ñ ïîëèíîìèàëüíûì
çàìåäëåíèåì. Èçâåñòåí òåçèñ ×¼ð÷àÒüþðèíãà â ñèëüíîé ôîðìå : ëþáîå âû÷èñëåíèå íà
ðåàëüíîì óñòðîéñòâå ìîæíî ñìîäåëèðîâàòü íà îäíîëåíòî÷íîé ìàøèíå Òüþðèíãà ñ ïîëèíîìèàëüíûì çàìåäëåíèåì. Îäíàêî ýòîò òåçèñ ìîæåò áûòü íåâåðåí, åñëè ñóùåñòâóþò
ôèçè÷åñêèå óñòðîéñòâà, ñïîñîáíûå ïðîâîäèòü íåäåòåðìèíèðîâàííûå èëè êâàíòîâûå âû÷èñëåíèÿ (à ñ êâàíòîâûìè òàêîå âïîëíå âîçìîæíî), è ïðè ýòîì òàêèå âû÷èñëåíèÿ íåëüçÿ
ñìîäåëèðîâàòü ñ ïîëèíîìèàëüíûì çàìåäëåíèåì.
Êàê ïðàâèëî, êëàññ DTIME(T (n)) ðàññìàòðèâàþò íå äëÿ âñåõ ôóíêöèé, à òîëüêî
äëÿ õîðîøèõ . Âî-ïåðâûõ, åñòåñòâåííî ïîòðåáîâàòü T (n) ≥ n, èíà÷å ìàøèíà íå óñïååò
äàæå ïðî÷åñòü ñâîé âõîä. Âî-âòîðûõ, åñòåñòâåííî ïîòðåáîâàòü ìîíîòîííîñòè T (n): ÷åì
äëèííåå âõîä, òåì áîëüøå âðåìÿ ðàáîòû. Â-òðåòüèõ, ôóíêöèÿ äîëæíà áûòü êîíñòðóèðóåìîé ïî âðåìåíè: âû÷èñëèòü T (n) äîëæíî áûòü âîçìîæíî çà âðåìÿ T (n).
Ôóíêöèÿ T : N → N íàçûâàåòñÿ êîíñòðóèðóåìîé ïî âðåìåíè, åñëè
ñóùåñòâóåò àëãîðèòì, êîòîðûé çà âðåìÿ O(T (n)) ïî 1n (ò.å. ÷èñëó n â óíàðíîé çàïèñè)
ïîëó÷àåò T (n) (â áèíàðíîé çàïèñè).
Óíàðíàÿ çàïèñü àðãóìåíòà ââåäåíà ëèøü äëÿ åäèíîîáðàçèÿ: òîãäà âðåìÿ âû÷èñëåíèÿ
T (n) èçìåðÿåòñÿ êàê ôóíêöèÿ îò äëèíû àðãóìåíòà, ò.å. n, è ýòî âðåìÿ íå äîëæíî áûòü
áîëüøå O(T (n)). Âñå îáû÷íûå ôóíêöèè êîíñòðóèðóåìû ïî âðåìåíè: nc, 2n, n log n è
Äîêàçàòåëüñòâî.
Îïðåäåëåíèå 10.
5
ò.ä. Áîëåå òîãî, äëÿ ïîñòðîåíèÿ ôóíêöèè, íå êîíñòðóèðóåìîé ïî âðåìåíè, íóæíî ïðèìåíèòü ñïåöèàëüíóþ íåòðèâèàëüíóþ êîíñòðóêöèþ. Ñ äðóãîé ñòîðîíû, ðàññìîòðåíèå íå
êîíñòðóèðóåìûõ ïî âðåìåíè ôóíêöèé ïðèâîäèò ê ïàðàäîêñàëüíûì ðåçóëüòàòàì, íàïðèìåð, òåîðåìà îá èåðàðõèè áóäåò íåâåðíà.
6