Задачи по курсу "Колмогоровская сложность и ее приложения

Çàäà÷è ïî êóðñó Êîëìîãîðîâñêàÿ ñëîæíîñòü è åå
ïðèëîæåíèÿ ×àñòü 1.
Êîëìîãîðîâñêàÿ ñëîæíîñòü.
1. Äîêàçàòü, ÷òî óíèâåðñàëüíàÿ ôóíêöèÿ U (x, y) íå ÿâëÿåòñÿ âñþäó
îïðåäåëåííîé.
2. Îáúÿñíèòå, ïî÷åìó ôóíêöèÿ ñëîæíîñòè K(x) îïðåäåëåíà äëÿ ëþáîãî
x, à òàêæå, ïî÷åìó îíà íåîãðàíè÷åíà.
3. Äîêàçàòü ÷òî
(a) K(0n |n) = 0(1), K(0n ) ≤ log n + 0(1), K(0n ) = K(n) +
n
+ 0(1), ãäå 0n ñëîâî, ñîñòîÿùåå èç n íóëåé; K(2n ) ≤ log n+0(1) è K(22 ) ≤
log n + 0(1), ãäå 2n íàòóðàëüíîå ÷èñëî ñòåïåíü äâîéêè, ïîíèìàåìîå â
îáû÷íîì ñìûñëå.
(b) Ñóùåñòâóåò êîíñòàíòà c ≥ 0 òàêàÿ, ÷òî K(0n ) ≥ log n − c äëÿ áåñêîíå÷íî ìíîãèõ n.
(c) K(x|l(x)) ≤ K(x) + 0(1) ≤ K(x|l(x)) + log l(x) + log log l(x) +
+ 2 log log log l(x) + 0(1).
(d) K(x, x) = K(x) + 0(1); K(x, K(x)) = K(x) + 0(1).
(e) K(x0) = K(x1) + 0(1) = K(0x) + 0(1) = K(1x) + 0(1) =
= K(x) + 0(1).
(f) K(x|y0) = K(x|y1) + 0(1) = K(x|0y) + 0(1) = K(x|1y) +
+ 0(1) = K(x|y) + 0(1).
4. Äîêàçàòü, ÷òî îïòèìàëüíûé ñïîñîá îïèñàíèÿ A(p) íå ÿâëÿåòñÿ âñþäó
îïðåäåëåííîé ôóíêöèåé è äëÿ íåãî íå ñóùåñòâóåò ñîîòâåòñòâóþùåãî àëãîðèòìà êîäèðîâàíèÿ, êîòîðûé ïî ïðîèçâîëüíîé êîíå÷íîé ïîñëåäîâàòåëüíîñòè x âûäàâàë áû êàêîé-íèáóäü ñàìûé êîðîòêèé êîä p, äëÿ êîòîðîãî
A(p) = x.
5. Äîêàçàòü, ÷òî ôóíêöèÿ ñëîæíîñòè K(x) íå ÿâëÿåòñÿ ïåðå÷èñëèìîé
ñíèçó, íî ÿâëÿåòñÿ ïåðå÷èñëèìîé ñâåðõó.
6. Äîêàçàòü, ÷òî ñóùåñòâóåò êîíñòàíòà c òàêàÿ, ÷òî äëÿ ëþáîãî N íàéäåòñÿ ïàðà ïîñëåäîâàòåëüíîñòåé (x, y), äëÿ êîòîðîé âûïîëíåíî l(x)+l(y) =
N è K(x, y) ≥ N + log N − c.
7. Äîêàçàòü, ÷òî äëÿ ëþáîãî n ñóùåñòâóåò ïîñëåäîâàòåëüíîñòü x äëèíû
n òàêàÿ, ÷òî çàìåíà íåêîòîðîãî áèòà â íåé íà ïðîòèâîïîëîæíûé ïðèâîäèò
ê ïîñëåäîâàòåëüíîñòè x0 , ãäå
K(x0 ) ≥ K(x) + log n − O(1).
Ïðè ëþáîé òàêîé çàìåíå
K(x0 ) ≤ K(x) + log n + O(log log n).
8. Ïóñòü K(x) ≥ n − c, c > 0, è x = yz , ãäå l(y) = l(z) = n/2. Òîãäà
K(y) ≥ n/2 − O(log n) è K(z) ≥ n/2 − O(log n).
1
9. Ïðîâåñòè äîêàçàòåëüñòâî íåðàâåíñòâà (??).
10. Äîêàçàòü, ÷òî íåðàâåíñòâà K(x, y) ≤ K(x)+K(y|x)+O(1) è K(x, y) ≤
K(x) + K(y|x) + O(log log K(x, y)), à òàêæå íåðàâåíñòâî K(x, y) ≤ K(x) +
K(y|x) + log K(x, y) + O(1) â îáùåì ñëó÷àå íåâåðíû.
Ïðèâåñòè íåòðèâèàëüíûå ïðèìåðû ïîñëåäîâàòåëüíîñòåé, äëÿ êîòîðûõ
ïåðâîå èç íåðàâåíñòâ âûïîëíåíî.
11. Ïóñòü A ïåðå÷èñëèìîå ìíîæåñòâî è ω = ω1 ω2 . . . åãî õàðàêòåðèñòè÷åñêàÿ ïîñëåäîâàòåëüíîñòü, ãäå
1, åñëè i ∈ A,
ωi =
0 â ïðîòèâíîì ñëó÷àå.
Äîêàçàòü, ÷òî K(ω n |n) ≤ log n + O(1), ãäå ω n = ω1 ω2 . . . ωn .
Îöåíèòü ñâåðõó K(ω n ). Êàê èçìåíÿòñÿ ýòè îöåíêè, åñëè ìíîæåñòâî A
ðàçðåøèìî?
12. Äàíû äâà ñëîâà x è y äâà ñëîâà îäíîé äëèíû n. Îöåíèòü I(x : y)
ñâåðõó è ïî âîçìîæíîñòè ïðèâåñòè îöåíêè ñíèçó â íàèõóäøåì ñëó÷àå:
(a) x = 0101 . . . 01 è y = 1010 . . . 10 äëèíû 2n;
(b) x = 0n è y = 1n/2 0n/2 ;
(c) x = 0n/2 1n/2 è y = 1n/2 0n/2 ;
(d) x = x1 . . . xn è x0 = x1 x1 . . . xn xn ;
(e) x = uvw è y = usw, ñëîâà u, v, w, s äëèíû n;
(f) x = uvw è y = svt, ñëîâà u, v, w, s, t äëèíû n;
13. Äîêàçàòü íåðàâåíñòâà:
(a) K(x) ≤ K(xy) + 2 log K(x) + O(1);
(b) K(x) ≤ K(xy) + 2 log K(y) + O(1);
(c) ïðèâåñòè ïðèìåðû êîíå÷íûõ ïîñëåäîâàòåëüíîñòåé x è y , äëÿ êîòîðûõ íåðàâåíñòâî K(x) ≤ K(xy) + O(1) íåâåðíî. Ïðèâåñòè ïðèìåðû ïîñëåäîâàòåëüíîñòåé x äëèíû n, ó êîòîðûõ ñóùåñòâóþò ïîäïîñëåäîâàòåëüíîñòè
íà ïîðÿäîê áîëåå ñëîæíûå, ÷åì âñÿ ïîñëåäîâàòåëüíîñòü.
14. Äîêàçàòü, ÷òî äëÿ ïî÷òè ëþáîé áåñêîíå÷íîé ïîñëåäîâàòåëüíîñòè ω
ñóùåñòâóåò òàêîå ÷èñëî m, ÷òî K(ω n ) ≥ n − m äëÿ áåñêîíå÷íî ìíîãèõ n.
15. Äîêàçàòü, ÷òî ñðåäè íàòóðàëüíûõ ÷èñåë îò 1 äî n íàéäåòñÿ ÷èñëî
ñëîæíîñòè ≥ log n − 1. Îöåíèòü äîëþ ÷èñåë îò 1 äî n ñëîæíîñòü êîòîðûõ
≥ log n − c, ãäå c ≥ 1.
16. Äîêàçàòü, ÷òî äëÿ ëþáîãî y ÷èñëî âñåõ x äëèíû n òàêèõ, ÷òî
K(x|y) ≤ K(x) − m íå ïðåâîñõîäèò 2n−m+c , ãäå êîíñòàíòà c íå çàâèñèò
îò m è y .
17. Äîêàçàòü, ÷òî äëÿ äþáûõ ñòðîê y, z, u äëèíû n íàéäåòñÿ ñòðîêà x
äëèíû n òàêàÿ, ÷òî K(x|y) ≤ n − 2, K(x|z) ≤ n − 2 è K(x|u) ≤ n − 2.
18. Äîêàçàòü, ÷òî äëÿ ëþáîé áåñêîíå÷íîé ïîñëåäîâàòåëüíîñòè ω áóäåò
supn K(ω n |n) < ∞ òîãäà è òîëüêî òîãäà, êîãäà ω ÿâëÿåòñÿ âû÷èñëèìîé.
2
19. Ñóùåñòâóåò òàêàÿ êîíñòàíòà c, ÷òî äëÿ ëþáîé áåñêîíå÷íîé ïîñëåäîâàòåëüíîñòè ω âûïîëíåíî K(ω n ) ≤ n − log n + c äëÿ áåñêîíå÷íî ìíîãèõ
n.
20. Ñóùåñòâóþò áåñêîíå÷íàÿ ω è êîíñòàíòà c òàêèå, ÷òî
K(ω n ) ≥ n − 2 log n − c
äëÿ âñåõ n.
21. Äîêàçàòü, ÷òî ñóùåñòâóåò òàêàÿ êîíñòàíòà c, ÷òî äëÿ ëþáûõ x, n è
k , åñëè èìååòñÿ ≥ 2k òàêèõ p, ÷òî A(p) = x è l(p) ≤ n, òî K(x|k) ≤ n − k + c
(çäåñü A(p) îïòèìàëüíûé ñïîñîá îïèñàíèÿ).
22. Äîêàçàòü, ÷òî äëÿ ëþáîãî áåçóñëîâíîãî ñïîñîáà îïèñàíèÿ A(p)
ñóùåñòâóåò òàêàÿ êîíñòàíòà c, ÷òî äëÿ ëþáîãî x ÷èñëî åãî êðàò÷àéøèõ
îïèñàíèé íå ïðåâîñõîäèò c. Óêàçàíèå: èñïîëüçîâàòü ïðåäûäóùóþ çàäà÷ó.
Ñëó÷àéíîñòü ïî Ìàðòèí-Ëåôó
1. Äîêàçàòü, ÷òî ñëåäóþùèå ìíîæåñòâà áåñêîíå÷íûõ ïîñëåäîâàòåëüíîñòåé ÿâëÿþòñÿ ýôôåêòèâíî íóëåâûìè:
(a) {0ω2 0ω3 0 · · · : ωi ∈ {0, 1}};
(b) {0∞ , 1∞ };
(c) ìíîæåñòâî, ñîñòîÿùåå èç îäíîé âû÷èñëèìîé ïîñëåäîâàòåëüíîñòè;
(d) ìíîæåñòâî âñåõ âû÷èñëèìûõ ïîñëåäîâàòåëüíîñòåé;
(e) ìíîæåñòâî, ñîñòîÿùåå èç âñåõ áåñêîíå÷íûõ ïîñëåäîâàòåëüíîñòåé ω
òàêèõ, ÷òî K(ω n ) ≤ log n + O(1) äëÿ âñåõ n;
(f) ìíîæåñòâî, ñîñòîÿùåå èç âñåõ áåñêîíå÷íûõ ïîñëåäîâàòåëüíîñòåé ω
òàêèõ, ÷òî K(ω n ) ≤ f (n) äëÿ âñåõ n. Äëÿ êàêèõ ôóíêöèé f ýòî âåðíî?
2. Äîêàæèòå, ÷òî îáúåäèíåíèå è ïåðåñå÷åíèå êîíå÷íîãî ÷èñëà ýôôåêòèâíî íóëåâûõ ìíîæåñòâ òàêæå ÿâëÿåòñÿ ýôôåêòèâíî íóëåâûì ìíîæåñòâîì.
3. Äîêàæèòå, ÷òî åñëè íåêîòîðàÿ áåñêîíå÷íàÿ ïîñëåäîâàòåëüíîñòü ω =
ω1 ω2 . . . ÿâëÿåòñÿ ñëó÷àéíîé, òî
(a) 0ω , 1ω , xω òàêæå ñëó÷àéíûå ïîñëåäîâàòåëüíîñòè, ãäå x = x1 . . . xk
êîíå÷íàÿ ïîñëåäîâàòåëüíîñòü;
(b) ω 0 = ω1 . . . ωn−1 x1 . . . xk ωn . . . òàêæå ñëó÷àéíàÿ ïîñëåäîâàòåëüíîñòü;
(ñ) òàêæå ÿâëÿåòñÿ ñëó÷àéíîé ïîñëåäîâàòåëüíîñòüþ ω 0 , ó êîòîðîé êàæäûé áèò ïðîòèâîïîëîæåí ñîîòâåòñòâóþùåìó áèòó ïîñëåäîâàòåëüíîñòè ω ;
(d) ïîñëåäîâàòåëüíîñòü ωn ωn+1 . . . ÿâëÿåòñÿ ñëó÷àéíîé äëÿ ëþáîãî n;
âåðíî è îáðàòíîå: äëÿ ëþáîãî n, åñëè ïîñëåäîâàòåëüíîñòü ωn ωn+1 . . . ñëó÷àéíàÿ, òî ω1 ω2 . . . òàêæå ñëó÷àéíàÿ ïîñëåäîâàòåëüíîñòü.
(e) ÿâëÿåòñÿ ëè ñëó÷àéíîé ïîñëåäîâàòåëüíîñòü âèäà ω1 ω1 ω2 ω2 . . . ?
3
4. Ïóñòü A ðàçðåøèìîå ìíîæåñòâî è α = α1 α2 . . . åãî õàðàêòåðèñòè÷åñêàÿ ïîñëåäîâàòåëüíîñòü. Äîêàçàòü, ÷òî α íå ÿâëÿåòñÿ ñëó÷àéíîé
ïîñëåäîâàòåëüíîñòüþ.
5. Ïóñòü ïîñëåäîâàòåëüíîñòü ω = ω1 ω2 . . . ÿâëÿåòñÿ ñëó÷àéíîé è n1 <
n2 < . . . âû÷èñëèìàÿ ïîñëåäîâàòåëüíîñòü íîìåðîâ. Òîãäà ïîñëåäîâàòåëüíîñòü ωn1 ωn2 . . . ñëó÷àéíàÿ.
6. Ïóñòü ω = ω1 ω2 . . . ñëó÷àéíàÿ ïîñëåäîâàòåëüíîñòü, à ïîñëåäîâàòåëüíîñòü α = α1 α2 . . . âû÷èñëèìàÿ. Òîãäà ïîñëåäîâàòåëüíîñòü ω ⊕ α ñëó÷àéíàÿ. Çäåñü ω ⊕α = ω1 ⊕α1 ω2 ⊕α2 . . . è ⊕ ñëîæåíèå ïî ìîäóëþ 2 (0⊕0 = 0,
0 ⊕ 1 = 1, 1 ⊕ 1 = 0).
7. Ïóñòü A ïåðå÷èñëèìîå ìíîæåñòâî è ω = ω1 ω2 . . . åãî õàðàêòåðèñòè÷åñêàÿ ïîñëåäîâàòåëüíîñòü, ãäå
1, åñëè i ∈ A,
ωi =
0 â ïðîòèâíîì ñëó÷àå.
Äîêàçàòü, ÷òî ïîñëåäîâàòåëüíîñòü ω íå ÿâëÿåòñÿ ñëó÷àéíîé. Ïîñòðîèòü
òåñò Ìàðòèí-Ëåôà, êîòîðûé îòâåðãàåò òàêèå ïîñëåäîâàòåëüíîñòè.
4