О МЕТОДЕ ТРАНСФИНИТНЫХ ИНДЕКСОВ В ТЕОРИИ

А. А.
ЛЯПУНОВ
О МЕТОДЕ ТРАНСФИНИТНЫХ ИНДЕКСОВ
В ТЕОРИИ ОПЕРАЦИЙ НАД МНОЖЕСТВАМИ
К началу Великой Отечественной войны классическая теория Л-мно­
жеств и проективных множеств была завершена. Основным методом их
изучения были трансфинитные индексы решет или 4-операций, введенные
H. H. Лузиным, и принцип сравнения индексов, установленный П. С. Но­
виковым [8, 22, 31].
С другой стороны, была создана общая теория операций над множе­
ствами, основные определения которой были даны А. Н. Колмогоровым,
а наиболее существенные результаты были получены Л. В. Канторови­
чем и Е. М. Ливенсоном [3, 28].
Одним из наиболее интересных понятий этой теории были Л-операции.
По сути дела Л-операция есть некоторое регулярное усилие произвольной
исходной Ss-операции. Если провести подобное усиление операции (J, то
получится Л-операция, а аналогичное усиление операции, дополнитель­
ной к Л-операции, даст Л^операцию, однократное применение которой
покрывает трансфинитное применение Л-операции и взятия дополнений.
Если применить один раз ^-операцию к открытым множествам, то полу­
чится класс множеств более широкий, чем класс всех С-множеств, и входя­
щих в класс Л2-множеств. Внимательное рассмотрение строения Л-операций показывает, что они в некотором смысле являются естественным об­
общением Л-операции. Под влиянием П. С. Новикова у меня явилось
желание более детально разобраться в строении Л-операции и сделать
попытку для этих операций построить аппарат трансфинитных индексов.
Из-за войны реализовать этот замысел удалось лишь в период 1946—1949 гг.,
когда мне было представлено место докторанта в Математическом институте
АН СССР им. В. А. Стеклова. П. С. Новиков, под руководством которого
я работал до войны, согласился быть моим консультантом. Он оказал ре­
шающее влияние на ход моей работы, результаты которой сводятся к сле­
дующему.
Л-операции удалось представить в виде трансфинитного процесса,
отдельные шаги которого представляют собой применение более простых
Bs-операций. Это позволило определить трансфинитные индексы Л-операЦий, вполне аналогичные трансфинитным индексам Л-операций, и пока­
зать, что множества точек, где эти индексы ограничены, получаются путем
более простых Ss-операций, чем рассматриваемая Л-операция. Отсюда
132
непосредственно следует, что все iï-множества представляются в виде
объединений не более чем ^ х попарно непересекающихся Б-множеств,
что они измеримы и обладают свойством Бэра. При этом Л-множества
определяются так: рассматривается наименьший класс Ss-операций, со­
держащий операции U » переход к ^-операции, дополнительной к данной,
и построение iî-операции, являющейся усилением операций данной си­
стемы. Д-множествами называют все те множества, которые получаются
из открытых множеств при помощи операции описанного класса. Для них
можно построить трансфинитную классификацию, аналогичную класси­
фикациям В- или С-множеств, однако каждый новый класс строится уже
посредством новой операции. Он оказывается существенно более широким,
чем объединение всех предыдущих. Начальная операция есть операция П •
Далее следует А -операция, которая является А-расширением операции (J*
дополнительной к П • Вообще, операция i? a+1 есть Д-расширение операции
i?aC, дополнительной к операции iî a . Для чисел у II рода операция i? r
есть iî-расширение операции, эквивалентной взятию пересечений результа­
тов применения всех Да-операций a < f к различным системам множеств.
В так построенной классификации множеств имеют место законы отдели­
мости и кратной отделимости, вполне аналогичные тем, которые имеют
место для ^.-множеств [10—17, 19, 20].
Имеют место также теоремы о вырождении результата применения неко­
торой 7?а-операции к множествам класса BRa, т. е. множествам, которые
суть .^-множества вместе со своими дополнениями. Эти теоремы вырожде­
ния являются аналогами теоремы Лузина о том, что проекция униформ­
ного 5-множества есть 5-множество [18].
Далее оказалось, что все .Д-множества входят в класс 2?2-множеств.
П. С. Новиков доказал, что существование неизмеримых 52-множеств
непротиворечиво в смысле Гёделя [23]; в силу сказанного в том же смысле
непротиворечиво, что Д-множества не исчерпывают класса 52-множеств,
однако в классическом смысле соотношение классов Д-множеств и В2 -мно­
жеств до конца не выяснено. Оказалось, так же как и для высших классов
С-множеств, что аналоги принципа ограниченности индексов и теоремы
Суслина для классов Д-множеств, следующих за классом Л-множеств,
неверны. Имеют место также теоремы о неотделимости СДа-множеств [15].
В то время, когда я работал над этой проблематикой, П. С. Новиков
постоянно обращал мое внимание на то, что получаемые результаты яв­
ляются естественным обобщением фактов, известных в теории А- и С-мно­
жеств, и что здесь не возникает сколько-нибудь неожиданных ситуаций.
Это постоянно побуждало меня к поискам новых типов операций над мно­
жествами, которые существенным образом расширяли бы класс всех i?-oneраций, но сохраняли бы некоторые «хорошие» свойства множеств, в первую
очередь измеримость. В результате этих поисков удалось построить такие
операции, следуя идее П. С. Новикова о классификации эффективного и
используя одну конструкцию типа трансфинитной индукции, которая
в исходном виде была построена Лебегом и значительно усилена и модерни­
зирована К. Куратовским [29]. Эти операции существенно выводят за пре­
делы ü-множеств и сохраняют измеримость. Однако связь получаемых
множеств с проективными выяснить не удалось. Дело в значительной мере
133
в том, что эти операции уже не являются Bs-операциями, а относятся к не­
положительным теоретико-множественным операциям. Эти операции также
сохраняют свойство Бэра и допускают трансфинитные индексы, однако их
более детальная теория не разработана до сих пор.
Весь комплекс описанных здесь работ по Ss-операциям, допускающим
трансфинитные индексы, можно рассматривать как естественный синтез
методов теории ^-операций над множествами и методов теории Л-множеств,
основанных на употреблении трансфинитных индексов.
В работах Эрбрана, Черча, Поста, Тюринга, Клини и др. развилось
новое, теоретико-алгоритмическое направление в математике.
В большой мере на содержание этого направления оказали влияние
общие концепции, высказанные H. H. Лузиным, а также методы и резуль­
таты, установленные П. С. Новиковым в дескриптивной теории множеств.
Впоследствии сам П. С. Новиков внес выдающийся вклад в развитие этого
нового направления. Он был первым, кто связал теорию алгоритмов с клас­
сической математикой, установил алгоритмическую неразрешимость клас­
сической проблемы тождества в теории групп [24]. Алгоритмические кон­
цепции оказались плодотворными при эксплуатации ЭВМ. Они явились
основой приложения математики к самым разным областям человеческой
деятельности в связи с использованием ЭВМ в этих областях. В настоящее
время они играют выдающуюся роль во всей математике.
Представляется интересным проследить в новом свете связь алгорит­
мических концепций с дескриптивной теорией можеств. Здесь можно отме­
тить два подхода.
Первый состоит в том, что рассматриваются различные рекурсивные
иерархии множеств и их обобщения. В частности, /?-иерархии изучают
сейчас Enderton и Hinmann в США и В. И» Амстиславский у нас [1, 2,
27, 26].
Другой возможный подход состоит в разработке своего рода квази­
алгоритмической точки зрения на задачи классической дескриптивной
теории множеств. Мне не известны никакие работы в этом направлении.
Цель настоящей статьи состоит в том, чтобы привлечь внимание к та­
кому квазиалгоритмическому изложению теории операций над множест­
вами, допускающими трансфинитные индексы. Ввиду ограниченности места
мы изложим только основные определения и имеющиеся результаты,
отсылая за доказательствами к оригинальным работам. Кроме того, мы
сформулируем несколько новых задач, решение которых нам неизвестно.
Может быть, со временем это привлечет внимание кого-либо из более моло­
дых исследователей.
Мы имеем в виду определить некоторый класс Ss-операций над мно­
жествами, которые допускают построение трансфинитных индексов. Для
этих индексов имеет место принцип сравнения индексов, вполне анало­
гичный тому, который П. С. Новиков построил для Л-операций.
Множества, доставляемые этими операциями, отправляясь от открытых
множеств, заведомо охватывают все Ä-множества. Эти множества изме­
римы. Они обладают свойствами Бэра, для них имеют место теоремы от­
делимости и кратной отделимости, вполне аналогичные тем, которые из­
вестны для А- или С-множеств. Имеют место также соответствующие тео134
ремы о неотделимости. Эти множества, если они не счетны, имеют мощность
либо континуума, либо $v К сожалению, остается открытым вопрос
о том, выходят ли они за пределы R-множеств и каково их отношение к про­
ективным множествам.
§ 1. Основные определения
1. (^-операции над множествами.
1а. Множества I={i} или / = { / } объектов i и /, называемых и н д е к ­
с а м и , суть п р о с т р а н с т в а
индексов.
16. Подмножества 9 С / или tczJ этих пространств назовем ц е п я м и
соответствующих индексов или просто цепями.
1в. Множества 6 = {9} или Е = {£} всех цепей, которые суть подмно­
жества определенного пространства индексов, назовем п р о с т р а н ­
с т в а м и соответствующих ц е п е й .
1г. Подмножества М с Е или N(Z^ назовем б а з а м и соответствую­
щей природы.
1д. Мы будем рассматривать системы объектов, занумерованных ин­
дексами из того или иного пространства индексов.
le. Множества, над которыми определены те или иные операции, могут
быть какой угодно природы. Все они суть подмножества некоторого исход­
ного множества S. Через СЕ обозначим дополнение Е до S.
1ж. 05-0 пе р а ц и я с б а з о й А7, состоящей из цепей б £ в над си­
стемой множеств {Ei)i£j, определяется так:
Ф* { £ , } = U Г\Е{.
1з. Ss-операция с базой № С 8 называют д о п о л н и т е л ь н о й к §sоперации с базой N, если для любой системы множеств {Ei)i^i имеем
(S>Nc{Ei} = C(bN{CEi).
2. ^-трансформации систем объектов.
Нам придется различать трансформации систем баз и систем множеств,
над которыми выполняются операции.
2а. Системы объектов, занумерованных порядковыми (в частности, нату­
ральными) числами, мы назовем п о с л е д о в а т е л ь н о с т я м и .
Системы объектов, занумерованных кортежами натуральных чисел, назо­
вем т а б л и ц а м и . (Всегда рассматривается и пустой кортеж ().)
26. Систему множеств {СЕ.) = <§с мы будем называть системой мно­
жеств дополнений к системе {Е.} = &.
2в. Пусть дана таблица множеств § = {/?„и ..., пк); назовем к о н ъ ю н к ­
т о м этой таблицы таблицу множеств
где V(nv
. .., nk)E£ltmm.fnk = E*Enr
. . . •#*„..., «Ä,
и д и з ъ ю н к т о м этой таблицы таблицу множеств д&= \EZlt..., „к}9 где
V(nv . . . , пк)Е)[ии.а,Як = Е\/ЕП1\/...
\/ЕЯи ...,„*.
2г. Если дана система баз 91 = {Л^}<61, то систему баз 9^° = \Ni}iei
135
назовем системой дополнительных баз к системе 91. Для определенности
можно считать, что все N9 суть полные базы.
2д. Пусть даны система множеств <§ = {Е^.е1 и система баз 91 =
= {/VJ . е г Воздействие системы 91 на систему S определим так:
Ф^(€) = ед1 = {Е^}9
где
У1Е^
=
Ф^{Е<,}.
2е. Л - т р а н с ф о р м а ц и я с базой 91 = {Nnil..., Пк) таблицы множеств
& — {Enii ##o Пк}, обозначаемая Лс^(<?), определяется так. Положим <§° =
= <£° = £ ,
£ ™ = П <§<и и £™ = U écfi Для чисел Y II рода. Тогда
Ji
a<Y
JC
a<y
^9? (<£) = & я
и
i ? ^ (<£) = <£cfl.
Заметим; что
2ж. Можно определить таблицу баз 9 ? с ^ = {Q„lt..., „Ä}, такую, что
<§с^ ==(§0 . Цепи базы СЯ1, ...,» Ä = {£} строятся так:
а) кортежи ( ), ( ^ ) , ( ^ , /г2), . . ., (nv п2, . . ., тгй) £ Ê;
6)36№„...,,*, eCS;
в) е с л и (т^, . . . , тгА, ^ , . . . , ^ ) 6 Е , т о 3 6 £ ЛГЯ1> ..., ЯА> fn ..., *,, 6 с S;
Г) цепями базы Qnu...,njc являются те и только те цепи кортежей I,
которые удовлетворяют условиям а—в.
Определим операцию над таблицами баз.
91 (91) = 9 1 ^ .
2з. Можно определить также таблицу баз
такую, что
S
9^—Sh
Трансформации систем объектов можно рассматривать как
операции над этими системами объектов.
За. ^-операции над таблицами множеств.
-Пусть дана система
унарные
систем множеств и база М с Е . Определим Ss-операцию над данной си­
стемой систем множеств с базой М.
В частности, определены конъюнкция систем множеств
136
и дизъюнкция систем множеств
je'
Ъъ/
nei
Фактически эти операции были использованы в Л- и Л -трансформациях.
36. Отношение порядка между таблицами множеств.
Мы будем говорить, что
если
это позволяет нам говорить о монотонно неубывающих или невозрастающих последовательностях таблиц множеств.
4. Свертывание и развертывание систем кортежей.
Нам потребуется некоторое вполне определенное преобразование си­
стемы кортежей в себя.
Пусть
f(m) = (nv . . . , пк) и Г1 (nv . . . ,
пк)=т
— раз навсегда заданное взаимно-однозначное отображение множества кор­
тежей на множество натуральных чисел.
Положим ср ( ) = ( ).
Если ср (mv т2, . . ., т8) = (nv п2, . . ., пк), то Ут8+1 ср (т^ ...,та,
т8+1) =
= (nv . . . , пк, tv . . ., tj), где / (иг,+1) = ( ^ . . . , £;). Ясно, что $<;&. Это
отображение кортежей индуцирует отображение цепей и. баз, а именно:
цепь кортежей
W, ti,..., ц{)}.е1
отображается в цепь натуральных чисел 0 = {т-}{е1, где f'1 {t{, Ц,> . .^}.)=т..
В этом случае мы будем писать Q = f~1(l) и E = / ( G ) . Соответственно база
7V = {g}, составленная из цепей кортежей, преобразуется в базу M = {9},
составленную из цепей натуральных чисел;
VQ£M'aî£N[b=f-1(ï)]
и УЁ£ЛГЭв£Л/[Б=/(6)].
Условимся в таком случае писать M = f~1(N)
Фм {EJ = Ф^ {Htu . . . . „ } ,
При этом таблица баз 9Î = {Л^,..., пк}
(
3ft = {Mmi,„.,m8}9
где
где
и N = / (М). Заметим, что
Н/ш)
= £w.
преобразуется в таблицу
баз
Мы будем писать 9JÎ = h,((zfl), это преобразование таблицы баз мы назо­
вем / - е в е р т ы в а н и ем т а б л и ц ы б а з .
Пусть дана таблица множеств & = {ЕПи ..., WÄ; }, определим таблицу мно­
жеств U = g/(g) = {Hmit9U„ina}, где
- " % , . . . , ™s =
&у{тх>
. . . , т8)»
Мы назовем это преобразование / - с в е р т ы в а й и м т а б л и ц ы
ж е с т в . Заметим, что если <3Ji = h^((3l) и U = gf{<§), то
мно­
137
5. Операторы над парой: таблица множеств, таблица баз.
5а. г-оператор: (£, 9l)r = (g^ 91);
56. г с -оператор: (g, 9l)rc = (g^
91);
5в. С-оператор:
91e);
(g, <Zfl)Z = (g,
5г. ср-оператор: (g, 9l)<? = (g,
hf(9l));
5д. р-оператор: (g, 9l)p = (g, 9?с^);
5е. р-оператор: (g, 91) р с = (g, Щг);
5ж. о-оператор:
(g, 9l)o = (gcft, 91);
5з. ^-оператор:
5и. ô-оператор:
5к. Z-оператор:
(g, 91) к = (kg, 91);
(g, <3l)d = (dg, 91);
переход к пределу.
Если возникает трансфинитная последовательность таблиц множеств,
которая сходится для каждого числа II рода, то для этих чисел берется
предельная таблица и далее продолжается преобразование полученных
таблиц. Итерации таких операторов мы будем записывать в виде правых
операторов, нередко опуская аргумент (g, 91).
Отметим сходство с логическими схемами программ.
Пусть дана некоторая пара (g, 91), Наименьший класс пар, содержа­
щий эту пару и инвариантный относительно всех операторов 5а—5к,
мы назовем к л а с с о м п а р , п о р о ж д е н н ы м п а р о й (g, 91).
Нас будут интересовать множества и базы, входящие в эти пары.
Отметим некоторые свойства этих операторов:
1) оператор <р коммутирует со всеми операторами г, гс, £, р, рс и о.
2) операторы г и р коммутируют;
3) операторы гс и р с коммутируют;
4) некоторые операторные тождества:
го z=or — г;
грг — rp;
rppr = грр.
Здесь возникает вопрос об изучении своеобразной алгебры этих операторов.
6. Итерирование операторов.
6а. Можно ввести в рассмотрение четыре типа итераций вышеопреде­
ленных операторов.
I. Конечные итерации. Е с л и | а и | р — два оператора, определенные над
парой <(таблица множеств, таблица пар)>, то оператор aß обозначает, что
над исходной парой выполняется оператор a, a затем над полученной па­
рой оператор ß. Так же определяется любая конечная суперпозиция опе­
раторов. Все они ассоциативны.
Итерация одного и того же оператора в конечном числе обозначается
как степень
a • a • . . . • a = a".
всего w-раз.
II. Трансфинитная итерация операторов со сходящейся таблицей мно­
жеств и постоянной таблицей баз. Здесь предполагается, что для всякого
кортежа и трансфинитного числа II рода последовательность таблиц
множеств является сходящейся. В частности, это имеет место, если с ро138
стом трансфинитного номера элементы таблицы множеств не убывают или
не возрастают*
III. Трансфинитная итерация операторов со сходящейся таблицей
множеств и автоматически определяемой новой таблицей баз. В этом случае
окончательная таблица множеств получается из исходной таблицы мно­
жеств путем применения к ней некоторой таблицы баз. Эта таблица баз
определяется полностью, если считать, что исходная таблица множеств
универсальна. Тогда каждая база новой таблицы баз будет состоять из
всех тех цепей, которые обеспечивают, вхождение в множество окончатель­
ной таблицы. В случае рассматриваемой итерации можно считать, что
в окончательную пару наряду с окончательной таблицей множеств входит
именно эта таблица баз.
IV. Итерация со сходящейся таблицей множеств и неопределенной
таблицей баз. Такая итерация, очевидно, может являться лишь завершаю­
щим актом некоторого процесса теоретико-множественных трансформаций.
бб. Трансфинитные итерации операторов мы будем обозначать так же,
как их степени с трансфинитными показателями. Тип итерации придется
оговаривать особо.
бв. Трансфинитные итерации операций мы будем тоже обозначать как
степени итерируемого оператора. Например,
(kolf = r;
{dolf = rc.
бг. Преобразование пары: <(таблица множеств, таблица баз^>. Таблицу
баз можно итерировать трансфинитно (если обеспечена сходимость после­
довательностей таблицы множеств для чисел II рода), так же как и таблицу
множеств. При этом возможны два случая: либо это преобразование
продолжается вплоть до заданного трасфинита, либо оно продолжается
до стабилизации. В каждом случае должно быть указано, до каких пор
это преобразование продолжается.
бд. Заметим, что если последовательность получаемых таблиц мно­
жеств монотонна, то рано или поздно непременно возникает стабилизация
этих таблиц. В этом случае мы будем обрывать процесс, даже если таблицы
баз продолжают изменяться. Дело в том, что нас в основном интересуют
получаемые множества, тогда как базы служат лишь средством для полу­
чения достаточно разнообразных множеств. Часто вопрос состоит в том,
чтобы выяснить, где возникает стабилизация.
бе. В частности, если таблица баз остается неизменной, а таблица мно­
жеств меняется монотонно, то стабилизация наступает не позднее, чем
на шаге Q. Отсюда ясно, что г- и гс-операторы работают до стабилизации.
7. Трансфинитные индексы.
7а. Таблицу множеств, все элементы которой содержат одну и только
одну точку х, мы назовем ^ - т а б л и ц е й и будем обозначать ({х}).
76. Назовем с р е з о м п о х таблицы S таблицу
Sx = {x}S.
7в. Пусть дан оператор JA над парой {<§, 9^), который является транс­
финитной итерацией некоторых операторов. Назовем
индексом
с т а б и л и з а ц и и этой пары относительно оператора р. в точек х
139
число ß (x), начиная с которого таблица стабилизируется в этом процессе
итерации.
7г. Мы будем различать в н е ш н и е т о ч к и , в которых стабили­
зировавшаяся таблица состоит из одних лишь пустых множеств, и в н у ­
т р е н н и е т о ч к и , в которых эта таблица содержит и не пустые мно­
жества. Множество внутренних точек всегда совпадает с объединением всех
элементов стационарной таблицы множеств, полученной в результате ра­
боты оператора jx.
7г. Множества всех точек, в которых индекс имеет постоянное значе­
ние, называется в н е ш н и м и к о н с т и т у а н т а м и соответствую­
щего индекса.
Множества внутренних точек, в которых индекс постоянен, называ­
ются в н у т р е н н и м и к о н с т и т у а н т а м и
соответствующего
индекса.
Заметим, что конституанты могут быть получены, отправляясь от мно­
жеств исходной таблицы ß посредством Ss-операции с базами из таблицы 9Z,
а также операций вычитания и пересечения множеств в конечном или
счетном числе.
§ 2. Свойства множеств,
получаемых посредством трансфинитных процессов
Каждый из трансфинитных процессов описанного типа приводит к по­
строению двух взаимно-дополнительных множеств: внутреннего и внеш­
него. Как внутреннее, так и внешнее множества разлагаются на попарно
непересекающиеся конституанты, занумерованные порядковыми числами.
Эти конституанты строятся из элементов исходной таблицы с помощью
относительно простых операций.
Допустим, что все конституанты обладают таким свойством: они либо
конечны, либо счетны, либо имеют мощность $L, либо мощность конти­
нуума. Тогда очевидно, как и внутреннее, так и внешнее множества могут
иметь мощности только тех же самых перечисленных типов. Если исход­
ные множества измеримы и все операции, входящие в состав базы 9Î, со­
храняют измеримость, то измеримы будут и все конституанты, а также
как внешнее, так и внутреннее множества. То же самое имеет место по от­
ношению к свойству Бэра. Более того, как для внешнего, так и для внутрен­
него множеств будет иметь место свойство регулярности разложения этих
множеств на конституанты. В случае меры это означает, что не более чем
счетное число конституант может иметь положительную меру, тогда как
объединение всех остальных непременно имеет меру нуль. По отношению
к свойству Бэра регулярность обозначает следующее: если некоторое мно­
жество разложено на конституанты в трансфинитном числе и если оно не
первой категории на некотором совершенном множестве, то всегда можно
отобрать такую счетную систему этих конституант, что объединение всех
остальных окажется первой категории на данном совершенном множестве.
Можно определить некоторое свойство множеств в некотором смысле
более специальное, чем измеримость и свойство Бэра, которое влечет за
собой эти последние и которое тоже сохраняется в трансфинитном процессе,
если им обладают исходные множества и если его сохраняют операции
140
с исходными базами. Первоначально это свойство было названо дескрип­
тивной измеримостью. Может быть, его более естественно называть
аппроксимируемостью.
Оно определяется так:
Пусть О — наследственная а-система множеств, не содержащая всего
пространства, и для каждого из множеств этой системы есть входящее
в нее 5-надмножество. 0 - а п п р о к с и м и р у е м ы м назовем множе­
ство, представимое в виде объединения .^-множества и множества из си­
стемы О. Систему множеств О назовем р а з р е ж е н н ы м к л а с с о м ,
если, какова бы ни была система попарно непересекающихся 0-аппроксимируемых множеств, не более чем счетное число из них не принадлежит
системе О.
Классы множеств меры нуль и множеств первой категории на некотором
совершенном множестве суть разреженные. А. В. Гладкий показал, что
существуют и существенно другие разреженные классы [3].
Оказалось, что если все исходные множества 0-аппроксимируемы,
а все Ss-операции с базами их исходной таблицы сохраняют О-аппроксимируемость, то трансфинитная переработка множеств тоже сохраняет 0аппроксимируемость.
Из общей теоремы А. Н. Колмогорова о непустоте классов следует, что
если исходить из класса открытых множеств и строить новые множества,
чередуя какой-нибудь из описанных выше трансфинитных процессов пе­
реработки множеств с операцией взятия дополнения, то получится непре­
станно расширяющаяся совокупность классов множеств.
Из общей теоремы М. А. Лаврентьева о продолжении гомеоморфизма
следует топологическая инвариантность всех таких классов [30].
В тех случаях, когда трансфинитный процесс проводится до стабилиза­
ции, то определенная таким образом стабилизация является нормальной,
т. е. ее итерация сравнима с ней самой по силе и не сильнее ее.
Интересно было бы выяснить, какова сравнительная сила операций,
получаемых при помощи различных, описанных выше трансфинитных про­
цессов.
Ряд результатов такого характера можно извлечь из работ Л. В. Кан­
торовича и Е. М. Ливенсона по теории ^-операций» Однако полной теории,
дающей возможность сравнивать силу таких операций, нет.
В частности, с этим связан вопрос о том, можно ли, пользуясь описан­
ными здесь трансфинитными процессами, построить Ss-операцию, которая,
отправляясь от универсальной таблицы открытых множеств, строила бы
множество, выходящее за пределы всех iî-множеств.
Вообще в этом направлении центральным является вопрос об изучении
сравнительной силы описанных здесь трансфинитных процессов образо­
вания множеств.
§ 3. Принцип сравнения индексов
Дальнейшее изучение классов получающихся здесь множеств требует
существенно более сильных методов. Речь идет не только об использовании
трансфинитных индексов как таковых, но и о построении принципа сравне­
ния этих индексов, аналогичного тому, который П. С. Новиков построил
141
для индексов, определяемых решетами или Л-операциями. Если даны две
таблицы множеств g1 и g2, две таблицы баз 9Ï 1 и 9^2 и некоторый опе­
ратор р., действующий на пары (g1, 9t1) и (g2, 912), то он определяет два транс­
финитных индекса ßx (х) и ß2 (х), а также две пары взаимно-дополнитель­
ных множеств Av и А2, Вх и В2. Мы будем считать, что Ах и Вх суть внутрен­
ние множества, определенные обоими трансфинитными процессами, А2
и В2 — соответствующие внешние множества. Тогда можно определить
новую систему множеств g3 = {Unu _ о пк) и новую систему баз 9Î 3 =
~{Qn1,n2,...,nk),
такую, что если применить тот же оператор JJ- К паре
(g3, 9Z3), то индекс ß3 (х) и соответствующее внутреннее Z)3 и внешнее Z)2
множества имеют следующие свойства:
l)D1
=
{x: Ш>ШУ,
2) ß 3 (*K 2 M «[M*)> М*)1Построение операции сравнения осуществляется так. Пусть
я1 = {£.,, .:.,«*}; ет1 = {#„„..., „*};
&={НЯи ...,„,};
c«a = {ilf«.1
»fc}.
Эти таблицы множеств должны удовлетворять некоторым простым усло­
виям регулярности, которые не являются ограничительными. Новые мно­
жества определим так:
U = E\J СН;
Umi = E(J CHmi;
Umi%x = ЕПх (J CHmi;
• " » » ! , п1У . . . , П(__ХУ mi
==
Е"пи . . . , 7ii_x U ^ " т
1 (
..., т р
Новые базы определим так:
<? = 71/°; ÇWl = TV;
Qtnl,nli...,ni_.l,mi = Nnlt„timmetni_l
<?Wl, Wl == Mcmx;
— jitjia нечетных рангов,
Qmu n» ..., mi, щ — Mmii m<ly ..., m. — для четных рангов.
Заметим, что совсем недавно В. И. Амстиславский показал, что, зная
множества Av А2, Bv В2, a также функции ßx (х) и ß2 (#), можно для каж­
дой точки вычислить точное значение ß3 (x).
§ 4. Следствия из принципа сравнения индексов
в теории jß-множеств
^
В этом параграфе мы сформулируем ряд результатов, относящихся
к теории /?-множеств и получаемых при помощи принципа сравнения ин­
дексов. Было бы интересно знать, в какой мере они сохраняются для опи­
санных выше трансфинитных процессов построения множеств.
Во многих случаях в основе соответствующих построений лежат кон­
струкции, которые первоначально были получены для Л-операций. При­
менение их к iï-операциям иногда было почти буквальным, иногда оно тре­
бовало некоторого их переосмысливания.
4.1. Напомним некоторые определения, ^-операция есть 7?°-операция.
^.-множество — 7?0-множество. Д^-операция есть Л-операция, опре­
деленная, {исходя из таблицы баз, составленных итерациями iT-и RaC~
операций.
142
Если Y число II рода, то 1?г-операция строится при помощи таблицы
баз, элементы которой эквивалентны базе операции, являющейся итера­
цией операции П и всех ./Г-операций для а < у.
Да-множества суть те, которые получаются применением /Г-операции
к открытым множествам. Дополнения к ним суть ОДа-множества.
Множества, являющиеся одновременно Ra и CRa, суть 5Ла-множества.
Наконец, множества, которые можно получить, исходя из открытых
множеств, путем конечного или счетного применения операций i?ß, где
ß < 'а, и операции взятия дополнения, суть 93Ла-множества.
4.2. Произведем в плоскости ху универсальную 7?а-операцию, дающую
на параллелях к оси у все .йа-множества класса а > 0, исходя из открытых
множеств, a на OCHZ произведем ^4-операцию с неограниченными индек­
сами. Выполним в пространстве oxyz операцию сравнения индексов, тогда
в этом пространстве мы получим Ш?а-множество, универсальное для всех
93#а-множеств.
Отсюда следует, что для Ла-операций, кроме Л-операции, не имеет
места ни принцип ограниченности индексов, ни аналог теоремы Суслина,
которая применительно к Да-множествам должна была бы обозначать
совпадение классов 93i?a и BRa.
Аналогичная конструкция показывает, что все iî-множества входят
в класс проективных множеств # 2 .
Отметим, что такое использование принципа сравнения индексов было
впервые предложено К. Куратовским. Отправляясь от принципа сравне­
ния индексов для Л-операций, построенного П. С. Новиковым, с помощью
такой конструкции К. Куратовский показал, что все С-множества входят
в класс Б 2 [2911.
Ввиду того что П. С. Новиков показал непротиворечивость в смысле
Геделя существования неизмеримых 2?2-множеств [23], тогда как все
Л-множества измеримы, можно сделать заключение, что в классическом
смысле не может быть установлено совпадение Д-множеств с Б2-множествами. Однако в рамках классической теории отличие класса Д-множеств
от класса Б2-множеств все-таки не установлено. Было бы интересно вы­
яснить, не могут ли в этом отношении оказаться полезными те трансфинит­
ные процессы построения множеств, которые были описаны в настоящей
статье.
4.3. Следующая серия результатов, относящихся к теории Д-множеств
и связанных с принципом сравнения индексов, опирается на теоремы от­
делимости и неотделимости. Приведем их формулировки.
1 - я т е о р е м а о т д е л и м о с т и . Два непересекающихся Raмножества отделимы посредством BR^-множеств.
2 - я т е о р е м а о т д е л и м о с т и . Если у двух R^-множеств
(или CR^-множеств) удалить их общую часть, то оставшиеся множества
отделимы посредством CR^-множеств.
Т е о р е м а н е о т д е л и м о с т и . Существуют два непересекаю­
щихся CR ^-множества, неотделимые посредством BR ^-множеств.
1
Отметим, что впервые этот результат был установлен Л. В. Канторовичем и Е. М. Ливенсоном другим путем [28].
14а
Имеют место также теоремы о кратной отделимости и неотделимости i?множеств.
Класс множеств H удовлетворяет теоремам о кратной отделимости
относительно операции Ф^, если выполнены два условия:
а) этот класс множеств должен обладать классом трансфинитных ин­
дексов, аналогичных тем, которыми для А -множеств являются индексы
А -операций;
б) этот класс множеств должен быть инвариантен относительно опе­
рации Ф^ и всех ее урезанных операций*
п-я урезанная операция по отношению к данной операции обладает
базой, которая состоит из всех цепей данной базы, содержащих номер
п [10].
В случае Ä-множеств теоремы о кратной отделимости формулируются
так.
I. Если класс Да-множеств инвариантен относительно os-операции Ф#
и всех ее урезанных операций и если последовательность Лк-множеств {Еп}
такова, что
то существует последовательность Ш^-множеств {Нп}, такая, что
Нп^Еп
и
Ф„{Нп} = 0.
П. При тех же условиях для произвольной последовательности {Еп}
множеств класса i?a существуют СДа-множества {Нп}9 такие, что
Нп^Еп-ФЯп{Ет)
и
<МЯ„} = 0 .
Здесь Nn есть база п-и урезанной операции.
Имеют место также аналогичные теоремы о кратной неотделимости
для (7/?а-множеств [15]«
Теоремы об отделимости и кратной отделимости нередко используются
для того, чтобы устанавливать оценки класса множеств, получаемых в не­
которых конструкциях»
Аналогичные явления имеют место в теории /?-множеств.
Ядром цепи множеств, входящих в состав |какой-либо таблицы мно­
жеств, называют пересечение тех из этих множеств, номера которых при­
надлежат данной цепи.
Лузин показал, что ^.-операция над ^-множествами дает Б-множества,
если каждая точка внутреннего множества принадлежит к ядру одной и
только одной цепи этой операции [7]. П. С. Новиков показал, что этот
результат остается в силе, если каждая точка внутреннего ^множества
принадлежит ядрам не более чем счетного числа цепей ^.-операции.
Оба результата устанавливаются при помощи теорем отделимости или
кратной отделимости.
База называется жесткой, если ни одна ее цепь не содержит другой
ее цепи. Как Ла-, так и R* -операции обладают жесткими базами.
iT-операция с жесткой базой над 2?Да-множествами "приводит к BR^множеству, если каждая точка внутреннего множества принадлежит
к ядру одной и только одной цепи этой операции [18].
144
Опираясь на вторую теорему о кратной отделимости, удается показать,
что если дана произвольная таблица Аа-множеств, то множество точек,
каждая из которых входит в ядро лишь одной какой-нибудь цепи жесткой
базы ./Г-операции, есть Сй„-множество.
Дальнейшие обобщения этого результата были получены в Волгограде
3. И. Козловой и И. Д. Ступиной [5, 6, 25].
На этом пути получились и некоторые новые результаты, относящиеся
к теории ^[-множеств. При помощи общих теорем о кратной отделимости
удалось получить единообразное доказательство многих результатов,
относящихся к накрытию .4-множеств, обладающих некоторыми специаль­
ными структурными свойствами, Б-множествами, обладающими такими же
свойствами [21 ]#
К сожалению, форма /?-операций очень громоздка. Это отталкивает
многих исследователей от изучения этих операций, хотя в последнее время
интерес к индуктивным конструкциям, родственным Ä-операциям, воз­
рождается. (Можно упомянуть о работах В. И. Амстиславского, Эндертона, Хинмана и др. [1,2,26,27].) В.связи с этим была предпринята попытка
менее громоздкого изложения основных результатов теории А-множеств.
С этой целью были построены Г-операции. Г-операции получаются из Rопераций путем пересчета всех кортежей натуральными числами. Изло­
жение ряда вещей действительно получается менее громоздким. Однако
существенно новых результатов на этом пути получить не удалось [12, 19].
Отметим, что многие результаты, относящиеся к Г-операциям, можно
обобщить на тот случай, когда исходные операции суть теоретико-множе­
ственные операции, не обязательно положительные [20].
§ 5. О теоретико-множественных операциях,
сохраняющих измеримость
5.1. Стремление к построению более широких классов измеримых
множеств привело в свое время к несколько иной попытке. Был использо­
ван своеобразный процесс трансфинитной индукции для построения тео­
ретико-множественных операций, сохраняющих аппроксимируемость,
(а следовательно, и измеримость и свойство Бэра). Этот процесс трансфи­
нитной индукции был впервые использован Лебегом для эффективного
построения функции, не входящей в классы Бэра. Впоследствии он был
применен К. Куратовским для построения некоторых универсальных мно­
жеств. Им было показано, что в этих процессах трансфинитная индукция
может быть исключена и заменена проективными операциями. Фон Нейман
и К. Куратовский с помощью аналогичной конструкции показали, что гра­
фик функции, построенный Лебегом, есть разность двух А -множеств [32].
Впоследствии Аддисон с помощью родственной конструкции построил
эффективное множество, универсальное для всех проективных множеств
и, следовательно, выходящее за пределы проективных множеств.
Как уже сказано, аналогичная конструкция'была применена также для
построения теоретико-множественных операций, сохраняющих измери­
мость. К сожалению, сколько-нибудь полная теория этих операций не
разработана до сих пор.
Ю Тр. Математ. ин-та, т. 133
145
Было бы особенно интересно сочетать эти конструкции с теми транс­
финитными процессами образования множеств, которые были описаны
в настоящей статье.
Будем определять теперь теоретико-множественные операции с по­
мощью следующего трансфинитного процесса [13, 15].
1. Начальная операция есть Л-операция (R над (J).
2. Если определена теоретико-множественная операция ранга а (где
а — число 1-го, 2-го или 3-го класса), то операция ранга а + 1 определя­
ется как R над дополнительной к предыдущей L. Для чисел f i l рода по­
ступаем так. Пусть "7= М- ß, где 5 есть наибольшее возможное число
III рода, и все операции рангов 8 + ß \ где ß' < ß, определены. Тогда опе­
рация ранга 8+ ß эквивалентна пересечению операций ранга 8+ ß' для
всех ß' <C ß. Заметим, что это пересечение счетно.
Для чисел 8 III рода мы будем предполагать, что задана перенумера­
ция сегмента трансфинитных чисел, предшествующих числу 8, посредст­
вом всех трансфинитных чисел 2-го класса. Пусть это
Pi, Р» •••. pe,
/Q.
Это перенумерование для «не слишком больших» чисел III рода
можно определить эффективно.
Для всех чисел III рода это требует использования аксиомы Цермело.
Мы будем считать, что для всех ßa < В база соответствующей теоретикомножественной операции определена. Для чисел III рода поступаем так.
Заданную таблицу множеств раз навсегда определенным способом расщеп­
ляем на две — S и Н. Таблица H будет служить лишь для определения
трансфинитного индекса 4-операции.
Как известно, точке х отвечает также эффективная перенумерация сег­
мента трансфинитных чисел, предшествующих числу 8. Пусть это будет
Составим последовательность ранее определенных операций рангов
р.,. Р.,. . . . м * ) .
(1)
Определим тогда теоретико-множественную операцию ЧГ^*), которая
эквивалентна взятию пересечения всех операций рангов ßc <С а (я), взя­
тых в том порядке, который отвечает строчке (1). При этом таблица <§, на
которую воздействует операция W^^), раз навсегда фиксированным об­
разом разбивается на счетное число попарно непересекающихся таблиц,
и на первую таблицу воздействует операция ранга ßffJ, на вторую — опе­
рация ранга ßff, и т. д.
Окончательная операция определяется так:
X
где {х} — множество, состоящее из одной только точки х.
При этом считается, что все промежуточные операции определяются
аналогичными индуктивными процессами. Это важно для сохранения эф­
фективности конструкции.
1
Иногда по техническим причинам следует брать итерацию предыдущей операции и
дополнительной к ней.
146
Так, определенная операция, отправляясь от открытых множеств,
приводит к классам множеств, выходящим за пределы Ä-множеств. Клас­
сификация этих множеств простирается по трансфинитам 3-го класса.
Вообще говоря, эти конструкции являются не эффективными и даже вет­
вящимися, так как они опираются на пересчет сегментов трансфинитов,
определяемых числами III рода посредством трансфинитов 2-го класса.
Однако до тех пор, пока этот пересчет осуществляется эффективно, кон­
струкция остается эффективной и не ветвится. Здесь наблюдается такая же
картина, как и в работе П. С. Новикова о классификации эффективного.
Заметим, что все множества, получающиеся описанными операциями,
отправляясь от аппроксимируемых множеств, являются также аппрок­
симируемыми. В частности, они измеримы и обладают свойством Бэра.
К сожалению, более детальное изучение этих операций не проведено.
ЛИТЕРАТУРА
.1. В. И. Амстиславский. Расширение рекурсивных иерархий и Д-операции.
Докл. АН СССР, 180, № 5, 1968, 1023—1026.
2. В. И. Амстиславский. О разложении тела множеств, получаемых Я-операцией,
над рекурсивными множествами. Докл. АН СССР, 191, № 4, 1970, 743—746.
3. A.B. Гладкий. Разреженные классы множеств, допускающие п о к р ы т и я ^ . Матем.
сб., 44, № 2, 1958, 2 8 7 - 2 9 5 .
4. A.B. Колмогоров. Об операциях над множествами. Матем. сб., 35, 1928, 414—422.
5. 3. И. Козлова. О некоторых As-операциях, базы которых получаются объедине­
нием цепей базы исходной операции. Докл. АН СССР, 188, № 5, 1969, 1001—1003.
6. 3. И. Козлова, ^-операция с полной глубиной цепей над системами множеств мощ­
ности т. Докл. АН СССР, 193, № 3, 1970, 521—524.
7. H.H. Лузин. О классификации Бэра. Собрание соч., т. 2, 270—272.
8. H. H. Лузин. Об аналитических множествах. Собрание соч., т. 2, 380—459.
9. H. H. Лузин. О некоторых новых результатах дескриптивной теории функций.
Изд-во АН СССР, 1935, стр. 86.
10. A.A. Ляпунов. О кратной отделимости для ös-операций. Докл. АН СССР, 53, № 5 ,
399-402, 1946.
11. А. А. Ляпунов. Об Я-множествах. Докл. АН СССР, 58, № 9, 1887—1890, 1947.
12. A.A. Ляпунов. Новое определение некоторых классов множеств. Докл. АН СССР,
59, № 5, 847—848, 1948.
13. А. А. Ляпунов. О теоретико-множественных операциях, сохраняющих измери­
мость. Докл. АН СССР, 65, № 5, 1949, 609—612.
14. А. А. Ляпунов. О Ss-операциях, сохраняющих измеримость и свойство Бэра.
Матем. сб., 24 (66), № 1, 1949, 119—127.
15. А. А. Ляпунов. Я-множества. Труды Матем. ин-та АН СССР, 40, 1953, 68 стр.
16. А. А. Ляпунов. О классификации Л-множеств. Матем. сб., 32 (74), № 1, 1953,
255-256.
17. A.A. Ляпунов. Отделимость и неотделимость Л-множеств. Матем. сб., 32 (74), № 3,
1953, 515-532.
18. A.A. Ляпунов. О признаках вырождения для Я-множеств. Изв. АН СССР, серия
матем., 17, 1953, 563—578.
19. A.A. Ляпунов. Об операциях над множествами, допускающих трансфинитные ин­
дексы. Труды Моск. матем. об-ва, 6, 1957, 195—230.
20. A.A. Ляпунов. Об операциях над множествами. Алгебра и логика (семинар),
2, № 1, 1963, 47—56.
21. A.A. Ляпунов. О накрытии Л-множеств и кратной отделимости. Докл. АН СССР,
190, № 4, 1970, 775—776.
22. П. С. Новиков. О некоторых системах множеств, инвариантных по отношению
к 4-операции. Докл. АН СССР, 3, 1934, 557—560.
10*
147
23. Я . С. Новиков. О непротиворечивости некоторых положений дескриптивной теории
множеств. Труды Матем. ин-та АН СССР, 38, 1951, 279—316.
24. Я . С. Новиков. Об алгоритмической неразрешимости проблемы тождества.
Докл. АН СССР, 85, № 5, 1952, 709—712.
25. И. Д. Ступина. О некоторых свойствах Я- и й с -операций. Докл. АН СССР, 188,
№ 5, 1969, 1010—1013.
26. Я . В. Enderton. Hierarchies in recursive function theory. Trans. Amer. Math. S o c ,
111, 1964, 457—471.
27. P. G. Hinman. Hierarchies of effectine descriptive set theory. Trans. Amer. Math.
S o c , 142, 1969, 111-140.
28. L. V. Kantorowich, E. M. Liuenson. Memoir on the analytical operations and projec­
tive sets. Part I. Fund. Math., 18, 1932, 214—279. Part II. Fund Math., 20, 1933,
54—97.
29. K. Kuratowsky. Les ensembles projectifs et l'opération A. С. г. Acad. sei. Paris,
203, 1936.
30. M. A. Lavrentiev. Contribution à la théorie des ensembles homeomorphes. Fund.
Math., 6, 1924, 149—160.
31. P. S. Novikov. Sur les fonctions implicites mesurables В. Fund. Math., 17, 1931,
8—25.
32. / . Von Neuman a. K. Kuratowsky. On some analytical set defined by transfinite in­
duction. Ann. Math., 38, 1937, 521—525.