Самоорганизация нейронных сетей, ансамблей и комплексов
advertisement
ISBN 978-5-7262-1376-7. НЕЙРОИНФОРМАТИКА – 2011. Часть 2 В.В. ЦЫГАНОВ Институт проблем управления РАН им. В.А. Трапезникова, Москва bbc@ipu.rssi.ru САМООРГАНИЗАЦИЯ НЕЙРОННЫХ СЕТЕЙ, АНСАМБЛЕЙ И КОМПЛЕКСОВ Исследуются вероятностные динамические модели самоорганизации нейронных сетей, приводящей к формированию нейронных ансамблей. В качестве базовых элементов структуры центральной нервной системы рассматриваются нейронные сети и их комплекс – нервный центр. Найдены необходимые и достаточные условия эволюции комплекса, включающего две нейронные сети. Рассматриваются принципы их интеграции и координации в центральной нервной системе, а также методы использования дальновидной личностью потенциала нейронных сетей. Ключевые слова: нейронная сеть, ансамбль, комплекс, нервный центр, энергия, эволюция, самоорганизация Введение Концепция самоорганизации при построении и работе нервной системы получила наибольшее развитие в представлениях о модульной (ансамблевой) ее структуре, как принципиальной основы построения функциональных систем мозга [1, 2]. Хотя простейшей структурной и функциональной единицей нервной системы является нервная клетка, данные современной нейрофизиологии подтверждают, что сложные функциональные «узоры» в центральных нервных образованиях определяются эффектами скоординированной активности в отдельных популяциях (ансамблях) нервных клеток. Образования головного мозга состоят из локальных нейронных сетей – модулей, отличающихся числом клеток, внутренними связями и способами обработки информации. Каждый нейронный модуль (ансамбль) представляет собой совокупность локальных нейронных сетей, обрабатывающих информацию. Он может входить в состав разных функциональных образований. Группировка нейронов в ансамбли нервных клеток для совместного выполнения функций считается проявлением кооперативного способа деятельности. Признаком такого ансамбля является локальный синергизм УДК 004.032.26(06) Нейронные сети 238 ISBN 978-5-7262-1376-7. НЕЙРОИНФОРМАТИКА – 2011. Часть 2 реакций нейронов центральной структуры (ядра), окруженной зоной заторможенных и не реагирующих нейронов [1, 2]. Размеры группировок нейронов в горизонтальной плоскости в среднем достигают диаметра 100–150 мкм. Это соответствует размерам клеточных объединений, выявляемых по функциональным показателям синергичности возбудительных реакций на адекватное раздражение их рецептивных полей. Размеры зоны синаптических окончаний вторичного специфического афферентного волокна в корковых структурах (100–150 мкм) близки к пространственным характеристикам элементарного нейронного ансамбля. Примерно такие же размеры имеет и сфера терминальных разветвлений отдельного неспецифического волокна. Общая зона всех ветвей последнего образует сферу диаметром 600–700 мкм, что соответствует размерам зоны ветвления первичного специфического афферентного волокна. Схема активации нейронного ансамбля может быть представлена следующим образом. Сигналы, поступающие извне по первичным афферентам, активируют вначале обширную зону, вовлекая в процесс возбуждения группу нейронных ансамблей. Более дробная конфигурация нейронных группировок в зоне диаметром 100–150 мкм формируется под влиянием вторичных афферентных волокон, несущих сигналы внутрицентрального взаимодействия. Из множества нейронных ансамблей образуется центральная мозаика активности, определяющая постоянно меняющийся «узор» возбуждения и торможения в нервном центре. Таким образом, ансамблевая структура центральных проекционных зон анализатора в коре большого мозга представляется результатом работы двух физиологических механизмов: 1) мощной активации большой зоны центральных нейронов, связанных с терминалами афферентных волокон; 2) центральными нейронами, в функциональном отношении аналогичными клеткам Реншоу в спинном мозге, препятствующими широкому растеканию центрального возбуждения (путем формирования тормозной каемки вокруг возбужденных нервных клеток). Разнообразие «узоров» возбуждения и торможения в центральной мозаике нейронной активности формируется из элементарных микроочагов возбуждения, которые образуют фундамент иерархической конструкции клеточных систем мозга. Для ансамблевой концепции работы мозга принципиально предположение, что на каждом этапе переработки информации в качестве функциональной единицы выступает УДК 004.032.26(06) Нейронные сети 239 ISBN 978-5-7262-1376-7. НЕЙРОИНФОРМАТИКА – 2011. Часть 2 не отдельно взятая нервная клетка, а внутренне интегрированное клеточное объединение – нейронный ансамбль. Его основными характеристиками являются: а) локальный синергизм реакции нейронов центральной зоны; б) наличие тормозной окантовки, образованной клетками с тормозными реакциями на данное раздражение, окружающими центральную зону клеток с возбудительными реакциями; в) наличие определенного числа нейронов со стабильными ответами (обычно они расположены в центральной ядерной зоне ансамбля) при значительно большем числе клеток с вариабельными параметрами импульсного ответа на адекватное афферентное раздражение. Рассмотрим вероятностные динамические модели самоорганизации нейронных сетей (кратко – НС), приводящей к формированию нейронных ансамблей и комплексов. Данная работа является развитием исследований психофизиологической модели личности [3–5]. Самоорганизация и потенциал нейронных сетей Для анализа и моделирования самоорганизации нейронных сетей необходимо перейти к психонейрофизиологическим моделям, раскрывающим динамику внутренней вероятностной структуры центральной нервной системы (ЦНС) во взаимодействии с психикой личности [3]. Воспользуемся введенным в работе [4] понятием потенциала нейронной сети (кратко – нейропотенциала), количественно характеризующего существенные свойства внутренней вероятностной структуры НС. Нейропотенциал определяется эндогенными и экзогенными факторами, взаимодействие которых обеспечивает получение конечного результата – выхода (биотока) НС. К экзогенных факторам относятся входные воздействия (нервная энергия, получаемая от внешних нейронных сетей, случайные факторы, помехи), к эндогенным – значения нейропотенциала в предыдущих периодах. Поэтому потенциалы НС в разных периодах зависимы, причем переход от одного нейропотенциала к другому требует времени. Соответствующий переходный процесс описывает система рекуррентных вероятностных уравнений, связывающих величины нейропотенциалов с интенсивностями входных воздействий: qt 1 Cqt But t , q0 q0 . (1) 0 Здесь qt – одномерный (скалярный) нейропотенциал НС, q 0; ut – поток нервной энергии на входе НС (кратко – нейропоток); t – УДК 004.032.26(06) Нейронные сети 240 ISBN 978-5-7262-1376-7. НЕЙРОИНФОРМАТИКА – 2011. Часть 2 случайный фактор, t 0; В – коэффициент эффективности нейропотока в данной НС, В 0; С – коэффициент эффективности нейропотенциала данной НС, С 0; t – номер периода, t = 0,1,… . Содержательно, (1) означает, что текущие ресурсы нервной энергии НС определяются ее ресурсами в предшествующем периоде (с учетом их потери при С < 1 или прироста при С > 1), а также величиной вновь введенных ресурсов (с учетом эффективности их использования В) и случайными факторами. При этом выход (например, биоток) НС zt зависит от ее нейропотенциала и случайного фактора внешней среды: (2) zt Aqt t . t – случайный фактор, t 0; А – коэффициент преобразования нейропотенциала в выход zt , А 0. Выход zt характеризует нервную энергию нейронов (кратко – нейроэнергию), обеспечивающую нервное возбуждение, эмоции и, в конечном счете, полезность личности от функционирования данной НС. Поэтому модель (1)–(2) соответствует логике циклов «нейроэнергия-полезность-эмоциинейропотоки» в психонейрофизиологической модели личности. Предположим, что цель личности состоит в максимальном росте полезности (т.е. нейроэнергии) со временем. Эта задача решается за счет выбора оптимальной программы роста нейропотенциала НС путем самоорганизации, при которой вся полученная нейроэнергия yt направляется в саму НС: ut zt , t 0,1,... . Тогда уравнение (1) приобретает вид: Здесь qt 1 ( AB С )qt Вt t , q0 q0 . (3) При этом выход НС (2) и, следовательно, полезность личности максимальны. Если АВ+С 1, то нейропотенциал qt увеличивается в каждом периоде, и говорят о развитии НС. И наоборот, qt убывает при АВ+С 1, и говорят о деградации НС. Заметим, что при АВ+С 1 даже незначительные изменения начального нейропотенциала q0 или случайных факторов 0 , 0 приводят к существенным изменениям нейропотенциала qt при достаточно больших t. В связи с этим можно говорить о неустойчивости решений уравнения (3) в процессе эволюции НС. Пример – механизм самоорганизации личности, при котором УДК 004.032.26(06) Нейронные сети 241 ISBN 978-5-7262-1376-7. НЕЙРОИНФОРМАТИКА – 2011. Часть 2 нейроэнергия направляется в творчество, и все свободные нервные ресурсы направляются в соответствующую НС. Динамика нервного центра с двумя нейронными сетями Кооперативный способ работы нейронов может выражаться в самоорганизации нервного центра (НЦ), связанной с ростом нейропотенциала определенной НС, за счет использования ресурсов других НС. При этом часть полученной нейроэнергии направляется в расширение нервного базиса НС – совокупности нейронов и их сетей, обеспечивающих ее функционирование. Рассмотрим модель эволюции нейропотенциала НЦ, включающего две НС, отвечающие за разные области деятельности личности. В механизме самоорганизации НЦ направляет всю полученную нейроэнергию в эти НС. При этом происходит развитие НС и личности, ее многосторонний рост. Снабдим обозначения в (1), (2) для ί-й НС индексом ί, ί= 1,2 . Соответствующий переходный процесс опишем с помощью рекуррентных уравнений, связывающих нейропотенциалы НС с интенсивностями входных воздействий: qit 1 Ci qit Bi uit it , qi 0 qi0 . (4) Здесь qit – одномерный нейропотенциал i-й НС, qi0 0; uit – нейропоток в i-ю НС; it – случайный фактор, it 0; Bi 0, Ci 0, i 1, 2, t – номер периода, t = 0,1,… . Выход i-й НС zit зависит от ее нейропотенциала и внешней среды. Рассмотрим линейную модель выхода i-й НС на основе ее нейропотенциала: (5) zit Ai qit it , Ai 0, i 1, 2, t 0,1,... . Здесь zit – выход i-го НС; it – случайный фактор, it 0. Общая нейроэнергия (например, биоток) НЦ равен сумме нейроэнергий (биотоков) обеих НС: zt z1t z2t . При самоорганизации вся нейроэнергия НЦ в периоде t направляется в его НС: (6) zt u1t u2t . Предположим, что НЦ обеспечивает сознательную деятельность дальновидной личности (кратко – ДЛ) в определенной области. Число УДК 004.032.26(06) Нейронные сети 242 ISBN 978-5-7262-1376-7. НЕЙРОИНФОРМАТИКА – 2011. Часть 2 периодов, сознательно учитываемых ДЛ (и, соответственно, НЦ), назовем дальновидностью и обозначим через T. Нейроэнергия (биотоки) позволяет ДЛ получать ощущения, эмоции, придает жизни смысл. Поэтому ДЛ выбирает нейропотоки u1t , u2t так, чтобы максимизировать среднюю дисконтированную нейроэнергию ДЛ: V 2 T t zit i 1 t 0 Здесь , max. , uit ,i 1,2, t 0,T 1 (7) означает усреднение по всем реализациям случайных факторов it и it , i 1, 2, t 0, Т . Обозначим оптимальные нейропотоки, дающие решение задачи (6)-(7), через u1*t , u2*t , t 0, Т 1. Будем говорить, что НС 1 привлекательнее НС 2, если оптимальные нейропотоки в НС 2 равны нулю: u2*t 0, t 0, Т 1. Теорема 1. НС 1 привлекательнее НС 2, если и только если I1t I 2t , Iit Аi Вi [1 ( Сi )t ] / (1 Сi ), i 1, 2, t 1, T . (8) Доказательство теоремы 1 проводится методами, описанными в работе [6], и опущено из-за его громоздкости. Величина Iit характеризует привлекательность ί-й НС в периоде Т–t и зависит от параметров Ai,Bi,Ci. Рассмотрим пример их трактовки. Если qi – нейропотенциал ί-го НС, то параметр Сί – это коэффициент его прироста или потери. Параметр Вί характеризует эффективность нейропотоков, их влияние на нейропотенциал, и зависит от локальной и общесистемной поддержки нейропотоков со стороны ЦНС, в частности, выделяемых нейромедиаторов, питания для восстановления выбывающих нейронов и других факторов. Наиболее сложным по своей структуре может быть параметр – нейропотоки (6), то Ai . Например, если zi Ai [(1 di ) pi Зi ] (1 ri ) gi , где pί – полезность единицы выхода (биотока) ί-го НС; Зi – затраты нейроэнергии на получение единицы выхода; di – норматив потерь с единицы выхода; rί – норматив оттока нейроэнергии в ЦНС; gi – нейроотдача, как количество единиц выхода на единицу нейроэнергии, i 1, 2. Теорема 1 позволяет сравнивать привлекательность НС для оценки перспектив эволюции ДЛ. Нейропотенциалы малопривлекательных НС перетекают к более привлекательным. Таким образом, теорема 1 дает УДК 004.032.26(06) Нейронные сети 243 ISBN 978-5-7262-1376-7. НЕЙРОИНФОРМАТИКА – 2011. Часть 2 необходимые и достаточные условия эволюции нейронного комплекса, включающего две сети, одна из которых развивается, а другая – деградирует. Самоорганизации НС способствуют нейромедиаторы, повышающие проводимость нейронных сетей и облегчающие миграцию нейропотоков, а также переток нейропотенциалов. Проходящая под их влиянием самоорганизация приводит к возникновению и росту НС, аккумулирующих нейроэнергию ЦНС. Например, освобождение ЦНС от жесткого сознательного контроля приводит к формированию психонейрофизиологической модели личности, занимающегося любимым делом. Положительная обратная связь в цикле «нейроэнергия-полезность-эмоциинейропотоки» может приводить к формированию положительных эмоций и закреплению соответствующих навыков. Если любимое дело становится работой, то личность превращается в талантливого профессионала. Самоорганизация нейронных сетей головного мозга может осуществляться как рационально, на сознательном уровне, так и подсознательно. Благоприятные условия для сознательной самоорганизации нейронных сетей создает самовоспитание и самовнушение ДЛ, обеспечивающее самостоятельное ее развитие. В работах [4, 5] рассматриваются методы эндогенного развития ДЛ, основанные на использовании ее потенциала. Например, как было показано в работе [5], решение задачи максимизации текущих и дисконтированных будущих ощущений, подобной задаче (7), может быть связано с регулярной сменой обстановки. Поэтому жизненный цикл НС может включать стадии развития, стабильности и деградации в связи с очередной сменой обстановки, направленной на наполнение жизни смыслом. Если возбуждение определенной НС не способствует выработке нейромедиаторов, увеличивающих проводимость нейронных сетей, то ее нейроэнергия уходит в другие НС. Интеграция и координация нервных центров Элементарные нейронные ансамбли – функциональные единицы рабочих механизмов мозга, играющие роль блоков, из которых формируются более сложные его конструкции [1, 2]. Наблюдающаяся структурная и функциональная избыточность ансамблевой (модульной) структуры центральных нервных образований ассоциируется с информационной избыточностью сенсорных посылок, распространяющихся по нейронным системам мозга. Избыточность УДК 004.032.26(06) Нейронные сети 244 ISBN 978-5-7262-1376-7. НЕЙРОИНФОРМАТИКА – 2011. Часть 2 нейронных элементов и межнейронных связей в ансамбле – характерная черта структурно-функциональной организации центральных нервных образований – приводит к многофункциональности, обеспечивающей высокие компенсаторные способности нервных механизмов. Когда индивидуальное участие нейрона в определенной реакции становится не обязательным, а вероятностным, возможна относительная взаимозаменяемость элементов, повышаются надежность нервного механизма управления и связи в организме. Подвижная динамическая структура нейронных ансамблей, формируемая вероятностным участием в них отдельных нервных клеток, обусловливает большую гибкость и легкость перестроек межнейронных связей. Эти перестройки объясняют высокую адаптивность, характерную для нервных механизмов высших отделов мозга. Вероятностные нейронные ансамбли образуются структурно-функциональными блоками нервных клеток, воспринимающих и перерабатывающих идентичную афферентную информацию. Эти ансамбли составляют основу функциональной мозаики процессов центрального возбуждения и торможения. Мозаика вероятностных нейронных ансамблей на всех уровнях конструкции нервного контура управления, обеспечивающего целенаправленное поведение личности, образует нейрофункциональную систему мозга. Рассмотрим взаимодействие в ее рамках нервных центров. Для простоты предположим, что наряду с первичным НЦ, рассмотренным выше, существует другой (вторичный) НЦ. Последний снабжает НС первичного НЦ нейроэнергией, составляющей определенную долю нейропотенциала qi0 , i 1, 2. При этом вторичный НЦ получает определенную долю нервной энергии первичного НЦ. В свою очередь, вторичный НЦ возвращает полученную нервную энергию в НС первичного НЦ и т.д. Возникает циркуляция нервной энергии. При этом уравнения для описания динамики нейропотенциала НС вторичного НЦ имеет тот же вид, что и для НС первичного НЦ. Естественно предположить, что центр высшей нервной деятельности дальновидной личности максимизирует, путем формирования соответствующих нейропотоков, целевую функцию, связанную со вторичным НЦ, которая имеет вид, подобный (7). Тогда справедливо Следствие 1. Нервные ресурсы, направляемые из вторичного НЦ в первичный, попадают в НС 1, если и только если она привлекательнее НС 2, т.е. выполняются условия теоремы 1. Следствие 1 означает, что направление нейропотоков первичного и вторичного НЦ совпадают. По теореме 1, эти нейропотоки направлены к УДК 004.032.26(06) Нейронные сети 245 ISBN 978-5-7262-1376-7. НЕЙРОИНФОРМАТИКА – 2011. Часть 2 НС с большей привлекательностью, и формируют на ее основе нейронный ансамбль (кратко – НА). При этом НС использует нейропотоки как первичного, так и вторичных НЦ. Условием формирования этих потоков является гибкость ЦНС, возможность передавать нервные ресурсы – энергию НЦ – с помощью нейронных сетей. Известно, например, что НЦ, ответственные за творчество и половое влечение, находятся вблизи друг от друга, в лобной доле ЦНС, и обмениваются нервной энергией. Если в рассматриваемой модели первичный НЦ ответственен за творчество, а вторичный – за половое влечение, то получаем известный эффект сублимации сексуальной энергии в творческую. В противном случае сексуальность подавляет творчество. Особый интерес представляет случай, когда творчество тесно связано с половым влечением, и наоборот. Тогда возникает положительная обратная связь, резко усиливающая активность личности в обеих областях. Формирование НА, имеющего доступ к практически неограниченным нервным ресурсам ЦНС, приводит к росту эффективности высшей нервной деятельности, которая проявляется в развитии способностей и профессионализма ДЛ. Таким образом, гибкость ЦНС в распределении нейропотоков через динамичные нейросети приводит к возможности раскрытия таланта личности. Для этого, однако, личность должна иметь осознанную свободу выбора области деятельности. Нейропотоки определяют миграцию нервной энергии в ЦНС. Вторичный НЦ вносит определенный вклад в НС первичного НЦ. Теорема 1 и следствие 1 определяют условия формирования НА на основе НС, управляющей наиболее привлекательной для ДЛ деятельностью, приводящей к выделению нейромедиаторов и повышению проводимости нервных путей. В каждом периоде происходит приток или отток нейропотоков от любого НС. Суммируя их, можно определить миграцию нейропотоков в совокупности (ансамбле) НС, составляющих ЦНС. В стационарном состоянии такое «броуновское движение» нейропотоков дает нулевой поток в каждом сечении. В нестационарном же состоянии есть постоянный отток (или приток) нейропотоков в те или иные НС. Заметим, что анализ миграции нейропотоков через измерение агрегированных параметров потока от вторичных НЦ к первичному НЦ проще, чем наблюдение за нейропотоками в первичном НЦ. Формирование НА в ЦНС приводит к неустойчивости, поскольку нервная энергия перераспределяется в пользу лишь некоторых НС, а остальные деградируют. Поэтому концентрация нейропотоков в УДК 004.032.26(06) Нейронные сети 246 ISBN 978-5-7262-1376-7. НЕЙРОИНФОРМАТИКА – 2011. Часть 2 небольшом числе НА приводит к неустойчивости ЦНС и личности. Это объясняет, почему особо одаренные, творческие люди часто неуравновешенны. Ведь эволюции на основе самоорганизации НЦ и центров НС присуща неустойчивость, связанная с тяготением к спонтанно возникающим НА. Уместно поэтому говорить о законе тяготения нейропотоков. Возникновение новых НА направлено на эффективное использование личностью изменений обстановки для наполнения жизни ощущениями, смыслом. Параметры Аi, Вi, Сi имеют смысл темпов прироста параметров i–го НС в единицу времени. Однако в рассматриваемой задаче сама единица времени относительна и равна периоду, необходимому для реализации психонейрофизиологического цикла «нейроэнергия-полезность-эмоциинейропотоки». В разных НЦ длительность этих периодов различна. Если перейти к единому времени для НЦ с разным периодом обращения нейропотоков, то параметры Ai , Bi , Ci , как темпы прироста, при прочих равных условиях, будут выше в тех НЦ, где длительность этого цикла меньше. Поэтому из теоремы 1 вытекает Следствие 2. Чем короче период цикла нейропотоков в НС, тем выше ее привлекательность. Иными словами, за счет сокращения длительности психонейрофизиологического цикла, НС может превратиться в НА. Например, средняя скорость оборота нейропотоков с использованием наркотиков – высочайшая, алкоголя – высокая, в доходной торговле – средняя, в производительном труде – низкая, а в сфере научного поиска – малая. Поэтому эмоциональная привлекательность научной деятельности, вообще говоря, ниже, чем алкоголя и наркотиков. Иными словами, легче и быстрее получить положительные эмоции, приняв наркотики или алкоголь, чем добиваясь успехов в труде. Следовательно, общество и государство должны поддерживать привлекательность созидательного труда в промышленности и науке. Выводы Разработаны вероятностные динамические модели самоорганизации нейронных сетей, приводящей к формированию нейронных ансамблей. В качестве базового элемента структуры центральной нервной системы рассматриваются нейронные сети и их комплекс – нервный центр. Введено понятие привлекательности нейронной сети, способствующей ее развитию за счет нервной энергии других нейронных сетей. Найдены необходимые и достаточные условия эволюции комплекса из двух УДК 004.032.26(06) Нейронные сети 247 ISBN 978-5-7262-1376-7. НЕЙРОИНФОРМАТИКА – 2011. Часть 2 нейронных сетей, одна из которых развивается, а другая – деградирует. Рассматриваются принципы их интеграции и координации в центральной нервной системе. Показано, что нервная энергия нейронных комплексов направляется в наиболее привлекательную нейронную сеть, формируя на ее основе нейронный ансамбль. При этом чем короче период цикла нейропотоков в нейронной сети, тем выше ее привлекательность. Список литературы 1. Коган А.Б., Чораян О.Г. Вероятностные механизмы нервной деятельности. – Ростов-на-Дону: Изд-во Ростовск. ун-та, 1980. 2. Чораян О.Г. Кибернетика центральной нервной системы. – Ростовна-Дону: Изд-во Ростовск. ун-та, 1995. 3. Цыганов В.В. Психофизиологические механизмы дальновидной личности // Теория активных систем. XI межд. конф. Сб. научных трудов. – М.: ИПУ РАН, 2009. С .164–167. 4. Цыганов В.В. Самоорганизация интеллектуальных систем // Информационные технологии в науке, социологии, экономике и бизнесе. Межд. конф. Сб. научных трудов. – Гурзуф. 2009. С. 21–24. 5. Цыганов В.В. Управление эволюцией сложных иерархических систем // Информационные технологии в науке, образовании, телекоммуникации и бизнесе. XXXVI межд. конф. Сб. научных трудов. – Гурзуф. 2009. С. 21–23. 6. Цыганов В.В., Бородин В.А., Шишкин Г.Б. Интеллектуальное предприятие. – М.: Университетская книга, 2004. УДК 004.032.26(06) Нейронные сети 248
