1. В чем заключается предмет исследования нейрокибернетики
advertisement
1. В чем заключается предмет исследования нейрокибернетики? Основная идея нейрокибернетики заключается в том, что единственный объект, способный мыслить, – это человеческий мозг. Поэтому любое “мыслящее” устройство должно каким-то образом воспроизводить его структуру. Нейрокибернетика ориентирована на программно-аппаратное моделирование структур, подобных структуре мозга. Как известно из физиологии, человеческий мозг содержит до 2х в 11 ступени взаимодействующих между собой нервных клеток – нейронов. В рамках нейрокибернетики создавались нейроноподобные элементы, которые объединялись в функционирующие системы, называемые нейронными сетями. 2. Охарактеризуйте принцип, положенный в основу кибернетики «черного ящика». В основу кибернетики «черного ящика» был положен принцип, суть которого заключается в том, что не имеет значения, как построено “мыслящее” устройство. Требуется, чтобы на заданные входные воздействия оно реагировало так же, как и человеческий мозг. Это направление ИИ было ориентировано на поиски алгоритмов решения интеллектуальных задач на существующих моделях компьютеров. В 1963– 1970-х годах решение задач стало основываться на методах математической логики. Робинсоном был предложен метод резолюций, на основе которого автоматически доказывались теоремы при наличии набора исходных аксиом. В это же время русский ученый Ю.С. Маслов предложил метод обратного вывода, решающий ту же задачу другим способом. На основе метода резолюций француз Албер Кольмероэ в 1973 г. создал язык логического программирования Пролог. 3. Опишите процесс мышления, протекающий в человеческом сознании. Процесс мышления, протекающий в человеческом сознании, чрезвычайно сложен. Одна ячейка человеческого глаза способна выполнять за 10 мс обработку, эквивалентную решению системы из 500 нелинейных дифференциальных уравнений. Компьютеру Cray1 потребовалось бы несколько минут для решения этих уравнений. Поскольку глаз человека насчитывает не менее 10 в 7 степени ячеек и каждая из них взаимодействует с другими, то компьютеру Cray-1 необходимо затратить по меньшей мере 100 лет, чтобы воспроизвести процессы, происходящие ежесекундно в человеческом глазу. Данные из внешнего мира воспринимаются человеком с помощью одного из пяти органов чувств и затем помещаются в буфер кратковременной памяти для анализа. В другой области памяти (долговременной) хранятся символы и смысловые связи между ними, которые используются для объяснения новой информации, поступающей из кратковременной памяти. В долговременной памяти хранятся не столько факты и данные, сколько объекты и связи между ними, т.е. символьные образы. Большие объемы данных постоянно записываются в кратковременную память, и мы непрерывно анализируем и фильтруем получаемую информацию для того, чтобы определить степень ее важности и то, как она соотносится с образами, хранящимися в долговременной памяти (рис. 1.1). Учеными установлено местоположение всех областей памяти в человеческом мозге. Логично предположить, что имеющиеся в мозге области памяти объединяются в единую структуру, в которой и происходит обработка поступающей информации. Доступ к информации в долговременной памяти осуществляется достаточно эффективно. Практически любой элемент данных может быть извлечен в течение цикла обработки продолжительностью не более 70 мс и затем преобразован. Например, мы инстинктивно отдергиваем руку от горячей печки или резко поворачиваем руль автомобиля при возникновении препятствия на дороге, используя образы, ранее запомненные в долговременной памяти. Механизм запоминания информации в долговременной памяти представляет собой самостоятельную и обширную тему для исследований. Требуется приблизительно 7 секунд для записи одного образа в долговременную память и установления всех связей, необходимых для извлечения этого образа в будущем. Перемещение данных из кратковременной памяти в долговременную память занимает приблизительно 15–20 минут. Если человек в автокатастрофе получил мозговую травму, то долговременная память может восстановиться почти полностью. Однако вся информация, поступившая в течение 15–20 минут до катастрофы, будет потеряна и никогда не восстановится [4]. Можно провести аналогию между кратковременной памятью человека и оперативной памятью ЭВМ, для которой отключение электропитания означает полное уничтожение всех данных. Долговременная память человека похожа на дисковую память ЭВМ. В долговременной памяти образы существуют в виде циркулирующих электрохимических импульсов и физических нейронных взаимодействий. Человек часто полностью выздоравливает после повреждения мозга и уничтожения нейронов в автокатастрофе, если у него не разрушены речевые центры или нейроны, управляющие двигательной системой. Нейроны других типов, даже если они частично повреждаются при травме, могут сохранять работоспособность благодаря зафиксированной ранее информации. 4. Охарактеризуйте понятие чанков. Человеческая память хранит не числовые данные, а образы или символы. В памяти существует система указателей, позволяющая нам быстро извлечь любой нужный символ и все данные, которые с ним связаны. Мозг человека организован более совершенно, чем компьютерные базы данных, так как символьные образы в нем объединены в чанки – наборы фактов и связей между ними, запомненные и извлекаемые как единое целое. Чанки хранятся совместно с взаимосвязями между ними. В каждый момент времени человек может обрабатывать и интерпретировать не более четырех-семи чанков. 5. Дайте определение формализованных и неформализованных знаний. Формализованные знания формулируются в виде общих и строгих суждений (законов, формул, моделей и алгоритмов), отражающих универсальные знания. Неформализованные знания отличаются конкретностью, субъективностью и приблизительностью. Обычно они являются результатом обобщения многолетнего опыта работы и интуиции специалистов и представляют собой многообразие эмпирических приемов и правил. В зависимости от того, какие знания преобладают в той или иной предметной области, ее относят к формализованной (если преобладают точные знания) или к неформализованной (если преобладают неточные знания) предметной области. Задачи, решаемые на основе точных знаний, называют формализованными, а задачи, решаемые с помощью неточных знаний, – неформализованными. Традиционное программирование в качестве основы для разработки программ использует алгоритм, то есть формализованное знание. Поэтому до недавнего времени считалось, что ЭВМ не приспособлены для решения неформализованных задач. Расширение сферы использования ЭВМ показало, что неформализованные задачи составляют очень важный класс задач, по-видимому, значительно больший, чем класс формализованных задач. Неумение решать неформализованные задачи сдерживает внедрение ЭВМ в описательные науки. Поэтому исследования в области ЭС имеют большое значение и занимают важное место в информатике. К неформализованным задачам относятся те, которые обладают одной или несколькими из следующих особенностей [5]: · алгоритмическое решение задачи неизвестно (хотя, возможно, и существует) или не может быть использовано из-за ограниченности ресурсов ЭВМ (времени, памяти); · задача не может быть представлена в числовой форме (требуется символьное представление); · цели задачи не могут быть выражены в терминах точно определенной целевой функции. Как правило, неформализованные задачи обладают неполнотой, ошибочностью, неоднозначностью и (или) противоречивостью знаний (как данных, так и используемых правил преобразования). 6. В чем заключается идея «мозгового штурма» при извлечении знаний? “Мозговой штурм” является одним из наиболее распространенных методов активизации творческого мышления. Установлено, что критика мешает творческому мышлению, поэтому основная идея штурма – это отделение процедуры генерирования идей в замкнутой группе специалистов от процесса анализа и оценки высказанных идей. Как правило, процесс штурма длится около 40 минут. Участникам (до 10 человек) предлагается высказывать любые идеи на заданную тему, при этом критика запрещена. Обычно высказывается более 50 идей. Регламент составляет до 2 минут на выступление. Самым интересным моментом штурма является достижение максимума числа гипотез, непроизвольно генерируемых участниками. При дальнейшем анализе всего лишь 10–15 % идей оказываются разумными и среди них встречаются оригинальные. Оценивает результаты обычно группа экспертов, не участвовавших в генерации гипотез. Ведущий мозгового штурма (инженер по знаниям) должен свободно владеть аудиторией, не зажимать плохие идеи, так как они могут быть катализаторами хороших идей. Основной девиз штурма – “чем больше идей, тем лучше”. Ход сеанса протоколируется или записывается на магнитофон. 7. Охарактеризуйте понятия микроконтекста и макроконтекста. Сложность интерпретации научных и специальных текстов заключается еще и в том, что любой текст приобретает смысл только в контексте, где под контекстом понимается окружение, в которое “погружен” текст. Различают микроконтекст и макроконтекст. Микроконтекст – это ближайшее окружение текста. Так, предложение получает смысл в контексте абзаца, абзац – в контексте главы и т.д. Макроконтекст – это вся система знаний, связанная с предметной областью (т.е. знания об особенностях и свойствах, явно не указанных в тексте). 8. В чем заключаются основные моменты пониманию текста? Основными моментами процесса понимания текста являются: · выдвижение предварительной гипотезы о смысле всего текста; · определение значений непонятных слов (т.е. специальной терминологии); · возникновение общей гипотезы о содержании текста; · уточнение значения терминов и интерпретация отдельных фрагментов текста под влиянием общей гипотезы (от целого к частям); · формирование смысловой структуры текста за счет установления внутренних связей между отдельными ключевыми словами и фрагментами, а также за счет образования абстрактных понятий, обобщающих конкретные фрагменты знаний; · корректировка общей гипотезы относительно содержащихся в тексте фрагментов знаний (от частей к целому); · принятие основной гипотезы. При этом существенным является наличие как дедуктивной (от целого к частям), так и индуктивной (от частей к целому) составляющей процесса понимания. Благодаря этому удается при понимании текста учесть основные признаки текста: связность, цельность и законченность. Центральным моментом процесса понимания является выделение “опорных”, ключевых слов или “смысловых вех” в тексте, и дальнейшее их связывание в единую семантическую структуру. 9. Охарактеризуйте понятия смысловой группы, смысловой вехи и ключевого слова в процедуре разбивки текста на части. Следует подчеркнуть, что процедура разбивки текста на части(“смысловые группы”), а затем сгущение, сжатие содержимого каждого смыслового блока в “смысловую веху” является основой для любого процесса понимания. Представление текста в виде набора ключевых слов, передающих основное содержание текста, является методологической основой для проведения текстологических процедур извлечения знаний. В качестве ключевого слова может служить любая часть речи (существительное, глагол, прилагательное и т. д.) или их сочетание. Набор ключевых слов – это набор опорных точек, по которым развертывается текст при кодировании в память и осознается при декодировании. 10. Приведите определение нейронной сети. Искусственные нейронные сети (НС) — совокупность моделей биологических нейронных сетей. Представляют собой сеть элементов — искусственных нейронов — связанных между собой синаптическими соединениями. Сеть обрабатывает входную информацию и в процессе изменения своего состояния во времени формирует совокупность выходных сигналов. Работа сети состоит в преобразовании входных сигналов во времени, в результате чего меняется внутреннее состояние сети и формируются выходные воздействия. Обычно НС оперирует цифровыми, а не символьными величинами. 11. Охарактеризуйте преимущества нейронных сетей. Использование ИНС обладает следующими преимуществами: Возможность решения трудноформализуемых задач, для которых трудно найти точный алгоритм решения (распознавание речи, рукописного текста). Отметим, что успешность применения ИНС существенно зависит от постановки задачи и исходных данных. - Массовый параллелизм в обработке информации. Данное преимущество позволяет реализовать нейросетевые алгоритмы и методы на параллельных вычислительных структурах, что особенно актуально в настоящее время в связи с распространением распределенных вычислений и массовым внедрением многоядерных центральных и графических процессоров для ПК, а также в связи с унификацией разнородных вычислений (научных, физических, графических и др.) на персональных компьютерах. - ИНС представляют единую концепцию для решения разнообразных задач, таких как задачи классификации, аппроксимации, моделирования, распознавания образов, принятия решений, обработки информации, кластеризации и др. - Возможность нестандартного решения известных задач, что расширяет и обогащает арсенал существующих средств и подходов, поскольку позволяет посмотреть на проблему и ее решение под «нестандартным» углом. 12. Приведите блочную диаграмму для нервной системы. 13. Опишите понятия эффекторов, рецепторов и синапсов. Нервную систему человека можно рассматривать как трехступенчатую. Центром этой системы является мозг, представленный сетью нейронов(нервов). Он получает информацию, анализирует ее и выдает соответствующие решения. Рецепторы преобразовывают сигналы от тела и из окружающей среды в электрические импульсы, передаваемые в нейронную сеть(мозг). Эффекторы преобразовывают электрические импульсы, сгенерированные нейронной сетью, в выходные сигналы. Синапсы – это элементарные структурные и функциональные единицы, которые передают импульсы между нейронами. Самым распространенным типом являются химические синапсы, которые работают следующим образом: предсинаптический процесс формирует передаваемую субстанцию, которая методом диффузии передается по синаптическим соединениям между нейронами и влияет на постсинаптический процесс. Синапс преобразовывает предсинаптический электрический сигнал в химический, а после этого в постсинапитческий – химический. В традиционных описаниях нейронной организации синапс представляют простым соединением, которое может передавать возбуждение или торможение(но не и то и другое одновременно) между нейронами. 14. Приведите схему структурной организации уровней мозга. В человеческом мозге существуют крупно- и мелкомасштабные анатомические структуры. Эти верхний и нижний уровни отвечают на выполнение разных функций. Синапсы представляют собой самый нижний уровень – уровень молекул и ионов. На следующих уровня мы имеем дело с нейронными микроконтурами, дендритными деревьями и в завершении – с нейронами. Под нейронными микроконтурами понимается набор синапсов, организованный в шаблоны взаимосвязей, выполняющих определенную операцию. Нейронный микроконтур можно сравнить с электронным чипом, состоящим из набора транзисторов. Минимальный размер микроконтуров измеряется в микронах, а скорость операций – миллисекундах. Нейронные микроконтуры группируются в дендритные субблоки, составляющие дендритные деревья отдельных нейронов. Весь нейрон имеет размеры порядка 100 микрон и содержит несколько дендритных субблоков. На следующем уровне сложности находятся локальные цепочки, состоящие из нейронов с одинаковыми или сходными характеристиками. Эти наборы нейронов выполняют функции, характерные для отдельных областей мозга. За ними в иерархии следуют межрегиональные цепочки, состоящие из траекторий, столбцов и топографических карт и объединяющие несколько областей, находящихся в разных частях мозга. 15. Опишите модели нейронов. Основной структурной и функциональной частью нейронной сети является формальный нейрон, представленный на рис. 6.1, где n x x x ,..., ,1 0 – компоненты вектора входных сигналов, n w w w ,..., , 1 0 – значения весов входных сигналов нейрона, а y – выходной сигнал нейрона. Формальный нейрон состоит из элементов 3 типов: умножителей (синапсов), сумматора и преобразователя. Синапс характеризует силу (вес) связи между двумя нейронами. Сумматор выполняет сложение входных сигналов, предварительно помноженных на соответствующие веса. Преобразователь реализует функцию одного аргумента – выхода сумматора. Эта функция называется функцией активации или передаточной функцией нейрона. Исходя из данного описания, математическая модель нейрона может быть представлена следующим образом : 16. Охарактеризуйте виды функций активации. 17. Охарактеризуйте представление нейронных сетей в виде направленных графов. 18. Охарактеризуйте однослойные/многослойные нейронные сети прямого распространения и рекуррентные сети. По структуре межнейронных связей различают два класса ИНС: 1. ИНС прямого распространения (feed-forward ANNs), в которых сигнал распространяется только от входных нейронов к выходным. Орграф, соответствующий таким ИНС, не имеет циклов и петель. Примером ИНС прямого распространения является ИНС на рис. 6.3 и 6.4а. 2. Рекуррентные ИНС (recurrent ANNs) – ИНС с обратными связями. В таких ИНС сигналы могут передаваться между любыми нейронами, вне зависимости от их расположения в ИНС. Орграф, соответствующий структуре рекуррентных ИНС, может иметь петли и циклы (рис. 6.4б). Среди различных структур ИНС наиболее известны многослойные ИНС (multi-layered ANNs) (рис. 6.5). Рассмотрим такие ИНС более подробно. В многослойных сетях нейроны объединяются в слои таким образом, что нейроны одного слоя имеют одинаковые входные сигналы. Число нейронов в слое может быть произвольным и зависит в большей степени от решаемой задачи, чем от количества нейронов в других слоях. Внешние (входные) сигналы подаются на нейроны входного слоя (его часто нумеруют как нулевой), а выходами сети являются выходные сигналы нейронов последнего слоя. Кроме входного и выходного слоев в многослойной нейронной сети может быть один или несколько скрытых слоев. Выходные сигналы нейронов слоя (q) являются входными сигналами следующего слоя (q+1). Одной из основных характеристик многослойных нейронных сетей является число слоев. В дальнейшем для описания структуры многослойных ИНС будем использовать количество присутствующих в ней скрытых слоев. По структуре многослойные ИНС могут представлять как ИНС прямого распространения (рис. 6.4а и 6.5), так и рекуррентные (рис. 6.4б). Отметим также, что возможны многослойные сети, в которых существуют прямые связи между нейронами из несмежных слоев. Такие связи называют перекрестными. 19. Приведите определение понятия «знания». Под знаниями понимается хранимая информация или модели, используемые человеком или машиной для интерпретации, предсказания и реакции на внешние события. Знания о мире включают два типа информации: Известное состояние окружающего мира, представленное имеющимся в наличии достоверными фактами. Такая информация называется априорной. Наблюдения за окружающим миром(измерения), полученные спомощью сенсоров, адаптированных для конкретных условий в которых должна функционировать данная нейронная система. Обычно такие измерения в значительной мере зашумлены, что потенциально может стать источником ошибок. В любом случае измерения, полученные таким способом, формируют множество информации, примеры из которого используются для обучения нейронной сети. 20. Охарактеризуйте 4 правила представления знаний в нейронной сети. 21. Каким образом можно встроить априорную информацию в нейронную сеть? 22. Каким образом можно встроить инварианты в структуру нейронной сети? 23. Охарактеризуйте три ключевые функции систем искусственного интеллекта. Системы искусственного интеллекта реализуют три ключевые функции: представление, рассуждения и обучение. Представление. Одной из отличительных черт систем ИИ является использование символьного языка для представления общих знаний о предметной области и конкретных знаний о способах решения задач. Символы обычно формулируются в уже известных терминах. Это делает символьное представление относительно простым и понятным человеку. Понятность символьных систем ИИ делает их пригодным для человекомашинного общения. Термин «знания», используемый создателями ИИ, является всего лишь одним названием данных. Знания могут иметь процедурный и декларативный характер. В декларативном представлении знания – это статический набор фактов. Характерной особенностью является то, что в глазах человека оно имеет смысл само по себе, независимо от использования в системах ИИ. В процедурном представлении знания внедрены в процедуры, функционирующие независимо от смысла самих знаний. Рассуждения. Под рассуждением обычно понимается способность решать задачи. Для того чтобы систему можно было назвать разумной, одна должна удовлетворять трем условиям: описывать и решать широкий спектр задач; понимать явную и неявную информацию; иметь механизм управления, определяющий операции, выполняемый для решения отдельных задач. Решение задач можно рассматривать как некоторую задачу поиска. В процессе поиска используются правила, данные и управляющие воздействия. Правила действуют на области данных, а управляющие воздействия определяются для правил. Во многих практических задачах доступный набор знаний является неполным или неточным. В таких ситуациях используются вероятностные рассуждения, позволяющие системам ИИ работать в условиях неопределенности. Обучение. В простейшей модели машинного обучения информацию для обучаемого элемента предоставляет сама среда. Обучаемый элемент использует полученную информацию для модернизации базы знаний, знания из которой функциональный элемент затем использует для выполнения поставленной задачи. Информация, поступающая из внешней среды, является несовершенной, поэтому обучаемый элемент заранее не знает, как заполнить пробелы или игнорировать несущественные детали. Машина действует наугад, после чего получает сигнал обратной связи от функционального элемента. Механизм обратной связи позволяет системе проверять рабочие гипотезы и пересматривать их по мере необходимости. 24. Приведите определение процесса обучения. Обучение – это процесс, в котором свободные параметры нейронной сети настраиваются посредством моделирования среды, в которую эта сеть встроена. Тип обучения определяется способом подстройки этих параметров. Это определение процесса обучения предполагает последовательность событий: 1. В нейронную сеть поступают стимулы из внешней среды. 2. В результате этого изменяются свободные параметры нейронной сети. 3. После изменения внутренней структуры нейронная сеть отвечает на возбуждения уже иным образом. 25. Охарактеризуйте обучение на основе коррекции ошибок. Корректировка, применяемая к синаптическому весу нейрона, пропорциональна произведению сигнала ошибки на входной сигнал, его вызвавший. 26. Охарактеризуйте обучение на основе памяти. При обучении на основе памяти весь прошлый опыт накапливается в большом хранилище правильно классифицированных примеров вида вход – выход(входной сигнал и соответствующий ему желаемый выходной сигнал). Не ограничиваясь общности, можно предположить, что выходной сигнал является скаляром. Если требуется классифицировать некоторый неизвестный вектор, то из базы данных выбирается выход, соответствующий выходному сигналу, близкому к неизвестному вектору. Все алгоритмы обучения на основе памяти включают в себя две существенные составляющие: 1. Критерий, используемый для определения окрестности входящего вектора сигнала. 2. Правило обучения, применяемое к примеру из окрестности тестового вектора. 27. Сформулируйте правило Хебба. Если два нейрона по обе стороны синапса активизируются одновременно, то прочность этого соединения возрастает. Если два соединения по обе стороны синапса активизируются асинхронно, то такой синапс ослабляется или вообще отмирает. 28. Опишите математические модели механизма модификации синаптической связи: гипотезу Хебба и гипотезу ковариации. 29. Охарактеризуйте конкурентное обучение. Выходные нейроны нейронной сети конкурируют между собой за право быть активизированными. Если в нейронной сети, основанной на обучении Хебба, одновременно в возбужденном состоянии может находиться несколько нейронов, то в конкретной сети в каждый момент времени может быть активным только один нейрон. Конкурентное обучение основано на трех основных элементах: 1. Множество одинаковых нейронов со случайно распределенными синаптическими весами, приводящими к различной реакции нейронов на один и тот же входной сигнал. 2. Предельное значение «силы» каждого нейрона. 3. Механизм, позволяющий нейронам конкурировать за право отклика на данное подмножество входных сигналов и определяющий единственный активный выходной нейрон. Принцип конкурентного обучения формулируется в виде лозунга «победитель получает все!». Таким образом, каждый отдельный нейрон сети соответствует группе близких образов. При этом нейроны становятся детекторами признаков различных классов входных образов. 30. Охарактеризуйте обучение Больцмана. 31. Опишите концепцию присваивания коэффициентов доверия. 32. Охарактеризуйте обучение с учителем. Обучение с учителем (supervised learning) подразумевает использование заранее сформированного множества обучающих примеров. Каждый пример содержит вектор входных сигналов и соответствующий вектор эталонных выходных сигналов, которые зависят от поставленной задачи. Данное множество называют обучающей выборкой или обучающим множеством. Обучение нейронной сети направлено на такое изменение весов связей ИНС, при котором значение выходных сигналов ИНС как можно меньше отличаются от требуемых значений выходных сигналов для данного вектора входных сигналов. 33. Охарактеризуйте обучение с подкреплением. 34. Охарактеризуйте обучение без учителя.
