Биологические нейроны -
advertisement
«Нейрокомпьютерные системы» Тема: «Формальные нейроны» Сидоров С.Г., кафедра ВВС ИГЭУ, 2012 Виды нейронов • Биологические нейроны – структурнофункциональные элементы нервной системы живых существ (человека, животных) • Искусственные нейроны – узлы искусственных нейронных сетей, являются упрощённой моделью биологических нейронов. Биологический нейрон Биологический нейрон • Аксон – длинный отросток, приспособленный для проведения возбуждения от нейрона к исполнительному органу. • Дендриты – короткие и сильно разветвлённые отростки, служащие главным местом образования влияющих на нейрон возбуждающих и тормозных синапсов. • Синапс – место контакта между двумя нейронами. Служит для передачи нервного импульса между двумя клетками. Биологический нейрон • Нейрон может иметь несколько дендритов и обычно только один аксон. • Один нейрон может иметь связи со многими (до 20-и тысяч) другими нейронами. • В ходе синаптической передачи амплитуда и частота сигнала могут регулироваться. – синапсы вызывающие деполяризацию нейрона называют возбуждающими – синапсы вызывающие гиперполяризацию называют тормозными • Обычно для возбуждения нейрона необходимо раздражение от нескольких возбуждающих синапсов. Биологический нейрон Искусственный нейрон Искусственный нейрон 1. Нейроны, выходные сигналы которых поступают на вход данному 2. Сумматор входных сигналов 3. Вычислитель передаточной функции 4. Нейроны, на входы которых подаётся выходной сигнал данного 5. wi - веса входных сигналов Искусственный нейрон • • • • • Математическая модель искусственного нейрона была предложена У. Маккалоком и У. Питтсом Сеть на таких элементах может выполнять числовые и логические операции Первоначально нейрон мог оперировать только с сигналами логического нуля и логической единицы Для расширения области применения нейронов необходимо, чтобы они работали и с непрерывными (аналоговыми) сигналами. Уидроу и Хофф предложили в качестве функции срабатывания нейрона использовать логистическую кривую Математическая модель y f (u) n u wi xi w0 x0 i 1 Математическая модель • • • • • • xi – сигналы на входах нейрона wi – веса входов x0 – сигнал смещения, обычно равен 1 w0 – вес входа смещения u – индуцированное локальное поле f(u) – передаточная функция Пороговая передаточная функция Пороговая передаточная функция 0, при x 0 f ( x) 1 , при x 0 Линейная передаточная функция Линейная передаточная функция 0, при x 0 f ( x) 1, при x 1 x, при 0 x 1 Сигмоидальная передаточная функция Сигмоидальная передаточная функция 1 f ( x) x 1 e Другие передаточные функции • • • • • • • • Гиперболический тангенс Экспонента Тригонометрический синус Модульная Квадратичная Радиально-базисная Вероятностная и т.д. Моделирование логических функций • Нейрон с пороговой передаточной функцией может моделировать различные логические функции Для моделирования различных логических функций необходимо по разному задавать веса входных сигналов и порог чувствительности Моделируются логические операции: • • – – – • Конъюнкция (логическое «И») Дизъюнкцию (логическое «ИЛИ») Логическое отрицание Этих трех операций достаточно, чтобы смоделировать абсолютно любую логическую функцию любого числа аргументов. Моделирование операции конъюнкция (логическое «И») Моделирование операции конъюнкция (логическое «И») Моделирование операции дизъюнкция (логическое «ИЛИ») Моделирование операции дизъюнкция (логическое «ИЛИ») Моделирование операции логическое отрицание («НЕ») Проблема отделимости при моделировании логической операции «Исключающее ИЛИ») Проблема отделимости • • • • С помощью одного нейрона нельзя смоделировать логическую операцию «Исключающее ИЛИ» В 1969 году Марвин Минский доказал ограниченность перцептрона (устройства на искусственных нейронах) и его неспособность решать некоторые задачи Интерес к нейронным сетям резко спадает, наступает период «забвения» Проблема отделимости была легко решена путем добавления дополнительных слоев Контрольные вопросы • • • • • • Назовите основные элементы биологического нейрона Назовите основные элементы формального (искусственного) нейрона Перечислите виды активационных (передаточных) функций и их особенности Какие операции могут выполнять искусственные нейроны? Приведите примеры реализации логических функций с помощью искусственных нейронов В чем заключается проблема отделимости? Как она решается?
