Модели нейронов, включающие алгоритмы адаптации

Модели нейронов, включающие алгоритмы адаптации
Нейрон типа адалайн (adaline)
2
N

1
1
E ( w)  ei2   di   wij x j   min ,
2
2 

j 0
wij (t  1)  wij (t )  ei x j
Инстар и оутстар Гроссберга
wij (t  1)  wij (t )  yi  x j  wij (t )  ,
нормировка x j 
xj
x12  x22  ...  xn2
После обучения инстара по вектору x1 вектор коэффициентов w1  (wi1, wi1,...wiN )T  x1 .
Тогда выходной сигнал
ui  wT x2  x1  x2 cos 12  cos 12 .
Нейроны типа WTA (Winner Takes All)
uj = max(u1, u2,…uk)
Только для j-го нейрона
wij (t  1)  wij (t )  [ x j  wij (t )]
Нейроны типа Хебба
wij (t  1)  wij (t )  wij
Обучение без учителя: wij  y j yi
Обучение с учителем: wij  y j di
Стабилизация обучения:
wij (t  1)  wij (t )(1   )  wij
Стохастические нейроны
wij (t  1)  wij (t )  wij
Обучение с учителем:
wij  x j (di  y j )
Радиально-базисный нейрон
 n
2 
  ( xi  ci ) 
 xc 2 

  exp   j 1
Пример радиальной функции  ( x)   ( x  c )  exp  
2
2




2

2







Радиально-базисная нейронная сеть