НТК МЭС-2012, Москва, Россия, 08-12.10.2012

История, теория и практика
адаптивной обработки сигналов
Джиган Виктор Иванович, д.т.н.
Член НТОРЭС им. А.С. Попова
Senior IEEE Member
Главный научный сотрудник ОАО «НПЦ ЭЛВИС»
Зеленоград, Москва, Россия
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
1
Что такое адаптивная обработка сигналов – это что-то новое,
забытое старое, или широко используемая современная
технология ?
Адаптивная обработка сигналов – это направление в современной
обработке сигналов, которая, в свою очередь является направлением в
современных радиотехнике и связи
«Адаптация
(позднелатинское
adaptio
–
прилаживание,
приспособление, от латинского adapto – приспособляю) – процесс
приспособления строений и функций организмов (особей, популяций,
видов) и их органов к условиям окружающей среды…»
Большая Советская Энциклопедия
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
2
Кто был первым ?

Йохан Карл Фредерик Гаусс (1777-1855) в 1725 в возрасте 18 лет сформулировал критерий
наименьших квадратов для обработки экспериментальных наблюдений.
Этот критерий лежит в основе адаптивных фильтров, использующих рекурсивные алгоритмы
по критерию наименьших квадратов

Исаак Ньютон (1643-1727) предложил итерационный численный метод нахождения корня
(нуля) заданной функции (также известный как метод касательных) .
Этот метод лежит в основе современных градиентных адаптивных алгоритмов

Работы по теории оптимального оценивания, лежащие в основе современной теории
адаптивной обработки сигналов, относятся к 40-м – 50-м годам 20-го века:
Андрей Николаевич Колмогоров (1903 -1987)
Норберт Винер (1894-1964)
Марк Григорьевич Крейн (1907-1989)
Норман Левинсон (1912-1975)
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
3
Кто сделал первый адаптивный фильтр ?
«Я был знаком с теорией
винеровской фильтрации в
непрерывной и дискретной
формах. Для построения
фильтра Винера требуется знать
автокорреляционную функцию
входного сигнала и взаимную
корреляционную функцию
между входным и требуемым
сигналами. Это замечательно,
когда вы делаете домашние
упражнения, но что вам делать
на практике, когда статистику
входных сигналов никто вам не
может предоставить? Все что у
вас есть – это сами входные
сигналы …»
Бернард Уидроу ,
изобретатель LMS-алгоритма
Widrow B. Hoff M.E. Adaptive switching
circuits // IRE WESCON Convention Record.
– 1960. – Part 4. – P. 96–104
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
4
Кто сегодня ведущий специалист в этой области ?
Bernard Widrow
Stanford University
USA
Simon Haykin
McMaster University
Canada
Paulo Diniz
Universidade Federal do Rio
de Janeiro, Brazil
Thomas Kailath
Stanford University
USA
Steven Grant
University of
Missouri, USA
Dirk Slock
EURECOM
France
John Cioffi
Stanford University
USA
Ali Sayed
University of
California, USA
Nicholas
Sergios
Kaoluptsidis
Theodoridis
University of Athens , Grees
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
5
Когда нужно использовать адаптивный фильтр?
В основе большинства адаптивных устройств находится так
называемый адаптивный фильтр. Фильтрация – это обработка,
целью которой является извлечение интересуемой
информации, например, сигналов, обладающих
определенными характеристиками
Свойства фильтра с фиксированными параметрами обычно
определяются требуемой передаточной функцией. В свою очередь,
передаточная функция определяет структуру фильтра и его
вычислительную сложность. Если спецификацию к передаточной
функции фильтра невозможно сформулировать заранее или когда эта
спецификация может меняться в процессе работы фильтра, то вместо
фильтров с фиксированными параметрами необходимо использовать
фильтры с изменяемыми параметрами, например, адаптивные
фильтры
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
6
Какие бывают адаптивные фильтры (АФ) ?
d (k )
d (k )
y (k )

Адаптивный фильтр
x(k )


 (k )
x1 (k )
 h HN1 (k  1)x N1 (k )
x2 ( k )
 h HN2 (k  1)x N2 (k )
Адаптивный алгоритм

Обобщенная структура АФ

x(k  1)
x(k )

1
z 1
z 1
d (k )

x(k  N  2) x(k  N  1)

z 1
h3 (k  1) hN 1 (k  1) hN (k  1)
h2 (k  1)
h (k  1)

x(k  2)





 h HNm (k  1)x N m (k )



xM 1 (k )
 h HNM 1 (k  1)x N M 1 (k )
xM (k )
hHNM (k 1)xNM (k)



y (k )

Адаптивный алгоритм
Одноканальный АФ
 N (k )

xm (k )
x(k )

 (k )
Адаптивный алгоритм
Многоканальный АФ
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
7
Где применяются адаптивные фильтры ? – Например, в
адаптивных антенных решетках (ААР)
h11
w


Исходная
Конечная
-20
Выходной
сигнал
антенной
решетки
h22



| F() |, дБ
Входные сигналы антенной решетки

0
-40
-60

-80
hn


-100

whMN
Опорный
сигнал
антенной
решетки
-80
-60
-40
-20
0
20
, град.
40
60
80
Принцип подавление помех с помощью ААР
Адаптивный процессор
Структура ААР
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
8
Где применяются адаптивные фильтры ? – Например, в
адаптивных эхокомпенсаторах
Телефонная
станция
Абонент
30
Задержка
2-х проводный
канал
Гибридная
схема
4-х проводный
канал
35
Гибридная
схема
2-х проводный
канал
требуемое подавление, дБ
Телефонная
станция
Абонент
25
20
15
10
5
Задержка
0
0
20
40
60
80
100
задержка распространения сигнала, мс
Абонент
x(k )
Сигнал к
удаленному
абоненту  (k )
подавленное
эхо
Адаптивный
фильтр,
Гибридная
схема,
h N (k )
w

y (k )

 d (k )
2-х проводный
канал
Оценка эхо-сигнала
Неподавленное эхо
Принцип компенсации электрического эха
Акустический
импульсный отклик
Усилитель
x(k )
Эхо-сигнал d (k )
Шум z (k )
Идентифицируемый импульсный
отклик
Перестраиваемый
фильтр
Сигнал к удаленному
абоненту
Сигнал от
удаленного
абонента
Сигнал от удаленного
абонента
Принцип построения проводной телефонной связи
y (k ) 


Адаптивный алгоритм
Адаптивный фильтр
 (k )
Принцип компенсации акустического эха
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
9
Насколько эффективна эхокомпенсация ?
80
0.3
80
0.25
70
0.2
60
60
50
50
w
0.1
0.05
0
40
30
20
2
0
0
10
20
30
40
n, отсчеты
50
60
70
0
2
8
0
10
x 10
x 10
-3
0
6
6
4
4
6
8
x 10
0.5
4
0
-0.5
0
2
4
6
8
x 10
0.5
4
0
-0.5
0
2
4
6
k, номер итерации
Сигналы
( k ) + z( k ), (k)
4
x 10
4
8
2
0
-2
4
x 10
-6
-8
0
8
x 10
-3
-2
-6
4
6
k, номер итерации
10
x 10
0
-4
2
8
2
-4
-8
0
8
4
6
k, номер итерации
ERLE, RLS-алгоритм
8
2
2
4
( k ) + z( k ), (k)
x( k )
4
6
k, номер итерации
1
ERLE, LMS-алгоритм
-0.5
d( k )
0
0.5
0
2
20
1
Импульсный отклик эхотракта
( k ) + z( k )
30
10
-0.1
-0.15
40
10
-0.05
3
70
ERLR( k ), дБ
ERLR( k ), дБ
0.15
3
2
4
Сигнал ошибки, LMS-алгоритм
4
6
k, номер итерации
8
x 10
Сигнал ошибки, RLS-алгоритм
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
10
4
Где применяются адаптивные фильтры ? – Например, в
адаптивных эквалайзерах каналов связи
Задержка
d (k )
z (k )
x(k )
Канал связи
~
x (k )



Адаптивный фильтр
y (k )



 (k )
Принцип выравнивания АЧХ каналов связи
*
w(t ) импульсный отклик
канала связи
*
*
t
t0  2T
t0 *
T
t0
t0 *
T
t0  2T
*
t0  3T
 (t0 )
*
*
*
t0  2T
t0  T
t0
cовместный импульсный отклик
канала связи и эквалайзера
*
*
*
t0  T
t0  2T
t0  3T
t
Сигнал на выходе канала связи в
момент времени оценивания
информационного символа – это
взвешенный задержанный символ +
межсимвольная интерференция
Сигнал на выходе эквалайзера в момент
времени оценивания информационного
символа – это взвешенный
задержанный символ
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
11
Насколько эффективно выравнивание каналов связи ?
40
2
2
3
w H x(k )  z (k )
-20
1
-80
Решение
0
-0.5
-40
~
y (k )
y (k )
h N (k )
0.5
 (k )
-1
-60

  d (k )
-1.5
-2
0
100
200
300
400
500
Частота, спектральные составляющие
600
-2
40
-1
0
Re
2
2
3
20
Данные
Обучение
0.5
-20
w H x(k )  z (k )
0
h FN (k )



h BN (k )
-0.5
-40
1
-1
-60
-80
Эквалайзер без обратной связи
2
Эквалайзер
1
0
1
Канал
1.5
Im
Амплитуда, дБ
Данные
1
0
Обучение
Эквалайзер
1.5
Im
Амплитуда, дБ
20
Канал
y (k )
-1.5
-2
0
100
200
300
400
500
Частота (спектральные составляющие)
АЧХ
600
-2
-1
0
Re
1
Созвездия
2
 (k )


Решение

d (k )
Эквалайзер с обратной связью
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
12
~
y (k )
Где применяются адаптивные фильтры ? – Например, в
адаптивном шумоподавлении
x(k )  z1 (k )
z2 ( k )
Адаптивный фильтр
y (k )  z1 (k )



 (k )  x(k )
Адаптивный алгоритм
Принцип адаптивного шумоподавления
x(k )


x(k )  z1 (k )

z1 (k )
Акустический
импульсный отклик
z2 ( k )
Адаптивный фильтр
y (k )  z1 (k )



Адаптивный алгоритм
Пример адаптивного шумоподавления
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
13
 (k )  x(k )
Насколько эффективно шумоподавление ?
0.25
0.25
0.25
0
-0.25
-0.5
0
-0.25
2
4
6
k, отсчеты
8
-0.5
10
x 10
4
Зашумленная речь
0
-0.25
2
4
6
k, отсчеты
8
-0.5
10
x 10
0.5
0.25
0.25
0.25
-0.5
(k)
0.5
-0.25
0
-025
2
4
6
k, отсчеты
Исходная речь
8
-0.5
10
x 10
4
4
6
k, отсчеты
8
10
x 10
4
Остаточный шум, RLS
0.5
0
2
4
Остаточный шум, LMS
(k)
x(k)
x(k) - (k)
0.5
x(k) - (k)
0.5
x(k)+z1(k)
0.5
0
-0.25
2
4
6
k, отсчеты
8
Очищенная речь, LMS
-0.5
10
x 10
2
4
4
6
k, отсчеты
8
x 10
Очищенная речь, RLS
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
10
14
4
Вектор входных сигналов
Что такое винеровская фильтрация ?
Требуемый сигнал
x1 (k )
hw1
x2 (k )
h2


Выходной
сигнал
hN
Винеровское решение:
xN (k )
1
2
d (k )

y (k )  

e(k )
Сигнал
ошибки
h N ,o  R N1rN
Вектор весовых коэффициентов
Линейный сумматор
Линейно-ограниченная винеровская фильтрация
Поверхность среднеквадратической ошибки

h N ,oc  R N1rN  R N1C NJ C HNJ R N1C NJ
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
 f
1
J
 C HNJ R N1rN
15

Как найти винеровское решение ?
60
8
60
8
55
55
50
6
50
6
45
45
40
4
40
4
30
2
35
h2
h2
35
30
2
25
25
20
0
20
0
15
15
10
-2
10
-2
5
-4
-2
0
2
h
4
6
5
8
-4
1
-2
0
2
h
4
6
8
1
Линии уровня трехмерной поверхности среднеквадратической ошибки

h N (k )  h N (k  1)   R N1 h  (k  1)
h N (k )  h N (k  1)     h  (k  1)
N
Алгоритм Ньютона
Градиент:
N
Алгоритм наискорейшего спуска
h   rN  R N h N (k  1)
N
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
16

Что делать, если корреляционная матрица неизвестна ?
200
180
160
1
h1
10
0.5
5
140
0
120
0
0
50
100
150
200
250
k, номер итерации
300
350
400
0
50
100
150
200
250
k, номер итерации
300
350
400
100
0.5
-5
80
-15
0
60
-10
-10
-5
0
h
5
10
15
h2
h2
1.5
40
-0.5
20
-1
1
Обучающие кривые весовых
коэффициентов
Линии уровня трехмерной поверхности
среднеквадратической ошибки
LMS-алгоритм:
 (k )  d (k )  h HN (k  1)x N (k )

ˆ   (k  1)
h N (k )  h N (k  1)    
h
N

 h N (k  1)   x N (k )  (k )
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
17
Действительно ли средний квадрат ?
10
2
8
1.8
6
1.6

2.2

12
0    2 max
Постоянная времени
(число итераций):
1.4
4
1.2
2
0
Условие сходимости LMSалгоритма:
1
1
0
50
100
150
200
250
k, номер итерации
300
350
400
0
50
1 реализация
100
150
200
250
k, номер итерации
300
350
400
2.2
2
2
1.8
1.8
1.6
1.6


1.4
1.4
1.2
1.2
1
1
100
150
200
250
k, номер итерации
2 min
Дополнительная
среднеквадратическая
ошибка:
1
50
1
100 реализаций
2.2
0
2max
 k n , 
300
100 000 реализаций
350
400
N
2
exc   min
0
50
100
150
200
250
k, номер итерации
300
350
2 разных шага сходимости
 
n 1
n
N
2   n
n 1
400

 min  E e(k )
2
 
2
d
Обучающие кривые среднеквадратической ошибки
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
18
 rNH h N ,o
Что такое NLMS-алгоритм ?
Алгоритм Ньютона:
h N (k )  h N (k  1)   R N1 h  (k  1)
N
Упрощенная корреляционная матрица:
Упрощенный алгоритм Ньютона:
Лемма об обращении матриц
ˆ N (k )   2 I N  x N (k )x HN (k )
R
ˆ 1 (k )x (k )  (k )
h N (k )  h N (k 1)  ˆ R
N
N
C  B
H

A 1D
1

 C1  C1B H DC1B H  A
NLMS-алгоритм: | N (k )  d (k )  h H
N (k  1)x N (k )
|
|
|
ˆ

x
(
k
)

(k )
|h N (k )  h N (k  1)  H
N
2
x N (k )x N (k )  
|
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
19

1
BC1
Что такое RLS-алгоритм ?
k
Целевая функция :
E N (k )   k i e N (i)e N (i)
i 1
Условие минимума :
 h E N (k )  r N (k )  R N (k )h N (k )  0 N
Оптимальное решение :
N
h N (k )  R N1 (k )r N (k )
C  B
Лемма об обращении матриц
k
H

A 1D
1

 C1  C1B H DC1B H  A
R N (k )   k i x N (i)x HN (i) R N (k  1)  x N (k )x HN (k )
i 1
RLS-алгоритм:
1
N
g N (k )  R (k )x N (k )
R N1 (k  1)x N (k )
g N (k ) 
  x HN (k )R N1 (k  1)x N (k )

R N1 (k )  1 R N1 (k  1)  g N (k )x HN (k )R N1 (k  1)

 N (k )  d (k )  h HN (k  1)x N (k )
h N (k )  h N (k  1)  g N (k ) N (k )
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
20

1
BC1
Адаптивный фильтр на основе QR-разложения
"1"
b (k )
~
RN ,1,1
sN ,1 (k )
u N(1), 2 (k )
u N(1),1 (k )
bN(1) (k )
cN , 2 ( k )
~
RN H, 2,1
aN , 2 (k )
sN , 2 (k )
s N , 3 (k )
u N(3,)2 (k )
u N(3,)1 (k )
bN( 4) (k )



u N( N,12) (k )
bN( N 2) (k )
u N( N, 22) (k )
u N( N,11) (k )
~
RN ,HN ,1
 N (k )
~
x N( 0, )N (k )
~N( 0) (k )
h1 (k )
u N( N, 21) (k )
s N , 2 (k )

 N (k )
~
x N(1,)N (k )
c N , 2 (k )
x N( 2,)N 1 (k )
x N( 2,)N 2 (k )
~N(1) (k )
c N , 2 (k )
rN , 2 (k )
s N , 2 (k ) ~
x N( 2,)N (k )
~N( 2) (k )





u N( N, N2)2 (k )


~
R N , N  2 , N 3
Обратное QR-разложение
hN 2 (k )
x N( N, N3)1 (k )
x N( N, N3) (k )
~N( N 3) (k )
c N , N 2 (k )
c N , N 2 (k )
c N , N 2 (k )
~
~
~
rN , N 2 (k )
RN , N 2, N
RN , N 2, N 1
~N( N 2 ) (k )
x N( N, N21) (k )
x N( N, N2 ) (k )
c N , N 1 (k )
u N( N, N1)1 (k )
u N( N, N1) (k )
cN , N ( k )
cN , N ( k )
cN , N ( k )
cN , N ( k )
~H
~ H
~H
s N , N (k ) RN , N , N 2 s N , N (k ) RN , N , N 1 s N , N (k ) RN , N , N s N , N (k )
 N (k )
x N( N, N3)2 (k )
cN , N 1 (k )
u N( N, N) 2 (k )

u N( N, N21) (k )
~
RN ,HN 1, N 1 sN , N 1 (k )
u N( N, N1)2 (k )
u N( N,3) (k )
h3 (k )
~
x N(1,)N 1 (k )
c N , 2 (k )
rN ,1 (k )
s N ,1 (k ) ~
~
~
~
s N , 2 (k ) RN , 2, N 2 s N , 2 (k ) RN , 2, N 1 s N , 2 (k ) RN , 2, N

u N( N,31) (k )
sN , N (k )
c N ,1 (k )
~
RN ,1, N

cN , N 1 (k )
cN , N 1 (k )

~
~
RN ,HN 1,3 sN , N 1 (k ) sN , N 1 (k ) RN ,HN 1, N 2

cN , N ( k )
 N (k )

RN , 2 , N 2
x N( 2,)3 (k )
~N( 2) (k )
u N( N,32) (k )
~H
s N , N ( k ) RN , N , 3
h2 (k )
c N ,1 (k )
c N ,1 (k )
~
~
s N ,1 (k ) RN ,1, N 2 s N ,1 (k ) RN ,1, N 1 s N ,1 (k )
~N( N 3) (k )
cN , N ( k )
 N (k )
~
s N , 2 ( k ) RN , 2 , 3
u N(3,)3 (k )
~H
s N , N ( k ) RN , N , 2
u N( N, 2) (k )

c N ,1 (k )
~
xN(1,)N  2 (k )
c N , 2 (k )
s N , 3 (k )
cN , N ( k )
u N( N,1) (k )
bN( N ) (k )
cN , N 1 (k )
~
RN ,HN 1, 2

~
x N(1,)3 (k )

cN , N 1 (k )
~
RN ,HN 1,1
bN( N 1) (k )
s N , 3 (k )
s N ,1 (k )
c N , 2 (k )
cN , 3 (k )
~
RN H,3,3
~
RN ,1,3
~
x N(1,)2 (k )
u N( 2,)3 (k )
cN ,3 ( k )
~
RN H,3, 2
s N ,1 (k )
~
RN , 2, 2
sN , 2 (k )
c N ,1 (k )
c N ,1 (k )
~
RN ,1, 2
~N(1) (k )
u N( 2,)2 (k )
cN ,3 ( k )
~
RN H,3,1
aN ,3 (k )
s N ,1 (k )
cN , 2 ( k )
~
RN ,H2, 2
u N( 2,)1 (k )
bN( 2) (k )
aN , N (k )
~
x N( 0, )N1 (k )
~
x N( 0, )N2
~
x N( 0,3) (k )
~
x N( 0, )2 (k )
c N ,1 (k )
cN ,1 (k )
~
RN ,H1,1
a N ,1 (k )
aN , N 1 (k )
~
x N( 0,1) (k )
u N( 0,)1 (k )
(0)
N
 N (k )
u N( N, N) 1 (k )
hN 1 (k )
 N (k )
~
RN , N 1, N 1
~N( N 1) (k )
~N( N 2) (k )
c N , N 1 (k )
~
RN , N 1, N
~
rN , N 1 (k )
x N( N, N1) (k )
~N( N 1) (k )
cN , N (k )
~
RN , N , N
u N( N, N) (k )
~N( N ) (k )
hN (k )
Прямое QR-разложение
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
~
rN , N (k )
~N( N ) (k )
 N (k )
21
LMS или RLS ?
2.2
1.5
1
1
2
h1
h1
1.5
0.5
0
50
100
150
200
250
k, номер итерации
300
350
0
400
0.5

0
1.8
0.5
0
50
100
150
200
250
k, номер итерации
300
350
400
1
1.6
2
1.4
0.5
0
3
1.2
h2
h2
0
-0.5
-0.5
-1
-1
0
50
100
150
200
250
k, номер итерации
Весовые
коэффициенты
LMS-алгоритма
(зеленые кривые)
300
350
400
1
0
0
50
100
150
200
250
k, номер итерации
Весовые
коэффициенты
RLS-алгоритма
(зеленые кривые)
300
350
50
100
250
200
150
k, номер итерации
300
350
400
400
Обучающие кривые:
1, 2 – LMS, 3 - RLS
LMS-алгоритм – линейная вычислительная сложность, зависимость длительности
переходного процесса и остаточной ошибки в установившемся состоянии от шага
сходимости
За и против:
RLS-алгоритм – квадратичная или линейная вычислительная сложность, быстрая
сходимость, отсутствие шага сходимости и дополнительной остаточной ошибки в
установившемся состоянии
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
22
LMS или RLS ?
За и против:
1.05
1.04
1.03
2

1
1.8

2
1
2.2
1.02
1.01
1
1.6
3, 4
2
1.4
0.99
300
320
340
360
k, номер итерации
380
400
LMS-алгоритм – зависимость длительности
переходного процесса и остаточной ошибки в
установившемся состоянии от соотношения
собственных чисел корреляционной матрицы
входного сигнала адаптивного фильтра
3, 4
1.2
1
0
50
100
150
200
250
k, номер итерации
Обучающие кривые:
1, 2 – LMS, 3, 4 - RLS
300
350
400
RLS-алгоритм – независимость длительности
переходного процесса и остаточной ошибки в
установившемся состоянии от соотношения
собственных чисел корреляционной матрицы
входного сигнала адаптивного фильтра
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
23
Можно ли уменьшить сложность RLS-алгоритмов ?
Инвариантность
к сдвигу:
 x(k )   x N (k ) 
x N 1 (k )  
   x(k  N )
x
(
k

1
)

 N
 
k
Корреляционная
матрица:
Корреляционная
матрица:
R N 1 (k )   
k i
i 1
k
R N 1 (k )   
i 1
k i
x N 1 (i)x
H
N 1
 f 2 (k ) | rNfH (k ) 
(i )   -----------------------------
f
r
(
k
)
R
(
k

1
)
| N
 N

x N 1 (i)x
H
N 1
R N (k ) | rNb (k ) 
(i)   -------------------------
bH
b2
r
(
k
)

(
k
)
|
 N

Лемма об обращении клеточных матриц
g N (k )  R N1 (k )x N (k )
Векторы
коэффициентов
Калмана:

0


g N 1 (k )  R N 1 (k )x N 1 (k )  
 E Nf , min (k )

g N (k  1)

g ( k ) 
g N 1 (k )  R N 1 (k )x N 1 (k )   N   E Nb , min (k )
 0 
Вектор весовых
коэффициентов:

1

1
a N 1 (k )e Nf (k )
b N 1 (k )e Nb (k )
h N (k )  h N (k  1)  g N (k ) N (k )
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
24
Лемма об обращении клеточных матриц
|
|
f2
fH
k


(
k
)
r
(k ) 
k

i
H
N
| R
(
k
)


x
(
i
)
x
(
i
)

 f

N 1
N 1
N 1
r
(
k
)
R
(
k

1
)
|
i 1
N
N


------------------------------------------------------------------------------------

 A B
B H C  




( A  BC1B H ) 1
 ( A  BC1B H ) 1 BC1


1 H
1 H 1
C 1B H ( A  BC1B H ) 1 BC1  C 1 
 C B ( A  BC B )
1
1
|
|
b
k

R
(
k
)
r
(k ) 
k

i
H
N
N
| R
 x N 1 (i)x N 1 (i)   bH

N 1 (k ) 
b2
|
r
(
k
)

(
k
)
i 1
 N

------------------------------------------------------------------------------------
 A B
B H C  


 A 1  A 1B(C  B H A 1B) 1 B H A 1

 (C  B H A 1B) 1 B H A 1


 A 1B(C  B H A 1B) 1 
.
(C  B H A 1B) 1

НТК МЭС-2012, Москва, Россия, 08-12.10.2012
25
Лестничные RLS-алгоритмы

 0f (k )


1b (k  1)
Адаптивный фильтр на основе
априорных ошибок:

1f (k )   Nf  2 (k )
 Nf 1 (k )

Nb1 (k  1)
x(k )
1f  (k  1)
z 1
 0b (k )
Nf 1 (k  1)



 0 (k )

d (k )










 Nb 1 (k )
 N (k  1)
 N 1 (k  1)
 2 (k  1)
1 (k )
e0f (k )
z 1
 1b (k )   Nb  2 (k )
 1 (k  1)
 N  2 (k ) 
 2 (k ) 


 N 1 (k )


e1f (k )  eNf  2 (k )

Адаптивный фильтр на
основе апостериорных
ошибок:

1b (k )
Nb1 (k )
1f  (k )
Nf 1 (k )



 N (k )
eNf 1 (k )

x(k )
z 1
b
0
e (k )



e (k ) 
b
1
e0 (k )



e1 (k )
e
z 1
(k )
 2 (k )
 1 (k )
d (k )
b
N 2



e2 (k ) 



eNb 1 (k )
 N 1 (k )
eN  2 ( k ) 


eN 1 (k )
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
 N (k )



eN (k )
26
Одинаковые или разные RLS-алгоритмы ?
200
ERLE, дБ
150
1
100
6
2
7
3,4
8
5
9
50
0
0
1000
2000
3000
Номер итерации, k
4000
5000
1 – QR RLS with square roots; 2 – a priori and a posteriori lattice RLS; 3 – RLS-алгоритм; 4 – square
root free QR RLS ; 5 – FK; 6 – SNR=30 dB; 7 – SNR=40 dB; 8 – SNR=50 dB; 9 – SNR=60 dB
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
27
Как фильтровать нестационарные сигналы ?
k i x N (i )
Возрастающее окно:
i  1,, k
k
R N (k )   k i x N (i )x HN (i ) 
min  1 
i 1
 R N (k  1)  x N (k )x HN (k )
01
k1
0.5
N
i
k2
k i x N (i )
k2  L  1
k1  L
Скользящее окно:
R N (k ) 
k

i  k  L 1
k i
x N (i)x HN (i) 
 R N (k  1)  x N (k )x HN (k ) 
  x N (k  L)x HN (k  L)
k2  L
012
k1
i
k2
i  k  L  1,, k
L
L
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
28
p N (k  L)
Весовые коэффициенты
h N (k )
Последовательные вычисления
Весовые коэффициенты
p N (k  L)
Вычисления, зависящие от
Вычисления, зависящие от
p N (k )
p N (k )
Вычисления, зависящие от
Вычисления, зависящие от
x N ( k  L)
x N (k  L)
Вычисления, зависящие от
Вычисления, зависящие от
x N (k )
x N (k )
Вычисления, зависящие от
Вычисления, зависящие от
Можно ли распараллелить вычисления ?
h N (k )
Параллельные вычисления
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
29
Что дают скользящее окно и регуляризация ?
50
2
40
40
30
30
20
20
10
0
ERLE, дБ
ERLE, дБ
1
50
1
0
1
2
3
Номер итерации, k
4
5
x 10
4
10
2
0
0
1
2
3
Номер итерации, k
4
x 10
1 – возрастающее окно
1 – скользящее окно и регуляризация
2– скользящее окно
2– скользящее окно
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
5
30
4
Какие бывают адаптивные алгоритмы ?
Винеровская фильтрация
Метод Ньютона
Метод наискорейшего спуска
NLMS
LMS
Аффинных
проекций
Быстрый аффинных
проекций
Линейно-ограниченные NLMS
Линейно-ограниченные АР
Метод наименьших
квадратов
RLS на основе
MIL
Линейно-ограниченные FAP
RLS на основе
QR-разложения
Быстрые RLS (FRLS)
Линейно-ограниченные LMS
Лестничные RLS
Линейно-ограниченные RLS и FRLS
Разновидности алгоритмов адаптивной фильтрации
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
31
Действительно ли применяются АФ?
Конференц-связь
(акустический эхокомпенсатор)
Адаптивная антенная решетка
Модем канала ТЧ
(электрический эхокомпенсатор,
эквалайзер)
Да!
DSL-модем
(электрический эхокомпенсатор,
эквалайзер)
Вэб-камера
(шумоочистка речи)
Жесткий накопитель
(эквалайзер в канале
считывания данных)
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
32
Адаптивные фильтры: что сделал автор ?
Модели адаптивных фильтров
(~400 шт.) на языке MATLAB
Эхокомпенсатор
Эквалайзер
Платформа «Мультикор»:
прикладная библиотека
Анализатор AnCom A-7:
непрерывный рефлектометр
Антенные решетки
на языке графического программирования LabVIEW
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
33
Как научиться адаптивной обработке сигналов ?
По книгам на английском языке
Книга,
которую
когданибудь и я
напишу ???
По книгам на русском языке
И (или) по первоисточникам, которых по разным оценкам не менее 10 000 на сегодняшний день…..
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
34
Спасибо!
Вопросы?
Эл. почта: djigan@elvees.com
Тел.: +7-905-589-0703
Зеленоград, Москва, Россия
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
35
DSPA-2013
15-я Международная Конференция
«ЦИФРОВАЯ ОБРАБОТКА СИГНАЛОВ И ЕЁ ПРИМЕНЕНИЕ»
конец марта – начало апреля 2013 г., Москва, Россия
http://www.rntores.ru
http://www.dspa.ru
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
36
10th IEEE EAST-WEST DESIGN & TEST SYMPOSIUM (EWDTS 2012)
Signal and Information Processing in Radio and Communication Engineering
14-17 сентября 2012, Харьков, Украина,
http://www.ewdtest.com/conf
hahanov@kture.kharkov.ua
НТК МЭС-2012, Москва, Россия, 08-12.10.2012
37