Лекция №8 Метод обратной итерации. СНАУ

Лекция 8
30 октября 2006 года
Метод обратной итерации.
Рассмотрим квадратную матрицу A. Для простоты считаем ее самосопряженной
невырожденной матрицей, среди собственных значений которой нет кратных. Выбираем
действительный параметр b. Матрицы A и A – bE имеют общую систему собственных
векторов. Если xk — собственный вектор матрицы A, то верно равенство
1
( A  bE)x k  ( k  b)x k 
xk .
k
Введем обозначение (A  bE)1  B. Рассмотрим последовательность равенств
Bxn  xn1.
Применим степенной алгоритм для нахождения максимального по абсолютной величине
собственного числа матрицы B. Мы уже знаем, что он сойдется. Таким образом, мы
можем найти собственное число матрицы A, наиболее близкое к b.
Схема метода, таким образом, есть.
1. Фиксируем параметр b (для определения нижней границы спектра, очевидно,
необходимо положить b = 0).
2. Фиксируем произвольный ненулевой вектор x0
3. Решаем систему линейных уравнений (A  bE)xn1  xn .
Это и есть обратная итерация.
После того, как найдена последовательность векторов, считаем
(xn1, xn )
n 
.
(xn , xn )
Таким образом, мы можем найти собственное число матрицы, ближайшее к b.
Очевидно, что проблема поиска собственного числа матрицы, ближайшего к данному,
является вычислительно гораздо более «дорогой» задачей, чем вычисление
максимального по абсолютной величине собственного числа.
Методы решения нелинейных уравнений и ситем.
5.1 Сжимающие отображения. Итерации. Метод простых итераций (МПИ)
Рассмотрим системы нелинейных алгебраических уравнений, записанные в
векторном виде.
Система нелинейных алгебраических уравнений
f(u) = 0
(5.1)
может быть также представлена в равносильном виде
u = F(u),
(5.2)
n
n
где u  L (L — n-мерное евклидово пространство). Как правило, для нелинейной
системы переход от формы записи (5.1) к равносильному виду (5.2) осуществляется не
единственным образом.
Поставим в соответствие системе (5.2) итерационный процесс, определяющий
последовательность итераций (последовательных приближений к решению).
Соответствующий итерационный процесс записывается в форме
u k 1  F(u k ), u0 = a, k = 0,1,…
(5.3)
Для дальнейшего изложения потребуется понятие отображения. Отображением
называется закон, по которому каждому элементу x некоторого множества X однозначно
сопоставляется определенный элемент y множества Y (X может совпадать с Y). Это
соотношение между элементами х  Х и y  Y записывается как y = f(x) или f: x → y.
Говорят, что отображение f действует из X в Y (f: X → Y). Отображение f: X → X называют
преобразованием множества X, это отображение f преобразует множество X в себя. В
функциональном анализе и линейной алгебре вместо термина отображение часто
употребляется термин «оператор», в случае, если X и Y — числовые множества,
употребляется термин «функция».
Определение. Область   LN называется выпуклой, если наряду с любыми двумя
точками a и b она включает все точки отрезка [a, b], т.е. точки с координатами
u = a + t(b – a), где 0  t  1.
Определение. Отображение v  F (u) называется сжимающим в замкнутой выпуклой
области Ω, если существует такое число 0 < q < 1, что
F(u1 ), F(u2 )  q(u1, u2 )
при любых u1, u2, принадлежащих области Ω, здесь (u1, u2 ) — расстояние между
элементами. В линейном нормированном пространстве (u1, u2 )  u1  u2 .
Если отображение f: x → y переводит точку x* в себя, то эта точка называется
неподвижной точкой отображения (или стационарной точкой).
Приведем одну из основных теорем функционального анализа.
Теорема (принцип сжимающих отображений). Всякое сжимающее отображение
имеет в Ω одну и только одну неподвижную точку u*Ω.
Теорема (о сжимающем отображении).
Последовательность u k , k = 0,1,… элементов n-мерного евклидова пространства,
порожденная итерационным процессом
u k 1  F(u k ), u 0  a,
сходится к решению U системы нелинейных алгебраических уравнений u = F(u), если
отображение
v  F (u)
является сжимающим; при этом выполнено
(U, u k ) 
qk
1 q
(u0 , u1 ).
Доказательство.
По определению сжимающего отображения
(uk 1 , u k )   F(u k ), F(u k 1 )   q (u k , u k 1 )   q k (u0 , u1 )  q k 0 .


В таком случае получим цепочку неравенств при р > k:

qk
.
1 q
i 0
В соответствии с критерием Коши существования предела последовательности,
последовательность {uk} стремится к пределу U, поскольку правая часть неравенства
стремиться к нулю при k   .
Напомним
критерий
Коши
сходимости
числовой
последовательности:
последовательность u k , k  0, 1,  является сходящейся, если для любого
положительного числа ε существует номер N такой, что при всех k > N и любых
натуральных p расстояние между членами последовательности uk и uk + 1 меньше ε, т.е.
uk  uk  p   .
(u p , u k )  (u p , u p 1 ) 
 (u k 1 , u k )  q p 1 0 
 q k 0  q k  0  q i   0
Напомним критерий Коши для последовательности элементов метрического
пространства: последовательность {uk }, k  0, 1,
является сходящейся, если для
любого   0 существует номер N такой, что при всех k > N и любом натуральном p
расстояние  (u k , u k  p )   .
Продолжим доказательство. Переходя в последнем неравенстве к пределу при
p   , получим
qk
.
1 q
Покажем, что U есть корень уравнения (5.2)
  U, F(U)  (U, u k 1 )   u k 1 , F(U)   (U, u k 1 )   F(u k ), F(U)  




k 1
k 1
k
k 1
q
q
q
q
 0
 q (uk , U)  0
 q 0
 2 0
.
1 q
1 q
1 q
1 q
Поскольку k выбрано произвольно, а левая часть от k не зависит, то  U, F (U )  0 ,
или U = F(U).
В случае скалярного уравнения имеем (   uk  t (uk 1  uk ), 0  t  1)
(U, u k )   0
u k 1  u k  F (u k )  F (u k 1 )  max F () u k  u k 1 

 (max F () )k u1  u 0 ,

откуда следует условие сходимости итерационного метода max F (u)  q  1. Отрезок Δ
включает в себя всю последовательность {uk}, uk  , k  0, 1, 2,
В случае решения системы нелинейных уравнений достаточным условием
сходимости итерационного процесса будет F(u)  1, где F (u ) — матрица Якоби.
Теорема (без доказательства)
Пусть область G  Ln выпуклая, u  G а компоненты Fi(u) вектор-функции
F (u)  ( F1 , , FN ) T имеют равномерно непрерывные производные первого порядка.
Положим, что норма матрицы Якоби
 F1 F1 
 u
un 
1


dF(u)

Y

du


 Fn Fn 
 u

 1 un 
не превосходит некоторого числа 0  q  1 , т.е. Y  q  1 для всех u  G.
В этом случае отображение v  F(u) является сжимающим в области G, т.е.
(F(u1 ), F(u2 ))  q (u1, u2 ), или F(u1 )  F(u2 )  q u1  u2 .
Геометрическая интерпретация метода простой итерации для скалярного случая
u k 1  F (u k ) приведена на рис. 1. Алгоритм метода простых итераций таков.
1. Локализуем корень, приближенно определяем, на каком отрезке он находится. Вопрос
локализации корня не решается алгоритмически, это скорее вопрос искусства
вычислителя, хотя во многих случаях локализовать корень достаточно легко.
Рис. 1. Геометрическая интерпретация метода простых итераций.
2. Выбираем точку u0 на оси 0u
3. Вычисляем F(u0)
4. Определяем точку u1 по значению F(u0):
4.1 Пересечение горизонтальной прямой AA’ с прямой v = u есть точка С (ОА = v1,
AC = u1)
4.2. Очевидно, что горизонтальная координата точки С и есть u1 (так как F(u0) = u1).
4.3. Опустим перпендикуляр из С на 0u. Поскольку ОА = u1, то u1 — значение на первой
итерации.
5. Аналогично строим точки u2, u3, … Получившаяся диаграмма носит название лесенка
Ламерея.
Метод релаксации. Без ограничения общности рассмотрим скалярный случай. Положим
F (u )  u  f (u ) и построим итерационный процесс u k 1  u k  f (u k ), u0  a.
Тогда F (u )  1  f (u ) и τ выбирается из условия F (u)  1, причем, чем меньше
значение F (u) , тем быстрее будет сходиться итерационный процесс. В частности, если
положить F (u )  0 , то,     f (u) , а формулы итерационного процесса будут
1
u k 1  u k   f (uk ) 
1
f (uk ), u0 = a.