ядро и образ матрицы

2-ая летняя научная школа-семинар
ТЕХНОЛОГИЯ МОДЕЛИРОВАНИЯ СЛОЖНЫХ ФИЗИЧЕСКИХ И
БИОЛОГИЧЕСКИХ СИСТЕМ
ОБ ОБОБЩЕННОМ ОБРАЩЕНИИ
МАТРИЦ
Ю.Р.Акопян
Ереванский государственный университет,
кафедра численного анализа и
математического моделирования
с. Цмакаох, НКР– 2015
1
ОБРАТНАЯ МАТРИЦА
Для любой матрицы A  Rnn , det A  0
матрица A1 такая, что
существует единственная
AA1  A1 A  I
Mатрицa A1 называется обратной к матрице A
 A11
A
1
 12
A1 
det A 

 A1n
A21
A22
A2 n
An1 
An 2 


Ann 
где Aij есть алгебраическое дополнение элемента aij матрицы A
2
СИСТЕМЫ ЛИНЕЙНЫХ АЛГЕБРАИЧЕСКИХ УРАВНЕНИЙ
a11 x1  a12 x2 
a21 x1  a22 x2 
 a1n xn
 a2 n xn
 b1
 b2
an1 x1  an 2 x2 
 ann xn
 bn
Mатрично-векторная запись системы:
Ax  b
где
 a11
a
A   21


 an1
a12
a22
an 2
a1n 
a2 n 
,


ann 
 x1 
x 
x   2,
 
 
 xn 
 b1 
b 
b   2
 
 
bn 
Если det A  0 , то система имеет единственное решение
x  A1b
3
СИСТЕМЫ ЛАУ ОБЩЕГО ВИДА
a11 x1  a12 x2 
a21 x1  a22 x2 
 a1n xn
 a2 n xn
 b1
 b2
am1 x1  am 2 x2 
 amn xn
 bm
Mатрично-векторная запись системы:
Ax  b
где
 a11
a
A   21


 am1
m<n
a12
a22
am 2
a1n 
a2 n 
,


amn 
m=n
 x1 
x 
x   2 ,
 
 
 xn 
 b1 
b 
b 2
 
 
bm 
m>n
4
СИСТЕМЫ ЛАУ ОБЩЕГО ВИДА
ЯДРО И ОБРАЗ МАТРИЦЫ
A  Rmn
ядро матрицы:
образ матрицы:
A : Rn  Rm


ker A  x  R n : Ax  0  R n


im A  z  R m :  x  R n , Ax  z  R m
dim (ker A)  n  r
dim(im A)  r
r  rank A
Система Ax  b совместна тогда и только тогда, когда b  im A
5
ЯДРО И ОБРАЗ МАТРИЦЫ
A
im A
ker A
R
0
Rm
n

im A   z  R

ker A  x  R n : Ax  0  R n
m

:  x  R n , Ax  z  R m
6
ЗАДАЧА НАИМЕНЬШИХ КВАДРАТОВ
Система ЛАУ размера m  n :
Ax  b
ЗНК: найти x  R n такой, что
|| Ax  b || minn || Ax  b ||
xR
2


|| Ax  b ||2    aij x j  bi   min
i 1  j 1

m
n
НОРМАЛЬНАЯ СИСТЕМА
ЗНК: || Ax  b || min

AT Ax  AT b
Нормальная система совместна
Нормальная система однозначно разрешима тогда и только тогда,
когда rank A  n , т.е. когда столбцы матрицы A линейно независимы
x  ( AT A)1 AT b
7
ПСЕВДООБРАТНАЯ МАТРИЦА
Ax  b
(1)
T
T
ЗНК: || Ax  b || min  A Ax  A b
(2)
 Любое решение нормальной системы (2) называется псевдорешением
системы (1)
Дополнительное условие: || x || min
|| Ax  b || min

 || x || min

T
T
 A Ax  A b

 || x || min
(3)
 Решение задачи (3) называется нормальным псевдорешением
системы (1) . Оно единственно.
b  Rm  x  Rn

x  Ab
 Матрица A  Rnm называется псевдообратной матрицей для A
8
ПСЕВДООБРАТНАЯ МАТРИЦА
A
R
n
A+
Rm
Если A - квадратная невырожденная матрица, то A  A1

T
1 T
Если rank A  n , то A  ( A A) A и A A  I
Если rank A  m , то A  AT ( AAT )1 и AA  I
9
ЧАСТНЫЕ СЛУЧАИ ПСЕВДООБРАЩЕНИЯ

O  R mn

aR

 a1 
a 
a   2
 
 
 an 
 O   OT

0, if a  0


a  1
 a , if a  0


0T ,
if a  0

a   1
T
a
 || a ||2 , if a  0

0T ,
if a  0


a


a

a
a
...
a
 1 2

 1
T
n

a
 || a ||2 , if a  0

10
НЕКОТОРЫЕ СВОЙСТВА ПСЕВДООБРАЩЕНИЯ

 ker A  ker AT
( A )  A
 T


(A )  (A )

( A)    A
T

T
 im A  im A
ОТНОСИТЕЛЬНО СВОЙСТВА
( AB)  B A
для обычного обращения: если A и B - невырожденные квадратные
матрицы одинакового порядка, то
( AB)1  B1 A1
для псевдообращения это свойство, вообще говоря, не имеет места, т.е.
( AB)  B A
11
НЕМНОГО ИСТОРИИ: Eliakim Hastings Moore
Элиаким Мур (1862-1932) – американский математик,
член Национальной Академии наук США и
Американского философского общества
•
Окончил Йельский университет, США (1883)
•
В Берлинском университете слушал лекции
Л. Кронекера и К.Вейерштрасса (1884)
•
1892-1931 гг. возглавлял факультет математики
Чикагского университета (США)
•
Области научных интересов - общая алгебра, теория чисел,
алгебраическая геометрия, интегральные уравнения
E. Moore. On the reciprocal of the general algebraic matrix.Bulletin of the American Mathematical Society, 26, 1920, 394-395.
12
УРАВНЕНИЯ ПЕНРОУЗА
R. Penrose. A generalized inverse for matrices.- Proceedings of the
Cembridge philosophical Society, 51, 1955, 406-413.
Теорема (Р.Пенроуз, 1955). Для произвольной матрицы A  Rmn
существует лишь одна матрица X  Rnm , удовлетворяющая
следующим четырем матричным уравнениям:
AXA  A , XAX  X , ( AX )T  AX , ( XA)T  XA
Оказалось, что этой единственной матрицей является матрица A !
Таким образом псевдообратная матрица A единственным образом
определяется следующими четырмя условиями:
AA A  A , A AA  A , ( AA )T  AA , ( A A)T  A A
A - обобщенная обратная матрица Мура-Пенроуза
13
НЕМНОГО ИСТОРИИ: Roger Penrose
Сэр Роджер Пенроуз (род. 1931) – английский ученый,
работающий в различных областях математики, общей
теории относительности и квантовой теории,
член Лондонского Королевского общества.
- обладатель премии Вольфа (1988, совместно со
Стивеном Хокингом)
- обладатель премии А.Эйнштейна (1990)
•
Окончил Кембриджский университет (1956)
•
В 1955, будучи студентом, переизобрел псевдообращение, известное
сейчас как обращение Мура-Пенроуза
•
В 1958 защитил в Кембриджском университете ученую степень
доктора философии
•
1973-1988 возглавлял кафедру математики Оксфордского университета
•
В 1994, за выдающиеся заслуги в развитии науки, королевой Елизаветой II
ему был присвоен рыцарский титул (сэр Роджер Пенроуз)
14
ИНТЕРЕСНЫЕ ФАКТЫ: МОЗАИКА ПЕНРОУЗА
В 1974г. Р.Пенроуз изобрел мозаику,
позволяющую с помощью двух плиток
простой формы (два ромба) замостить
бесконечную плоскость никогда не
повторяющимся узором
В 1984г. подобные структуры были
обнаружены в расположении атомов
квазикристаллов
Религия и математика: квазикристаллы Аллаха
Мечеть Дарб-и-Имам, находящаяся на территории
современного Ирана в провинции Исфаган и построенная в 1453 году, украшена узором, сильно напоминающим по своей структуре мозаику Пенроуза.
15
СИНГУЛЯРНЫЕ ЧИСЛА МАТРИЦЫ
A  Rmn ,
sp ( AT A):
1  2 
AT A  0
r  0, r 1 
 n  0
r  rank A
 i   i ( A)  i ,
1   2 
i  1, 2,..., r
 r  0
Свойства:
• Сингулярные числа матриц A и AT совпадают
• Если A  AT, то  i ( A) | i ( A) |,
• Если A  AT  0 , то  i ( A)  i ( A) ,
i  1, 2,..., r
i  1, 2,..., r
16
СИНГУЛЯРНОЕ РАЗЛОЖЕНИЕ МАТРИЦЫ
SVD - Singular Value Decomposition
Теорема. Для любой матрицы A  Rmn существуют ортогональные
матрицы U  R mm и V  R nn такие, что
 1

2

A  U V , где   



0

и 1   2 
U 1  U T ,
r


0
  R m n


0
  r  0 - сингулярные числа матрицы A
V 1  V T
17
ПРЕДСТАВЛЕНИЕ ПСЕВДООБРАТНОЙ МАТРИЦЫ ЧЕРЕЗ
СИНГУЛЯРНОЕ РАЗЛОЖЕНИЕ
Пусть
A  U V , где
 1

2

 



0

r


0
  R m n


0
есть сингулярное разложение матрицы A .
Тогда
A  V T U T , где
 11

 1

2


 



0

 r1



0
 R n m



0 
18
ДВА ПОЛЕЗНЫХ РАВЕНСТВА

A  lim ( AT A   I ) 1 AT

A  lim AT ( AAT   I )1
 0
 0
19
ОБЩЕЕ РЕШЕНИЕ НОРМАЛЬНОЙ СИСТЕМЫ
Ax  b
(1)
T
T
ЗНК: || Ax  b || min  A Ax  A b
(2)
 Любое решение нормальной системы (2) называется псевдорешением
системы (1)
|| Ax  b || min

 || x || min

T
T
 A Ax  A b

 || x || min
(3)
x  A b
Общее решение нормальной системы (2) записывается
следующим образом:
x  Ab  ( I  A A)c ,
c  Rn
20
ЧИСЛЕННЫЕ МЕТОДЫ ПСЕВДООБРАЩЕНИЯ
ИСПОЛЬЗОВАНИЕ
Пусть A  Rmn ,
QR  РАЗЛОЖЕНИЯ
rank A  n
Матрица A допускает представление
A  QR ,
где
Q - матрица размера m  n с ортонормированными
столбцами
R - верхняя треугольная матрица размера n  n с
положительными диагональными элементами
Тогда
A  R1QT
21
ЧИСЛЕННЫЕ МЕТОДЫ ПСЕВДООБРАЩЕНИЯ
ИСПОЛЬЗОВАНИЕ СКЕЛЕТНОГО РАЗЛОЖЕНИЯ
Пусть A  Rmn ,
rank A  r
Скелетное разложение матрицы A :
A  BC , где
B  Rmr , C  Rrn
Тогда
A  C  B ,
где
B  ( BT B)1 BT
C   CT (CCT )1
22
ЧИСЛЕННЫЕ МЕТОДЫ ПСЕВДООБРАЩЕНИЯ
МЕТОД ГРЕВИЛЯ
Пусть A  Rmn ,
rank A  r
Идея метода заключается в последовательном псевдообращении
матриц
A1 , A2 ,..., An  A
где Aj ( j  1, 2,..., n) есть матрица, составленная из первых
столбцов исходной матрицы A .
A1 , A2 ,..., An  A
Замечание.
В процессе численной реализации как метода, основанного на скелетном разложении матрицы, так и метода Гревиля возникает задача
определения ранга матрицы. Однако с учетом неизбежного накопления
вычислительных погрешностей ранг не всегда может быть указан
точно. И это может привести к существенному искажению результата.
23
ЧИСЛЕННЫЕ МЕТОДЫ ПСЕВДООБРАЩЕНИЯ
ИСПОЛЬЗОВАНИЕ СИНГУЛЯРНОГО РАЗЛОЖЕНИЯ
A  V T U T
A  U V
 1

2

 



0

r


0
  R m n


0

 11

 1

2


 



0

 r1



0
 R n m



0 
Замечание. Возникает проблема: какие из вычисленных малых сингулярных
чисел в действительности являются нулями ?
Пример :
0 
1
A
6 
0
10


1
B
0
0
0 
 A
1
0 
1

6
0
10


1
 B  
0
0
0 
24
ЛИТЕРАТУРА
• Ben-Israel A. and T. Greville. Generalized Inverses: Theory and
Applications, 2nd ed.- Springer, New York, 2003.
• Rao C.R. and S.K. Mitra. Generalized Inverses of Matrices and its
Applications.- Wiley, New York, 1971.
• Golub G.H. and Ch. van Loan. Matrix Computations, 3rd ed.- The
Johns Hopkins University Press, 1996.
• Алберт А. Регрессия, псевдоинверсия и рекуррентное
оценивание.- М., Наука, 1977.
• Лоусон Ч., Р.Хенсон. Численное решение задач метода
наименьших квадратов.- М., Наука, 1986.
25
И В ЗАКЛЮЧЕНИЕ…
НЕМНОГО МАГИИ
26
МАГИЧЕСКИЕ И ПОЛУМАГИЧЕСКИЕ КВАДРАТЫ
Магический квадрат – это квадратная таблица, заполненная числами таким образом, что сумма чисел в каждой
строке, каждом столбце и на обоих диагоналях одинакова.
16 3 2 13
5 10 11 8 Магический квадрат на гравюре
А.Дюрера “Меланхолия”, 1514 г.
9 6 7 12
4 15 14 1
Полумагический квадрат – квадратная таблица,
в которой сумма чисел в каждой строке и каждом
столбце одинакова.
3 8 9 12
14 7 2 3
11 10 1 6
4 1 16 5
27
ПОЛУМАГИЧЕСКИЕ КВАДРАТЫ
ОБРАЩЕНИЕ И ПСЕВДООБРАЩЕНИЕ
N.A. Khan. Characteristic roots of semi-magic square matrices.American Mathematical Monthly, v.64, 1957, 261-263.
Если матрица A есть невырожденный полумагический квадрат
с магической суммой s , то A1 - также полумагический квардат
с магической суммой s 1 .
K. Schmidt and G. Trenkler. The Moore-Penrose inverse of a semi-magic
square is semi-magic.- International Journal of Mathematical Education in
Science and Technology, v.32, No. 4, 2007, 624-629.
Если матрица A - полумагический квадрат с магической суммой s ,
то A также полумагический квардат с магической суммой s  .
28
МАГИЧЕСКИЕ ПРЯМОУГОЛЬНИКИ
Yu.R. Hakopian, A.N. Eloyan and D.E. Khachatryan. About magic
rectangles.- International Journal of Mathematical Education in Science
and Technology, v.37, No. 4, 2006, 475-503.
Рассматривается матрица размера m  n :
 a11
a
A   21


 am1
a12
a22
am 2
a1n 
a2 n 
,


amn 
! Соотношение: mr  nc
n
 aij
 r , i  1, 2,..., m
j 1
m
 aij
 c , j  1, 2,..., n
i 1
1 0 5 
A
, r  6, c  4

3 4 1
Множество магических прямоугольников: MR (m, n ; r , c)
Теорема. Если A  MR (m, n ; r , c), то A  MR (n, m; r  , c )
29
БЛОЧНО-МАГИЧЕСКИЕ ПРЯМОУГОЛЬНИКИ
Рассматриваются матрицы размера m  n , представленные в блочном виде
 A11
A
21
A


 Ap1
Aij  MR (mi , n j ; rij , cij )
i  1, 2,..., p ; j  1, 2,..., q
A1q 
A2 q 
,


Apq 
A12
A22
Ap 2
p
 mi
m,
i 1
q
 nj
n
j 1
Множество блочно-магических прямоугольников: BMR ( M , N ; R, C ), где
 m1

M 



 r11
r
21
R


 rp1
m2
0
r12
r22
rp 2
0


,


m p 
 n1

N 



r1q 
r2 q 
,


rpq 
 c11
c
21
C


c p1
n2
0
c12
c22
cp2
0





nq 
c1q 
c2 q 


c pq 
30
БЛОЧНО-МАГИЧЕСКИЕ ПРЯМОУГОЛЬНИКИ
ОБРАЩЕНИЕ МУРА-ПЕНРОУЗА
Yu.R. Hakopian and A.N. Eloyan. The Moore-Penrose inverse of block
magic rectangles.- International Journal of Mathematical Education in
Science and Technology, v.38, No. 8, 2007, 1093-1123.
Теорема. Если
где
A  BMR (M , N ; R, C ), то A  BMR ( N , M ; R, C),
R  N 1/2 (M 1/2 RN 1/2 ) M 1/2 ,
C  N1/2 (M 1/2CN1/2 ) M 1/2
Следствие.
B B
B B
A


B B
B
B 


B

 B
 
1
B
A 
pq 
 
 B
B
B
B
B 

B 


B  
31
СПАСИБО ЗА
ВНИМАНИЕ !