Необходимые и достаточные условия локального минимума в

Необходимые и достаточные условия локального минимума в задачах
математического программирования
(справочный обзор)
1. Задача безусловной минимизации:
Необходимые условия:
1.1. В точке нет направлений спуска, т.е.
1.2.
1.3. Теорема Ферма:
.
имеет локальный минимум в точке
стационарна, т.е.
1.4. Квадратичное условие:
стационарна и
.
Достаточные условия:
стационарна и
2. Задача на условный экстремум



;
линейно независимы;
Общая функция Лагранжа
при


нормальная;
вектор
касательный к множеству D в нормальной точке
удовлетворяет линеаризованным (в ) ограничениями задачи –
, если
Необходимые условия 1-го порядка:
2.1. В нормальной точке нет направлений спуска функции f, касательных к D в точке ,
т.е. не совместна линейная система
2.2. Принцип Лагранжа:
множителей
(причем с единственным набором
в нормальном случае и с набором вида
в анормальном).

Необходимые условия 2-го порядка требуют введения дополнительных объектов:
множество всех наборов Лагранжа, с которыми удовлетворяет принципу
Лагранжа и нормированных, например, условием
если
нормальная точка,
то
состоит из одной точки;

конус критических направлений в точке
условиями

верхняя огибающая (максимум) по
функции Лагранжа в точке , т.е.
(это уже не квадратичная форма, если
2.3.
, который задается линейными
вторых дифференциалов
состоит более чем из одной точки!)
Квадратичные необходимые условия локального минимума (а) – упрощенный,
нор-мальный случай):
а) стационарная и, в случае нормальности,
на всех касательных векторах к множеству D в
б) в общем случае
(т.е.
);
стационарна и
2.4. Квадратичные достаточные условия строгого локального минимума (получаются усилением условия 2.3):
а) стационарная и, в случае нормальности,
б) в общем случае
стационарна и
(если
не содержит нетривиальных векторов, - то это условие считается
выполненным автоматически).
3. Задача оптимизации с ограничениями типа неравенства
где все
 Функция Лагранжа

множество индексов ограничений, активных в
точке , дополненное индексом «0» целевой функции; обычно
называют
просто множеством активных индексов;
Необходимые условия 1-го порядка:
3.1. Не существует направления спуска в , общего для всех «активных»
совместна следующая система строгих линейных неравенств
, т.е. не
3.2. Редукция к негладкой задаче оптимизации без ограничений: функция
имеет безусловный локальный минимум в .
3.3. Принцип Лагранжа:

вектор
, такой, что выполняются условия:
множество всех наборов множителей Лагранжа
, с которыми
удовлетворяет принципу Лагранжа и нормированных условием
(вместо «1» можно брать любое число > 0).
Принцип Лагранжа условию
Если он выполнен, то называется стационарной точкой задачи.
Условия 2-го порядка

конус критических направлений в точке
нестрогих линейных неравенств
, который задается системой

максимум по
вторых дифференциалов функции Лагранжа в
точке , т.е.
3.4. Квадратичная необходимость:
стационарна и
3.5. Квадратичная достаточность для строгого локального минимума в :
стационарна и
5. Безусловная минимизация функции максимума (негладкая задача без
ограничений)
где
не дифференцируема в общем случае, но имеет производную по любому
направлению, которое вычисляется по формуле
,
где
множество активных индексов в .
5.1. Редукция к гладкой задаче с ограничениями-неравенствами (ср. с 3.1): рассматриваемая задача эквивалентна следующей задаче в
:
применимость к данной негладкой задаче всех условий для задачи 3. В частности
отсюда (или из формулы для производной по направлению) выводится
5.2. Необходимое условие локального минимума в :
, такой, что
(для
).
6. Задача выпуклого программирования
где все
выпуклые функции на
,
выпуклое множество в
.
 Функция Лагранжа
Теорема Куна-Таккера:
1. Необходимость. Если
решение задачи, т.е.
, то существует
набор множителей Лагранжа
, такой, что выполняются условия:
а)
б)
( принцип минимума).
2. Достаточность. Если в наборе
множитель
нормальности), то
решение задачи.
(выполнено условие
3. Условие регулярности Слейтера, гарантирующее нормальность:
.
При выполнении условия регулярности Слейтера эта теорема переформулируется в
форме теоремы о седловой точке нормальной функции Лагранжа:
Теорема Куна-Таккера о седловой точке.
Если выполнено условие Слейтера, то следующие условия равносильны:
1)
решение задачи;
2) существует вектор
, такой, что точка
является седловой точкой
нормальной функции Лагранжа на множестве
, т.е.
.
 Левое равенство означает, что
ограничений-неравенств
является решением выпуклой задачи без
(при
это задача без ограничений). Более того, из него следуют условия
дополняющей нежесткости.