Выпуклый анализ
Выпуклый анализ — это ветвь математики, посвящённая изучению свойств выпуклых функций и выпуклых множеств, часто имеющая приложения в выпуклом программировании, подобласти теории оптимизации.
Выпуклые множества
Выпуклое множество является множеством для некоторого векторного пространства X, такое что для любых и [1]
- .
Выпуклая функция
Выпуклая функция — это любая расширенная вещественнозначная функция , которая удовлетворяет неравенству Йенсена, то есть, для любых и любой
- [1].
Эквивалентно, выпуклой функцией является любая (расширенная) вещественнозначная функция, такая что её надграфик
является выпуклым множеством[1].
Выпуклое сопряжение
Выпуклое сопряжение расширенной вещественнозначной (не обязательно выпуклой) функции — это функция , где X* является двойственным пространством пространства X[2], такая что
Двойное сопряжение
Двойное сопряжение функции — это сопряжение сопряжения, что обычно записывается как . Двойное сопряжение полезно, когда нужно показать, что выполняется сильная или слабая двойственность (с помощью функции возмущений).
Для любого неравенство вытекает из неравенства Фенхеля. Для собственной функции f = f** тогда и только тогда, когда f выпукла и полунепрерывна снизу по теореме Фенхеля — Моро[2][3].
Выпуклая минимизация
(Прямая) задача выпуклого программирования, это задача вида
такая что является выпуклой функцией, а является выпуклым множеством.
Двойственная задача
Принцип двойственности в оптимизации утверждает, что задачи оптимизации можно рассматривать с двух точек зрения, как прямую задачу или двойственную задачу.
общем случае, если дана двойственная пара[4] отделимых локально выпуклых пространств и функция , мы можем определить прямую задачу как нахождение такого , что Другими словами, — это инфимум (точная нижняя граница) функции .
Если имеются ограничения, они могут быть встроены в функцию , если положить , где — индикаторная функция. Пусть теперь (для другой двойственной пары ) будет функцией возмущений, такой что [5].
Двойственная задача для этой функции возмущения по отношению к выбранной задаче определяется как
где F* является выпуклым сопряжением по обоим переменным функции F.
Разрыв двойственности — это разность правой и левой частей неравенства
где — выпуклое сопряжение от обоих переменных, а означает супремум (точную верхнюю границу)[6][7][5][6].
Этот принцип тот же самый, что и слабая двойственность. Если обе стороны равны, говорят, что задача удовлетворяет условиям сильной двойственности.
Существует много условий для сильной двойственности, такие как:
- F = F**, где F является функцией возмущений для прямой и двойственной задач, а F** является двойным сопряжением функции F;
- прямая задача является задачей линейного программирования;
- Условие Слейтера для задач выпуклого программирования[8][9].
Двойственность Лагранжа
Для выпуклой задачи минимизации с ограничениями-неравенствами
- при условиях для i = 1, …, m.
двойственной задачей Лагранжа будет
- при условиях для i = 1, …, m,
где целевая функция L(x, u) является двойственной функцией Лагранжа, определённой следующим образом:
Примечания
- Rockafellar, 1997.
- Zălinescu, 2002, с. 75–79.
- Borwein, Lewis, 2006, с. 76–77.
- Двойственная пара — это тройка , где — векторное пространство над полем , — множество всех линейных отображений , а третий элемент — билинейная форма .
- Boţ, Wanka, Grad, 2009.
- Csetnek, 2010.
- Zălinescu, 2002, с. 106–113.
- Borwein, Lewis, 2006.
- Boyd, Vandenberghe, 2004.
Литература
- Осипенко К.Ю. Оптимизация. Ч. 1. Выпуклый анализ (консп. лекций). М.: МГУ. 57 с.
- Осипенко К.Ю. Выпуклый анализ (программа курса и консп. лекций). М.: МГУ. 68 с.
- Петров Н.Н. Выпуклый анализ (консп. лекций). Ижевск: УдмГУ, 2009. 160 с.
- Жадан В. Г. Методы оптимизации. Часть I. Введение в выпуклый анализ и теорию оптимизации: учеб. пос. для студ. вузов по направл. ... "Прикладные математика и физика". Москва : МФТИ, 2014. ISBN 978-5-7417-0514-8. (Ч. I). 271 с. Выпуск 300 шт.
- Элементы выпуклого и сильно выпуклого анализа : учебное пособие для студентов высших учебных заведений, обучающихся по направлению "Прикладные математика и физика" и смежным направлениям и специальностям / Е. С. Половинкин, М. В. Балашов. - 2-е изд., испр. и доп. - Москва : Физматлит, 2007. - 438 с.; 22 см. - (Физтеховский учебник).; ISBN 978-5-9221-0896-6
- Протасов В.Ю. Выпуклый анализ (консп. лекций. Мехмат МГУ, экономич. поток, 2009 г.). М.: МГУ.
- Jonathan Borwein, Adrian Lewis. Convex Analysis and Nonlinear Optimization: Theory and Examples. — 2. — Springer, 2006. — ISBN 978-0-387-29570-1.
- Stephen Boyd, Lieven Vandenberghe. Convex Optimization. — Cambridge University Press, 2004. — ISBN 978-0-521-83378-3.
- R. Tyrrell Rockafellar. Convex Analysis. — Princeton, NJ: Princeton University Press, 1997. — ISBN 978-0-691-01586-6.
- Radu Ioan Boţ, Gert Wanka, Sorin-Mihai Grad. Duality in Vector Optimization. — Springer, 2009. — ISBN 978-3-642-02885-4.
- Constantin Zălinescu. Convex analysis in general vector spaces. — River Edge, NJ: World Scientific Publishing Co., Inc., 2002. — С. 106–113. — ISBN 981-238-067-1.
- Ernö Robert Csetnek. Overcoming the failure of the classical generalized interior-point regularity conditions in convex optimization. Applications of the duality theory to enlargements of maximal monotone operators. — Logos Verlag Berlin GmbH, 2010. — ISBN 978-3-8325-2503-3.
- Jonathan Borwein, Adrian Lewis. Convex Analysis and Nonlinear Optimization: Theory and Examples. — 2. — Springer, 2006. — ISBN 978-0-387-29570-1.
- Hiriart-Urruty J.-B., Lemaréchal C. Fundamentals of convex analysis. — Berlin: Springer-Verlag, 2001. — ISBN 978-3-540-42205-1.
- Ivan Singer. Abstract convex analysis. — New York: John Wiley & Sons, Inc., 1997. — С. xxii+491. — (Canadian Mathematical Society series of monographs and advanced texts). — ISBN 0-471-16015-6.
- Stoer J., Witzgall C. Convexity and optimization in finite dimensions. — Berlin: Springer, 1970. — Т. 1. — ISBN 978-0-387-04835-2.
- Kusraev A.G., Kutateladze S.S. Subdifferentials: Theory and Applications. — Dordrecht: Kluwer Academic Publishers, 1995. — ISBN 978-94-011-0265-0.
- Кусраев А. Г., Кутателадзе С. С. Субдифференциалы. Теория и приложения. Ч. 2. — 2-е, перераб.. — Новосибирск: Изд-во Ин-та математики, 2003. — ISBN 5–86134–116–8.