Гибридная глобализация сходимости метода Левенберга-Марквардта для задач оптимизации с ограничениями-равенствами
- Авторы: Измаилов А.Ф.1, Усков Е.И.2
-
Учреждения:
- ФГБОУ ВО «Московский государственный университет им. М.В. Ломоносова»
- ФГБОУ ВО «Тамбовский государственный университет им. Г.Р. Державина»
- Выпуск: Том 30, № 149 (2025)
- Страницы: 41-55
- Раздел: Статьи
- URL: https://bakhtiniada.ru/2686-9667/article/view/304173
- ID: 304173
Цитировать
Полный текст
Аннотация
Метод Левенберга-Марквардта обладает локальной сверхлинейной сходимостью для общих систем нелинейных уравнений при слабых предположениях, допускающих неизолированность решений. Это обосновывает его применение к системам условий первого порядка оптимальности для задач условной оптимизации при возможном нарушении условий регулярности ограничений, что влечет неединственность множителей Лагранжа. Однако, существующие стратегии глобализации сходимости метода ЛевенберГа-Марквардта не являются оптимизационными, т.е., в случае применения к задачам оптимизации, направлены на поиск не решений, а любых стационарных точек таких задач. В этой работе предлагаются оптимизационные стратегии глобализации сходимости метода Левенберга-Марквардта для задач оптимизации с ограничениями-равенствами. Стратегии носят гибридный характер, a именно, основаны на комбинировании глобально сходящегося оптимизационного метода внешней фазы с асимптотическим переключением на метод Левенберга-Марквардта. Установлены свойства глобальной сходимости и сверхлинейная скорость. Приводятся численные результаты, подтверждающие работоспособность предложенных гибридных алгоритмов.
Об авторах
Алексей Феридович Измаилов
ФГБОУ ВО «Московский государственный университет им. М.В. Ломоносова»
Автор, ответственный за переписку.
Email: izmaf@cs.msu.ru
ORCID iD: 0000-0001-9851-0524
доктор физико-математических наук, профессор кафедры исследования операций
Россия, 119992, ГСП-2, Российская Федерация, г. Москва, Ленинские горы, 1Евгений Иванович Усков
ФГБОУ ВО «Тамбовский государственный университет им. Г.Р. Державина»
Email: euskov@cs.msu.ru
ORCID iD: 0000-0002-3639-0317
кандидат физико-математических наук, научный сотрудник НОЦ «Фундаментальные математические исследования»
Россия, 392000, Российская Федерация, г. Тамбов, ул. Интернациональная, 33Список литературы
- А.Ф. Измаилов, М.В. Солодов, Численные методы оптимизации, 2-е изд., перераб. и доп., Физматлит, М., 2008.
- A.F. Izmailov, M.V. Solodov, Newton-Type Methods for Optimization and Variational Problems, Springer Series in Operations Research and Financial Engineering, Springer, Cham, 2014.
- A.F. Izmailov, M.V. Solodov, "Critical Lagrange multipliers: what we currently know about them, how they spoil our lives, and what we can do about it", TOP, 23:1 (2015), 1-26.
- S.J. Wright, "Superlinear convergence of a stabilized SQP method to a degenerate solution", Computational Optimization and Applications, 11:3 (1998), 253-275.
- W.W. Hager, "Stabilized sequential quadratic programming", Computational Optimization and Applications, 12:1-3 (1999), 253-273.
- S.J. Wright, "Modifying SQP for degenerate problems", SIAM J. on Optimization, 13:2 (2002), 470-497.
- D. Fernández, M.V. Solodov, "Stabilized sequential quadratic programming for optimization and a stabilized Newton-type method for variational problems", Mathematical Programming, 125:1 (2010), 47-73.
- A.F. Izmailov, M.V. Solodov, "Stabilized SQP revisited", Mathematical Programming, 133:1-2 (2012), 93-120.
- A.F. Izmailov, E.I. Uskov, "Subspace-stabilized sequential quadratic programming", Computational Optimization and Applications, 67:1 (2017), 129-154.
- A.F. Izmailov, M.V. Solodov, E.I. Uskov, "A globally convergent Levenberg-Marquard tmethod for equality-constrained optimization", Computational Optimization and Applications, 72:1 (2019), 215-239.
- A. Fischer, A.F. Izmailov, M.V. Solodov, "The Levenberg-Marquardt method: an overview of modern convergence theories and more", Computational Optimization and Applications, 89:1 (2024), 33-67.
- А.Ф. Измаилов, А.М. Крылова, Е.И. Усков, “Гибридная глобализация стабилизированного метода последовательного квадратичного программирования”, Теоретические и прикладные задачи нелинейного анализа, ВЦ РАН, М., 2011, 47–66.
- E.D. Dolan, J.J. More, "Benchmarking optimization software with performance profiles", Mathematical Programming, 91:2 (2002), 201-213.
- A.F. Izmailov, M.V. Solodov, E.I. Uskov, "Combining stabilized SQP with the augmented Lagrangian algorithm", Computational Optimization and Applications, 62:2 (2015), 405-429.
- A.F. Izmailov, E.I. Uskov, Yan Zhibai, "The piecewise Levenberg-Marquardt method for generalized Nash equilibrium problems", Advances in System Sciences and Applications, 24:2 (2024), 19-31 (to appear).
Дополнительные файлы
