Гибридная глобализация сходимости метода Левенберга-Марквардта для задач оптимизации с ограничениями-равенствами

  • Авторы: Измаилов А.Ф.1, Усков Е.И.2
  • Учреждения:
    1. ФГБОУ ВО «Московский государственный университет им. М.В. Ломоносова»
    2. ФГБОУ ВО «Тамбовский государственный университет им. Г.Р. Державина»
  • Выпуск: Том 30, № 149 (2025)
  • Страницы: 41-55
  • Раздел: Статьи
  • URL: https://bakhtiniada.ru/2686-9667/article/view/304173
  • ID: 304173

Цитировать

Полный текст

Аннотация

Метод Левенберга-Марквардта обладает локальной сверхлинейной сходимостью для общих систем нелинейных уравнений при слабых предположениях, допускающих неизолированность решений. Это обосновывает его применение к системам условий первого порядка оптимальности для задач условной оптимизации при возможном нарушении условий регулярности ограничений, что влечет неединственность множителей Лагранжа. Однако, существующие стратегии глобализации сходимости метода ЛевенберГа-Марквардта не являются оптимизационными, т.е., в случае применения к задачам оптимизации, направлены на поиск не решений, а любых стационарных точек таких задач. В этой работе предлагаются оптимизационные стратегии глобализации сходимости метода Левенберга-Марквардта для задач оптимизации с ограничениями-равенствами. Стратегии носят гибридный характер, a именно, основаны на комбинировании глобально сходящегося оптимизационного метода внешней фазы с асимптотическим переключением на метод Левенберга-Марквардта. Установлены свойства глобальной сходимости и сверхлинейная скорость. Приводятся численные результаты, подтверждающие работоспособность предложенных гибридных алгоритмов.

Об авторах

Алексей Феридович Измаилов

ФГБОУ ВО «Московский государственный университет им. М.В. Ломоносова»

Автор, ответственный за переписку.
Email: izmaf@cs.msu.ru
ORCID iD: 0000-0001-9851-0524

доктор физико-математических наук, профессор кафедры исследования операций

Россия, 119992, ГСП-2, Российская Федерация, г. Москва, Ленинские горы, 1

Евгений Иванович Усков

ФГБОУ ВО «Тамбовский государственный университет им. Г.Р. Державина»

Email: euskov@cs.msu.ru
ORCID iD: 0000-0002-3639-0317

кандидат физико-математических наук, научный сотрудник НОЦ «Фундаментальные математические исследования»

Россия, 392000, Российская Федерация, г. Тамбов, ул. Интернациональная, 33

Список литературы

  1. А.Ф. Измаилов, М.В. Солодов, Численные методы оптимизации, 2-е изд., перераб. и доп., Физматлит, М., 2008.
  2. A.F. Izmailov, M.V. Solodov, Newton-Type Methods for Optimization and Variational Problems, Springer Series in Operations Research and Financial Engineering, Springer, Cham, 2014.
  3. A.F. Izmailov, M.V. Solodov, "Critical Lagrange multipliers: what we currently know about them, how they spoil our lives, and what we can do about it", TOP, 23:1 (2015), 1-26.
  4. S.J. Wright, "Superlinear convergence of a stabilized SQP method to a degenerate solution", Computational Optimization and Applications, 11:3 (1998), 253-275.
  5. W.W. Hager, "Stabilized sequential quadratic programming", Computational Optimization and Applications, 12:1-3 (1999), 253-273.
  6. S.J. Wright, "Modifying SQP for degenerate problems", SIAM J. on Optimization, 13:2 (2002), 470-497.
  7. D. Fernández, M.V. Solodov, "Stabilized sequential quadratic programming for optimization and a stabilized Newton-type method for variational problems", Mathematical Programming, 125:1 (2010), 47-73.
  8. A.F. Izmailov, M.V. Solodov, "Stabilized SQP revisited", Mathematical Programming, 133:1-2 (2012), 93-120.
  9. A.F. Izmailov, E.I. Uskov, "Subspace-stabilized sequential quadratic programming", Computational Optimization and Applications, 67:1 (2017), 129-154.
  10. A.F. Izmailov, M.V. Solodov, E.I. Uskov, "A globally convergent Levenberg-Marquard tmethod for equality-constrained optimization", Computational Optimization and Applications, 72:1 (2019), 215-239.
  11. A. Fischer, A.F. Izmailov, M.V. Solodov, "The Levenberg-Marquardt method: an overview of modern convergence theories and more", Computational Optimization and Applications, 89:1 (2024), 33-67.
  12. А.Ф. Измаилов, А.М. Крылова, Е.И. Усков, “Гибридная глобализация стабилизированного метода последовательного квадратичного программирования”, Теоретические и прикладные задачи нелинейного анализа, ВЦ РАН, М., 2011, 47–66.
  13. E.D. Dolan, J.J. More, "Benchmarking optimization software with performance profiles", Mathematical Programming, 91:2 (2002), 201-213.
  14. A.F. Izmailov, M.V. Solodov, E.I. Uskov, "Combining stabilized SQP with the augmented Lagrangian algorithm", Computational Optimization and Applications, 62:2 (2015), 405-429.
  15. A.F. Izmailov, E.I. Uskov, Yan Zhibai, "The piecewise Levenberg-Marquardt method for generalized Nash equilibrium problems", Advances in System Sciences and Applications, 24:2 (2024), 19-31 (to appear).

Дополнительные файлы

Доп. файлы
Действие
1. JATS XML


Creative Commons License
Эта статья доступна по лицензии Creative Commons Attribution 4.0 International License.

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».