BLOCK GENERALIZED METHOD OF MINIMAL INCONSISTENCIES

Cover Page

Cite item

Full Text

Open Access Open Access
Restricted Access Access granted
Restricted Access Subscription Access

Abstract

This paper presents a block extension of the generalized minimum residual method (GMRES) with a new block reduction technology. Unlike the currently known methods, a block can be reduced not only when it has degenerated, but also when a part of the residuals converges with the required accuracy or when the residuals become linearly dependent with a given accuracy. In addition, the method makes it possible to continue the process when adding new right-hand sides. At the same time, after reducing the block and adding new right-hand sides, the method retains its compact form and low complexity. This makes it possible to use it in cases where not all the right-hand sides are known in advance. It also makes it possible to limit the maximum block size, thus balancing between performance and the final dimension of the space, i.e. the required memory. Numerical experiments confirm the high efficiency of the method in comparison with the non-block extension of GMRES and its naive block generalization.

About the authors

S. V Sukmanyuk

Lomonosov Moscow State University

Email: s.sukman@yandex.ru
Moscow, Russia

D. A Zheltkov

Marchuk Institute of Computational Mathematics RAS

Email: d.zhelikov@innr.ras.ru
Moscow, Russia

References

  1. Stavtsev S.L., Tyryshnikov E.E. Application of mosaic-skeleton approximations for solving EFIE // Progress in Electromagnetics Research Symposium. 2009. P. 1752–1755.
  2. Buccini A., Donatelli M., Onisk L., Reichel L. Flexible iterative methods for linear systems of equations with multiple right-hand sides // Numerical Algorithms. 2025. P. 1–29.
  3. Parlett B.N. A new look at the Lanczos algorithm for solving symmetric systems of linear equations // Linear algebra and its applications. 1980. V. 29. P. 323–346.
  4. Saad Y. On the Lanczos method for solving symmetric linear systems with several right-hand sides // Mathematics of computation. 1987. V. 48. № 178. P. 651–662.
  5. Saad Y., Yeung M., Erhel J., Guyonarc'h F. A deflated version of the conjugate gradient algorithm // SIAM Journal on Scientific Computing. V. 21. № 178. P. 1909–1926.
  6. Simoncini V., Gallopoulos E. An iterative method for nonsymmetric systems with multiple right-hand sides // SIAM Journal on Scientific Computing. 1995. V. 16. № 4. P. 917–933.
  7. Nachtiqal N.M., Reichel L., Trefethen L.N. A hybrid GMRES algorithm for nonsymmetric linear systems // SIAM Journal on Matrix Analysis and Applications. 1992. V. 13. № 3. P. 796–825.
  8. Smith C.F. The performance of preconditioned iterative methods in computational electromagnetics. University of Illinois at Urbana-Champaign, 1987.
  9. Chan T.F., Wan W.L. Analysis of projection methods for solving linear systems with multiple right-hand sides // SIAM Journal on Scientific Computing. 1997. V. 18. № 6. P. 1698–1721.
  10. Lingen F.J. A Generalised Conjugate Residual method for the solution of non-symmetric systems of equations with multiple right-hand sides // International journal for numerical methods in engineering. 1999. V. 44. № 5. P. 641–656.
  11. Sukmanyuk S., Zhelikov D., Yaliakhmetov B. Generalized minimal residual method for systems with multiple right-hand sides // arXiv preprint arXiv:2408.05513. 2024.
  12. Morgan R.B. GMRES with deflated restarting // SIAM Journal on Scientific Computing. 2002. V. 24. № 1. P. 20–37.
  13. Giraud L., Gratton S., Pinel X., Vasseur X. Flexible GMRES with deflated restarting // SIAM Journal on Scientific Computing. 2010. V. 32. № 4. P. 1858–1878.
  14. Morgan R.B. A restarted GMRES method augmented with eigenvectors // SIAM Journal on Matrix Analysis and Applications. 1995. V. 16. № 4. P. 1154–1171.
  15. Morgan R.B. Implicitly restarted GMRES and Arnoldi methods for nonsymmetric systems of equations // SIAM Journal on Matrix Analysis and Applications. 2000. V. 21. № 4. P. 1112-1135.
  16. Chapman A., Saad Y. Deflated and augmented Krylov subspace techniques // Numerical linear algebra with applications. 1997. V. 4. № 1. P. 43–66.
  17. Saad Y., Schultz M.H. GMRES: A generalized minimal residual algorithm for solving nonsymmetric linear systems // SIAM Journal on scientific and statistical computing. 1986. V. 7. № 3. P. 856–869.
  18. Eisenstat S.C., Elman H.C., Schultz M.H. Variational iterative methods for nonsymmetric systems of linear equations // SIAM Journal on Numerical Analysis. 1983. V. 20. № 2. P. 345–357.
  19. Simoncini V., Gallopoulos E. Convergence properties of block GMRES and matrix polynomials // Linear Algebra and its Applications. 1996. V. 247. P. 97–119.
  20. Vital B. Etude de quelques méthodes de resolution de problemes lineaires de grande taille sur multiprocesseur. Rennes 1. 1990.
  21. Cullum J., Willoughby R.A. A survey of Lanczos procedures for very large real ‘symmetric’ eigenvalue problems // Journal of Computational and Applied Mathematics. 1985. V. 12. P. 37–60.
  22. Cullum J., Zhang T. Two-sided Arnoldi and nonsymmetric Lanczos algorithms // SIAM Journal on Matrix Analysis and Applications. 2002. V. 24. № 2. P. 303–319.
  23. Robbe M., Sadkane M. Exact and inexact breakdowns in the block GMRES method // Linear algebra and its applications. 2006. V. 419. № 1. P. 265–285.
  24. Gurknecht M.H. Block Krylov space methods for linear systems with multiple right-hand sides: an introduction // Modern mathematical models, methods and algorithms for real world systems. Anshan, 2007. P. 420–447.
  25. Arnoldi W.E. The principle of minimized iterations in the solution of the matrix eigenvalue problem // Quarterly of applied mathematics. 1951. V. 9. № 1. P. 17–29.
  26. Chan T.F. Rank revealing QR factorizations // Linear algebra and its applications. 1987. V. 88. P. 67–82.
  27. Chandrasekaran S., Ipsen I.C.F. On rank-revealing factorisations // SIAM Journal on Matrix Analysis and Applications. 1994. V. 15. № 2. P. 592–622.
  28. Bischof C.H., Hansen P.C. Structure-preserving and rank-revealing QR-factorizations // SIAM Journal on Scientific and Statistical Computing. 1991. V. 12. № 6. P. 1332–1350.
  29. Bischof C.H., Quintana-Ort G. Computing rank-revealing QR factorizations of dense matrices // ACM Transactions on Mathematical Software (TOMS). 1998. V. 24. № 2. P. 226–253.
  30. Bischof C.H., Hansen P.C. A block algorithm for computing rank-revealing QR factorizations // Numerical Algorithms. 1992. V. 2. № 3. P. 371–391.

Supplementary files

Supplementary Files
Action
1. JATS XML
Download

Copyright (c) 2025 Russian Academy of Sciences

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».