Если метод сходится, то есть , где
– точное решение
– k-тое приближение к точному решению, то итерационный процесс следовало бы закончить по достижению заданной погрешности , где e – заданная точность (погрешность).
Однако практически это условие выполнить нельзя, так как неизвестно, тогда для окончания итерационного процесса можно воспользоваться неравенствами , или , где и – заданные величины.
При таком окончании итераций погрешность может возрасти по сравнению с и, поэтому, чтобы не увеличивалась, величины и соответственно уменьшают или увеличивают число итераций.
Методы простой итерации, Зейделя, модифицированный метод Ньютона, метод наискорейшего спуска (см. [1], [2], [3], [4]) являются методами первого порядка – это значит, что имеет место неравенство , k =1, 2,..., где – константа, своя у каждого метода, зависящая от выбора начального приближения , функции fi, i = 1, 2,..., n, и их частных производных первого и второго порядков – точнее их оценок в некоторой окрестности искомого решения, которой принадлежит начальное приближение.
Метод Ньютона является методом второго порядка, то есть для него имеет место неравенство , k =1, 2,..., где – константа, зависящая от тех же величин, что и константа .
А теперь рассмотрим достаточные условия сходимости метода простой итерации и метода Ньютона.
Сходимость процесса простой итерации зависит от двух условий. Первое условие состоит в том, что какая-нибудь точка должна оказаться близкой к исходному решению . Степень необходимой близости зависит от функций j1 , j2,..., jn. Это требование не относится к системам линейных уравнений, для которых сходимость процесса простой итерации зависит только от второго условия.
Второе условие связано с матрицей, составленной из частных производных первого порядка функций j1 , j2,..., jn – матрицей Якоби
,
вычисленных в точке .
В случае, когда рассматривается система линейных алгебраических уравнений, матрица M состоит из постоянных чисел – коэффициентов, стоящих при неизвестных в правой части уравнения (3). В случае нелинейных уравнений элементы матрицы M зависят, вообще говоря, от . Для сходимости процесса простой итерации достаточно, чтобы выполнялось неравенство: для из некоторой окрестности точного решения , которой должно принадлежать начальное приближение .
Приведем также достаточные условия сходимости метода Ньютона для системы уравнений вида (2) по норме .
Предположим, что имеется начальное приближение к искомому решению системы (2) , функции непрерывны и имеют непрерывные частные производные до второго порядка в шаре , тогда, если выполнены условия:
1) Матрица Якоби системы (2) на начальном приближении имеет обратную и известна оценка нормы обратной матрицы ,
2) Для всех точек шара выполнено неравенство
при i, j = 1, 2,..., n,
3) Выполнено неравенство
,
где L – постоянная 0 £ L £ 1,
4) Числа b, N, r подчинены условию a = nbNr < 0,4, тогда система уравнений (2) в шаре имеет единственное решение, к которому сходятся последовательные приближения (8) или (7’), (9’).
Для других методов условия сходимости имеют сложный вид, и мы отсылаем читателя к специальной литературе [1], [2], [3], [4].