Учебная работа № 1953. Решение систем линейных алгебраических уравнений методом Гаусса и Зейделя

Учебная работа № 1953. Решение систем линейных алгебраических уравнений методом Гаусса и Зейделя

Содержание

1

1. Теоретическая часть 1

1.1. Метод Гаусса 1

1.2. Метод Зейделя 4

1.3. Сравнение прямых и итерационных методов 6

2. Практическая часть 7

2.1 Программа решения системы линейных уравнений по методу Гаусса 7

2.2 Программа решения системы линейных уравнений по методу Зейделя 10

Решение систем линейных алгебраических уравнений – одна из основных задач вычислительной линейной алгебры. Хотя задача решения системы линейных уравнений сравнительно редко представляет самостоятельный интерес для приложений, от умения эффективно решать такие системы часто зависит сама возможность математического моделирования самых разнообразных процессов с применением ЭВМ. Значительная часть численных методов решения различных (в особенности – нелинейных) задач включает в себя решение систем линейных уравнений как элементарный шаг соответствующего алгоритма.

Одна из трудностей практического решения систем большой размерности связанна с ограниченностью оперативной памяти ЭВМ. Хотя обьем оперативной памяти вновь создаваемых вычислительных машин растет очень быстро, тем не менее, еще быстрее возрастают потребности практики в решении задач все большей размерности. В значительной степени ограничения на размерность решаемых систем можно снять, если использовать для хранения матрицы внешние запоминающие устройства. Однако в этом случае многократно возрастают как затраты машинного времени, так и сложность соответствующих алгоритмов. Поэтому при создании вычислительных алгоритмов линейной алгебры большое внимание уделяют способам компактного размещения элементов матриц в памяти ЭВМ.

К счастью, приложения очень часто приводят к матрицам, в которых число ненулевых элементов много меньше общего чила элементов матрицы. Такие матрицы принято называть разреженными . Одним из основных источников разреженных матриц являются математические модели технических устройств, состоящих из большого числа элементов, связи между которыми локальны. Простейшие примеры таких устройств – сложные строительные конструкции и большие электрические цепи.

Известны примеры решенных в последние годы задач, где число неизвестных достигало сотен тысяч. Естественно, это было бы невозможно, если бы соответствующие матрицы не являлись разреженными (матрица системы из 100 тыс. уравнений в формате двойной точности заняла бы около 75 Гбайт).

1. Теоретическая часть

1.1. Метод Гаусса

Одним из самых распространенных методов решения систем линейных уравнений является метод Гаусса. Этот метод (который также называют методом последовательного исключения неизвестных ) известен в различных вариантах уже более 2000 лет.

Вычисления с помощью метода Гаусса заключаются в последовательном исключении неизвестных из системы для преобразования ее к эквивалентной системе с верхней треугольной матрицей. Вычисления значений неизвестных производят на этапе обратного хода.

1.1.1. Схема единственного деления. Рассмотрим сначала простейший вариант метода Гаусса, называемый схемой единственного деления .

Прямой ход состоит из n 1 шагов исключения.

1й шаг. Целью этого шага является исключение неизвестного x ₁ из уравнений с номерами i = 2, 3, …, n . Предположим, что коэффициент a ₁₁ ¹ 0. Будем называть его главным элементом 1го шага .

Найдем величины

q_{i 1} = a_{i 1} /a ₁₁ (i = 2, 3, …, n ),

называемые множителями 1го шага . Вычтем последовательно из второго, третьего, …, n го уравнений системы первое уравнение, умноженное соответственно на q_{2 1} , q ₃₁ , …, q_{n 1} . Это позволит обратить в нуль коэффициенты при x ₁ во всех уравнениях, кроме первого. В результате получим эквивалентную систему

a ₁₁ x ₁ + a ₁₂ x ₂ + a ₁₃ x ₃ + … + a _1n x_n = b ₁ ,

a ₂₂ ⁽¹⁾ x ₂ + a ₂₃ ⁽¹⁾ x ₃ + … + a _2n ⁽¹⁾ x_n = b ₂ ⁽¹⁾ ,

a ₃₂ ⁽¹⁾ x ₂ + a ₃₃ ⁽¹⁾ x ₃ + … + a _3n ⁽¹⁾ x_n = b ₃ ⁽¹⁾ ,

. . . . . . . . . . . . . . .

a_{n 2} ⁽¹⁾ x ₂ + a_{n 3} ⁽¹⁾ x ₃ + … + a_nn ⁽¹⁾ x_n = b_n ⁽¹⁾ .

в которой a_ij ⁽¹⁾ и b_ij ⁽¹⁾ вычисляются по формулам

a_ij ⁽¹⁾ = a_ij − q_{i 1} a _1j , b_i ⁽¹⁾ = b_i − q_{i 1} b ₁ .

2й шаг. Целью этого шага является ислючение неизвестного x ₂ из уравнений с номерами i = 3, 4, …, n . Пусть a ₂₂ ⁽¹⁾ ≠ 0, где a ₂₂ ⁽¹⁾ ­– коэффициент, называемый главным (или ведущим ) элементом 2го шага . Вычислим множители 2го шага

q_{i 2} = a_{i 2} ⁽¹⁾ / a ₂₂ ⁽¹⁾ (i = 3, 4, …, n )

и вычтем последовательно из третьего, четвертого, …, n го уравнения системы второе уравнение, умноженное соответственно на q ₃₂ , q ₄₂ , …, q_{m 2} . В результате получим систему

a ₁₁ x ₁ + a ₁₂ x ₂ + a ₁₃ x ₃ + … + a _1n x_n = b ₁ ,

a ₂₂ ⁽¹⁾ x ₂ + a ₂₃ ⁽¹⁾ x ₃ + … + a _2n ⁽¹⁾ = b ₂ ⁽¹⁾ ,

a ₃₃ ⁽²⁾ x ₃ + … + a _3n ⁽²⁾ x_n = b ₃ ⁽²⁾ ,

. . . . . . . . . . . . . . . . . . .

a_{n 3} ⁽²⁾ x ₃ + … + a_nn ⁽²⁾ x_n = b_n ⁽²⁾ .

Здесь коэффициенты a_ij ⁽²⁾ и b_ij ⁽²⁾ вычисляются по формулам

a_ij ⁽²⁾ = a_ij ⁽¹⁾ – q_{i 2} a _2j ⁽¹⁾ , b_i ⁽²⁾ = b_i ⁽¹⁾ – q_{i 2} b ₂ ⁽¹⁾ .

Аналогично проводятся остальные шаги. Опишем очередной k й шаг.

k й шаг. В предположении, что главный (ведущий ) элемент k го шага a_kk ^{(k –1)} отличен от нуля, вычислим множители kго шага

q_ik = a_ik ^{(k –1)} / a_kk ^{(k –1)} (i = k + 1, …, n )

и вычтем последовательно из (k + 1)го, …, n го уравнений полученной на предыдущем шаге системы k e уравнение, умноженное соответственно на q_{k +1,k} , q_{k +2,k} , …, q_nk .

После (n 1)го шага исключения получим систему уравнений

a ₁₁ x ₁ + a ₁₂ x ₂ + a ₁₃ x ₃ + … + a _1n x_n = b ₁ ,

a ₂₂ ⁽¹⁾ x ₂ + a ₂₃ ⁽¹⁾ x ₃ + … + a _2n ⁽¹⁾ x_n = b ₂ ⁽¹⁾ ,

a ₃₃ ⁽²⁾ x ₃ + … + a _3n ⁽²⁾ x_n = b ₃ ⁽²⁾ ,

. . . . . . . . . . . . . . . . . . . .

a_nn ^{(n –1)} x_n = b_n ^{(n –1)} .

матрица A ^{(n 1)} которой является верхней треугольной. На этом вычисления прямого хода заканчиваются.

Обратный ход. Из последнего уравнения системы находим xn. Подставляя найденное значение x_n в предпоследнее уравнение, получим x_{n –1} . Осуществляя обратную подстановку, далее последовательно находим x_{n –1} , x_{n –2} , …, x ₁ . Вычисления неизвестных здесь проводятся по формулам

x_n = b_n ^{(n –1)} / a_nn ^{(n –1)} ,

x_k = (b_n ^{(k –1)} – a_{k ,k +1} ^{(k –1)} x_{k +1} – … – a_kn ^{(k –1)} x_n ) / a_kk ^{(k –1)} , (k = n – 1, …, 1).

Необходимость выбора главных элементов. Заметим, что вычисление множителей, а также обратная подстановка требуют деления на главные элементы a_kk ^{(k –1)} . Поэтому если один из главных элементов оказывыется равным нулю, то схема единственного деления не может быть реализована. Здравый смысл подсказывает, что и в ситуации, когда все главные элементы отличны от нуля, но среди них есть близкие к нулю, возможен неконтролируемый рост погрешности.

1.1.2. Метод Гаусса с выбором главного элемента по столбцу (схема частичного выбора). Описание метода. На k м шаге прямого хода коэффициенты уравнений системы с номерами i = k + 1, …, n преобразуются по формулам

a_ij ^{(k )} = a_ij ^{(k –1)} − q_ik a_kj , b_i ^{(k )} = b_i ^{(k –1)} − q_ik b_k ^{(k –1)} , i = k + 1, …, n .

Интуитивно ясно, что во избежание сильного роста коэффициентов системы и связанных с этим ошибок нельзя допускать появления больших множителей q_ik .

В методе Гаусса с выбором главного элементоа по столбцу гарантируется, что |q_ik | ≤ 1 для всех k = 1, 2, …, n – 1 и i = k + 1, …, n . Отличие этого варианта метода Гаусса от схемы единственного деления заключается в том, что на k м шаге исключения в качестве главного элемента выбирают максимальный по модулю коэффициент a_ikk при неизвестной x_k в уравнениях с номерами i = k + 1, …, n . Затем соответствующее выбранному коэффициенту уравнение с номером i_k меняют местами с k м уравнением системы для того, чтобы главный элемент занял место коэффициента a_kk ^{(k 1)} . После этой перестановки исключение неизвестного x_k производят, как в схеме единственного деления.

1.1.3. Метод Гаусса с выбором главного элемента по всей матрице (схема полного выбора). В этой схеме допускается нарушение естественного порядка исключения неизвестных.

На 1м шаге мтода среди элементов a_ij определяют максимальный по модулю элемент a_{i 1j 1} . Первое уравнение системы и уравнение с номером i ₁ меняют местами. Далее стандартным образом производят исключение неизвестного x_{i 1} из всех уравнений, кроме первого.

На k м шаге метода среди коэффициентов a_ij ^{(k –1)} при неизвестных в уравнениях системы с номерами i = k , …, n выбирают максимальный по модулю коэффициент a_ikjk ^{(k 1)} . Затем k е уравнение и уравнение, содержащее найденный коэффициент, меняют местами и исключают неизвестное x_jk из уравнений с номерами i = k + 1, …, n .

На этапе обратного хода неизвестные вычисляют в следующем порядке: x_jn , x_{jn– 1} , …, x_{j 1} .

1.2. Метод Зейделя

1.2.1. Приведение системы к виду, удобному для итераций. Для того чтобы применить метод Зейделя к решению системы линейных алгебраических уравнений

Ax = b

с квадратной невырожденной матрицей A , необходимо предварительно преобразовать эту систему к виду

x = Bx + c .

Здесь B – квадратная матрица с элементами b_ij (i, j = 1, 2, …, n ), c – векторстолбец с элементами c_ij (i = 1, 2, …, n ).

В развернутой форме записи система имеет следующий вид:

x ₁ = b ₁₁ x ₁ + b ₁₂ x ₂ + b ₁₃ x ₃ + … + b _1n x_n + c ₁

x ₂ = b ₂₁ x ₁ + b ₂₂ x ₂ + b ₂₃ x ₃ + … + b _2n x_n + c ₂

. . . . . . . . . . . . . . . . .

x_n = b_{n 1} x ₁ + b_{n 2} x ₂ + b_{n 3} x ₃ + … + b_nn x_n + c_n

Вообще говоря, операция приведения системы к виду, удобному для итераций , не является простой и требует специальных знаний, а также существенного использования специфики системы.

Самый простой способ приведения системы к виду, удобному для итераций, состоит в следующем. Из первого уравнения системы выразим неизвестное x ₁ :

x ₁ = a ₁₁ ^–1 (b ₁ – a ₁₂ x ₂ – a ₁₃ x ₃ – … – a _1n x_n ),

из второго уравнения – неизвестное x ₂ :

x ₂ = a ₂₁ ^–1 (b ₂ – a ₂₂ x ₂ – a ₂₃ x ₃ – … – a _2n x_n ),

и т. д. В результате получим систему

x ₁ = b ₁₂ x ₂ + b ₁₃ x ₃ + … + b _{1,n –1} x_{n –1} + b _1n x_n + c ₁ ,

x ₂ = b ₂₁ x ₁ + b ₂₃ x ₃ + … + b _{2,n –1} x_{n –1} + b _2n x_n + c ₂ ,

x ₃ = b ₃₁ x ₁ + b ₃₂ x ₂ + … + b _{3,n –1} x_{n –1} + b _3n x_n + c ₃ ,

. . . . . . . . . . . . . . . . . . . . . . .

x_n = b_{n 1} x ₁ + b_{n 2} x ₂ + b_{n 3} x ₃ + … + b_{n ,n –1} x_{n –1} + c_n ,

в которой на главной диагонали матрицы B находятся нулевые элементы. Остальные элементы выражаются по формулам

b_ij = –a_ij / a_ii , c_i = b_i / a_ii (i, j = 1, 2, …, n, j ≠ i )

Конечно, для возможности выполнения указанного преобразования необходимо, чтобы диагональные элементы матрицы A были ненулевыми.

1.2.1. Описание метода. Введем нижнюю и верхнюю треугольные матрицы

0 0 0 … 0 0 b ₁₂ b ₁₃ … b _1n

b ₂₁ 0 0 … 0 0 0 b ₂₃ … b _2n

B ₁ = b ₃₁ b ₃₂ 0 … 0 , B­­ ₂ = 0 0 0 … b _3n

. . . . . . . . . . . . . .

b_{n 1}

Учебная работа № 1953. Решение систем линейных алгебраических уравнений методом Гаусса и Зейделя