Учебная работа № 1228. Численные методы
МЕТОД ГАУССА С ВЫБОРОМ ГЛАВНОГО ЭЛЕМЕНТА.
1. Основная идея метода. Может оказаться, что система
Ax=f (1)
имеет единственное решение, хотя какойлибо из угловых миноров матрицы А равен нулю. В этом случае обычный метод Гаусса оказывается непригодным, но может быть применен метод Гаусса с выбором главного элемента.
Основная идея метода состоит в том, чтобы на очередном шаге исключать не следующее по номеру неизвестное, а тонеизвестное, коэффициент при котором является наибольшим по модулю. Таким образом, в качестве ведущего элемента здесь выбирается главный , т.е. наибольший по модулю элемент. Тем самым, если , то в процессе вычислений не будет происходить деление на нуль.
Различные варианты метода Гаусса с выбором главного элемента проиллюстрируем на примере системы из двух уравнений
(2)
Предположим, что . Тогда на первом шаге будем исключать переменное . Такой прием эквивалентен тому, что система (2) переписывается в виде
(3)
и к (3) применяется первый шаг обычного метода Гаусса. Указанный способ исключения называется методом Гаусса с выбором главного элемента по строке . Он эквивалентен применению обычного метода Гаусса к системе, в которой на каждом шаге исключения проводится соответствующая перенумерация переменных.
Применяется также метод Гаусса с выбором главного элемента по столбцу. Предположим, что . Перепишем систему (2) ввиде
и к новой системе применим на первом шаге обычный метод Гаусса. Таким образом, метод Гаусса с выбором главного элемента по столбцу эквивалентен применению обычного метода Гаусса к системе, в которой на каждом шаге исключения проводится соответствующая перенумерация уравнений.
Иногда применяется и метод Гаусса с выбором главного элемента по всей матрице, когда в качестве ведущего выбирается максимальный по модулю элемент среди всех элементов матрицы системы.
2. Матрицы перестановок. Ранее было показано, что обычный метод Гаусса можно записать в виде
где
ОПРЕДЕЛЕНИЕ 1. Матрицей перестановок Р называется квадратная матрица, у которой в каждой строке и в каждом столбце только один элемент отличен от нуля и равен единице.
ОПРЕДЕЛЕНИЕ 2. Элементарной матрицей перестановок
Например, элементарными матрицами перестановок третьего порядка являются матрицы
Можно отметить следующие свойства элементарных матриц перестановок, вытекающие непосредственно из их определения.
1) Произведение двух (а следовательно, и любого числа) элементарных матриц перестановок является матрицей перестановок (не обязательно элементарной).
2) Для любой квадратной матрицы А матрица
3) Для любой квадратной матрицы А матрица
Применение элементарных матриц перестановок для описания метода Гаусса с выбором главного элемента по столбцу можно пояснить на следующем примере системы третьего порядка:
Система имеет вид (1), где
Максимальный элемент первого столбца матрицы А находится во второй строке. Поэтому надо поменять местами вторую и первую строки и перейти к эквивалентной системе
Систему (6) можно записать в виде
т.е. она получается из системы (4) путем умножения на матрицу
перестановок
Далее, к системе (6) надо применить первый шаг обычного метода исключения Гаусса. Этот шаг эквивалентен умножению системы (7) на элементарную нижнюю треугольную матрицу
В результате от системы (7) перейдем к эквивалентной системе
или в развернутом виде
Из последних двух уравнений системы (9) надо теперь исключить переменное
является элемент второй строки, делаем в (10) перестановку строк и тем самым от системы (9) переходим к эквивалентной системе
которую можно записать в матричном виде как
Таким образом система (12) получена из (8) применением элементарной матрицы перестановок
Далее к системе (11) надо применить второй шаг исключения обычного метода Гаусса. Это эквивалентно умножению системы (11) на элементарную нижнюю треугольную матрицу
В результате получим систему
или
Заключительный шаг прямого хода метода Гаусса состоит в замене последнего уравнения системы (14) уравнением
что эквивалентно умножению (13) на элементарную нижнюю треугольную матрицу
Таким образом, для рассмотренного примера процесс исключения Гаусса с выбором главного элемента по столбцу записывается в
виде
По построению матрица
является верхней треугольной матрицей с единичной главной диагональю.
Отличие от обычного метода Гаусса состоит в том, что в качестве сомножителей в (16) наряду с элементарными треугольными матрицами
Покажем еще, что из (16) следует разложение
PA=LU , (17)
где L нижняя треугольная матрица, имеющая обратную, P матрица перестановок.
Для этого найдем матрицу
По свойству 2) матрица
Матрица
т.е.
Из (18), учитывая равенство
Отсюда и из (16) видно, что
где обозначено
3. Общий вывод. Результат, полученный ранее для очень частного примера, справедлив и в случае общей системы уравнений (1).
А именно, метод Гаусса с выбором главного элемента по столбцу можно записать в виде
где
Отсюда, используя соотношения перестановочности, аналогичные (19), можно показать, что метод Гаусса с выбором главного элемента эквивалентен обычному методу Гаусса, примененному к системе
PAx=Pf, (21)
где Р некоторая матрица перестановок.
Теоретическое обоснование метода Гаусса с выбором главного элемента содержится в следующей теореме.
ТЕОРЕМА 1. Если
вок Р такая, что матрица РА имеет отличные от нуля угловые ми
норы.
Доказательство в п.4.
СЛЕДСТВИЕ. Если
вок Р такая, что справедливо разложение
РА=LU, (22)
где L нижняя треугольная матрица с отличными от нуля диагональными элементами и U верхняя треугольная матрица с единичной главной диагональю. В этом случае для решения системы (1) можно применять метод Гаусса с выбором главного элемента.
4. Доказательство теоремы 1. Докажем теорему индукцией по числу m порядку матрицы А .
Пусть m=2 , т.е.
Если
все угловые миноры отличны от нуля.
Пусть утверждение теоремы верно для любых квадратных матриц порядка m 1 . Покажем, что оно верно и .для матриц порядка m. Ра зобьем матрицу А порядка m на блоки
где
Достаточно рассмотреть два случая :
имеем
причем
Рассмотрим второй случай, когда
где
Переставляя в матрице А строки с номерами l и m, получим матрицу
и отличается от (23) только перестановкой строк. Следовательно, этот минор не равен нулю и мы приходим к рассмотренному выше случаю.
Теорема доказана.
ВЫЧИСЛЕНИЕ ОПРЕДЕЛИТЕЛЯ МЕТОДОМ ГАУССА С ВЫБОРОМ ГЛАВНОГО ЭЛЕМЕНТА.
Одновременно с решением системы линейных алгебраических уравнений
можно вычислить определитель матрицы А.
Пусть в процессе исключения найдено распожение
т.е. построены матрицы L èU . Тогда
и, таким образом, произведение диагональных елементов матрицы L (ведущих, главных елементов метода исключения) равно определителю матрицы РА. Поскольку матрицы РА и А отличаются только перестановкой строк, определитель матрицы РА может отличаться от определителей матрицы А только знаком.
А именно,
Таким образом, для вычисления определителя необходимо знать, сколько перестановок было осуществлено в процессе сключения.
Если матрица А выроджена, то при использовании метод Гаусса с выбором главного элемента по столбцу на некотором шаге исключения К все элементы которого столбца, находящиеся ниже главной диагонали и на ней, окажутся равными нулю.При этом дальнейшее исключение становится невозможным и программа должна выдать информацию о том, что определитель матрицы равен нулю.
ОБРАЩЕНИЕ МАТРИЦ.
Нахождение матрицы, обратной матрице А , еквивалентно решению матричного уравнения
где Е единичная матрица, X искомая квадратная матрица.
Уравнение (1) можно записать в виде системы
где
Можно заметить, что система (2) распадается на m независимых систем уравнений с одной и той же матрицей А , но с различными правыми частями. Эти системы имеют
вид ( фиксируем j ) :
где
Например, для матрицы второго порядка система (2) распадается на две независимые системы:
Äëÿ ðåøåíèÿ систем (3) используется метод Гаусса ( обычный или с выбором главного элемента).
Рассмотрим применение метода Гаусса без выбора главного элемента. Поскольку все системы (3) имеют одну и ту же матрицу А , достаточно один раз совершить прямой ход метода Гаусса, т.е. получить разложение A=LU и запомнить матрицы L i U .
Обратный ход осуществляется путем решения систем уравнений
с треугольными матрицами L è U.
При осуществлении обратного хода можно сократить число действий, принимая во внимание специальный вид правых частей системы (4).
Запишем подробнее первые j1 уравнений системы (4):
Учитывая невырожденность матрицы L ( т.е.
отсюда получаем
При этом оставшиеся уравнения системы (4) имеют вид
Отсюда последовательно находятся неизвестные
Можно показать, что общее число действий умножения и деления, необходимое для обращения матрицы указанным способом, порядка
МЕТОД ПРОГОНКИ.
Система уравнений для определения коэффициентов сплайна представляет собой частный случай систем линейных алгебраических уравнений
с трехдиагональной матрицей
В общем случае системы линейных алгебраических уравнений с трехдиагональной матрицей имеют вид
Для численного решения систем трехдиагональными матрицами применяется метод прогонки , который представляет собой вариант метода последовательного исключения неизвестных.
Т.е. матрицу А можно записать
(1) Идея метода прогонки состоит в следующем. Решение системы (1) ищется в виде
где
Выведем формулы для вычисления
Подставляя имеющиеся выражения для
А именно, достаточно положить
Эти начальные значения находим из требования эквивалентности условия (3) при
Таким образом, получаем
Нахождение коэффициентов
И равно
Нахождение
называется обратной прогонкой. Алгоритм решения системы (1), (2) определяемый формулами (4)(6) называется методом прогонки .
Метод прогонки можно пременять, если знаменатели выражений (4), (6) не обрщаются в нуль.
Покажем, что для возможности применения метод прогонки достаточно потребовать, чтобы коэффициенты системы (1), (2) удовлетворяли условиям
Сначала докажем по индукции, что при условиях (7), (8) модули прогоночных коэффициентов
Прежде всего для любых двух комплексных чисел
Из неравенства треугольника имеем
Откуда
Вернемся теперь к доказательству
а, используя (7) , получаем
т.е. знаменатели выражений (4) не обращаются в нуль.
Более того
Следовательно,
Далее, учитывая второе из условий (8) и только что доказанное неравенство
т.е. не обращается в нуль и знаменатель в выражении для
К аналогичному выводу можно прийти и в том случае, когда условия (7), (8) заменяются условиями
Кроме того, доказанные неравенства
Действительно, пусть в формуле (6) при
Тогда на следующем шаге вычислений, т.е. при
вместо
Отсюда получаем, что
Подсчитаем число арифметических действий, выполняемых при решении задачи (1), (2) методом прогонки.
По формулам (4), что реализуемые с помощью шести арифметических действий, вычисления производятся
арифметических действий, т.е. число действий растет линейно относительно числа неизвестных
При решении же произвольной системы линейных алгебраических уравнений методом Гаусcа число действий пропорционально кубу числа неизвестных.
ВЫЧИСЛЕНИЕ СОБСТВЕННЫХ ЗНАЧЕНИЙ И СОБСТВЕННЫХ ВЕКТОРОВ МАТРИЦ.
Большое число задач математики и физики требует отыскания собственных значений и собственных векторов матриц, т.е. отыскания таких значений +
и отыскания этих нетривиальных решений.
Здесь
Из курса алгебры известно, что нетривиальное решение системы (1) существует тогда и только тогда, когда
где Е единичная матрица. Если раскрыть определитель
Определитель
Различают полную проблему собственных значений , когда необходимо отыскать все собственные значения матрицы А и соответствующие собственные векторы, и частичную проблему собственных значений , когда необходимо отыскать только некоторые собственные значения, например, максимальное по модулю собственное значение .
Метод Данилевского развертывание векового определителя.
Определение. Квадратная матрица Р порядка m называетсяподобной матрице А , если она представлена в виде
где S невыродженная квадратная матрица порядка m .
ТЕОРЕМА . Характеристический определитель исходной и подобной матрицы совпадают .
Доказательство .
Идея метода Данилевского состоит в том, что матрица А подобным преобразованиям приводится, к так называемой нормальной форме Фробениуса
Характеристическое уравнение для матрицы Р имеет простой вид
Приведение матрицы А к нормальной форме Фробениуса Р осуществляется последовательно построкам, начиная с последеней строки.
Приведем матрицу А
подобным преобразование к виду
Пусть
где
Слудующий шаг приведение матрицы
Если
где
Таким образом
Далее процедура аналогичная, если на кождом шаге в очередной строке, на месте которого подобным преобразованием нужно получить единицу, не равную нулю.
В этом случае ( будем называт его регулярным ) нормальная формула Фробениуса будет получена за ( m 1 ) шагов и будет иметь вид
Рассмотрим нерегулярный случай, когда матрица, полученная в результате подобных преобразований приведена уже к виду
В этой ситуации возможно два случая. В первом случае кй
строке левее элемента
у которой по сравнению с матрицей
Рассмотрим второй нерегулярный случай, когда в матрице
где
Обративм внимание на то, что матрица
Сомножитель
Предположим теперь, что матрица А подобным преобразованиям
находим одним из известных методов его корни
Теперь стоит задача отыскать собственные векторы, соответствующие этим собственным значениям, т.е. векторы
Решим ее следующим образом: найдем собственные векторы матрицы Р , а затем по определенному соотношению я пересчитаем собственные векторы матрицы А . Это соотношение дает следующая теорема.
ТЕОРЕМА . Пусть
Тогда
Доказательство. Тривиально следует из того, что
Домножая левую и правую часть этого равенства слева на S ,
имеем
А это и означает, что
отвечающий собственному значению
Íàéäåì ñîáñòâåííûé вектор матрицы Р , которая имеет нормальную форму Фробениуса и подобна матрице А. Записывая
или
В этой системе одна из переменных может быть сделана свободной и ей может быть придано произвольное значение. В качестве таковой возьмем
Тогда последовательно находим
т.е. искомый собственный вектор матрицы Р имеет вид
Если процесс приведения матрицы А к форме Р был регулярным, то
 ñîîòâåòñòâèè ñ òåîðåìîé ñîáñòâåííûì âåêòîðîì ìàòðèöû А для собственного значения
Таким образом, задача вычисления собственных векторов матрицы А решена.
ЧИСЛЕННОЕ ДИФФЕРЕНЦИРОВАНИЕ .
Пусть имеется функция
Если задан явный вид функции, то выражение для производной часто оказывается достаточно сложным и желательно его заменить более простым. Если же функция задана только в некоторых точках (таблично), то получить явный вид ее производных ввобще невозможно. В этих ситуациях возникает необходимость приближенного (численного) дифференцирования.
Простейшая идея численного дифференцирования состоит в том, что функция заменяется интерполяционным многочленом (Лагранжа, Ньютона) и производная функции приближенного заменяется соответствующей производной интерполяционного многочлена
Рассмотрим простейшие формулы численного дифференцирования, которые получаются указанным способом.
Будем предполагать, что функция задана в равностоящих узлах
Ее значения и значения производных в узлах будем обозначать
Пусть функция задана в двух точках
Посстроим интерполяционный многочлен первой степени
Производная
Производную функцию
Величина
Пусть
Интерполяционный многочлен Ньютона второй степени имеет вид
Берем производную
В точке
Получаем приближенную формулу
Величина
Наконец, если взять вторую производную
Величина
Формулы (1)(3) называются формулами численного дифференцирования .
Предполагая функцию
В дальнейшем нам понадобится следующая лемма.
Лемма 1. Пусть
Доказательство . Очевидно неравенство
По теореме БольцаноКоши о промежуточных значениях непрерывной функции на замкнутом отрезке она принимает все значения между
Погрешности формул численного дифференцирования дает следующая лемма.
Лемма 2.
1.Предположим, что
2. Если
3. Когда
откуда следует (4).
Если
где
Подставим (7) в
Заменяя в соответствии с леммою 1
получаем
Откуда и следует (6).
Равенство (5) доказывается аналогично ( доказательство провести самостоятельно).
Формулы (4)(6) называются формулами численного дифференцирования с остаточными членами.
Погрешности формул (1)(3) оцениваются с помощью следующих неравенств, которые вытекают из соотношений (4)(6):
Говорят, что погрешность формулы (1) имеет первый порядок относительно
Указанным способом можно получать формулы численного дифференцирования для более старших производных и для большего количества узлов интерполирования.
Выбор оптимального шага . Допустим, что граница абсолютной погрешности при вычислении функции
Пусть в некоторой окрестности точки
где
Минимизация по
при этом
Если при выбранном для какойлибо из формул (2), (3) значении
ИНТЕРПОЛИРОВАНИЕ СПЛАЙНАМИ.
Интерполирование многочленом Лагранжа или Ньютона на отрезке
Одним из способов интерполяции на всем отрезке является интерполирование с помощью сплайнфункций. Сплайнфункцией или сплайном называют кусочнополиномиальную функцию, определенную на отрезке
Слово ,,сплайн’’ (английское spline) означает гибкую линейку, используемую для проведения гладких кривых через заданные точки плоскости.
Преимущество сплайнов перед обычной интерполяцией является, вопервых, их сходимость, и, вовторых, устойчивость процесса вычислений.
Рассмотрим частный, но распространенный в вычислительной практике случай, когда сплайн определяется с помощью многочленов третьей степени ( кубический сплайн).
Пусть на
и обозначим
Интерполяционным кубическим сплайном , соответствующим данной функции
а) на кождом сегменте
б) функция
в)
Последнее условие называется условием интерполирования .
Докажем существование и единственность сплайна, определяемого перечисленными условиями (плюс некоторые граничные условия, которые будут введены в процессе доказательства). Приводимое ниже доказательство содержит также способ построения сплайна.
На каждом из отрезков
где
поэтому
Из условий интерполирования
Доопределим , кроме того ,
Далее , требование непрерывности функции
Отсюда,учитывая выражения для функций
Условия непрерывности первой производной
приводят к уравнениям
Из условий непрерывности второй производной получаем уравнения
Объединяя (2) (4) , получим систему
Два недостающих условия получают, задавая те или иные граничные условия для
т.е.
Заметим, что условие
и вычтем второе уравнение из первого.Тогда получим
Подставляя найденное выражение для
Далее, из уравнения (5) получаем
И подставляя эти выражения в (8) , приходим к уравнению
Окончательно для определения коэффициентов
В силу диагонального преобладания система (9) имеет единственное решение. Так как матрица системы трехдиагональная, решение можно найти методом прогонки. По найденным коэффициентам
Таким образом, доказано, что существует единственный кубический сплайн, определяемый условиями а)в) и граничными условиями
ЧИСЛЕННОЕ ИНТЕГРИРОВАНИЕ .
На практике редко удается вычислить точно определенный интеграл. Например, в элементарных функциях не вычисляется функция Лапласа
широко используемая в теории вероятностей для вычисления вероятностей, связанных с нормально распределенными случайными величинами.
Рассмотрим некотрые широко используемые приемы приближенного вычисления определенных интегралов.
Квадратурные формулы.
Введем понятие квадратурные формулы. Пусть дан определенный интеграл
от непрерывной на отрезке
где
Говорят, что квадратурная формула точна для многочленов степени
Рассмотрим наиболее простые квадратурные формулы.
Формула прямоугольников . Допустим, что
где
Найдем остаточный член , т.е. погрешность формулы (3) .
Пусть
где
Функция
Отсюда с помощью ранее доказанной леммы получаем формулу прямоугольников с остаточным членом :
Формула трапеций . Пусть
где
Найдем остаточный член, т.е. погрешность формулы (7). Выразим
Согласно (8) имеем
Отделив в правой части (9) слагаемое
Преобразуем теперь второе слагаемое в правой части, используя обобщенную теорему о среднем.
* Формула Тейлора с остаточным членом в интегральной форме
Теорема 1 (обобщенная теорема о среднем). Пусть