Lu разложение матрицы: Решение СЛАУ методом LU-разложения / Песочница / Хабр

Алгоритм вычисления LU-разложения матрицы

LU-разложение и LUP-разложение матрицы

LU — разложение(LU-декомпозиция) — представление данной матрицы A в виде произведения

A=LU,

где матрица L является нижне-треугольной с единицами на главной диагонали, U — верхне-треугольная общего вида,

Процесс построения LU-разложения называется методом исключения Гаусса. Сначала удаляется первая переменная из всех уравнений, кроме первого, путем вычитания из этих уравнений первого, умноженного на соответствующий коэффициент. Затем такая же операция выполняется со вторым уравнением, чтобы в третьем и последующих уравнениях отсутствовали первая и вторая переменные. Процесс продолжается до тех пор, по не получим верхне-треугольную матрицу – это и будет искомая матрица U.

Алгоритм вычисления LU-разложения матрицы

Пусть матрица C = A. На каждом i-м шаге в качестве опорного (ведущего) элемента берётся элемент C_ii. После этого все элементы текущего i-го столбца, находящиеся ниже i-й строки, делятся на опорный. Далее из всех элементов , находящихся ниже i-й строки и правее i-го столбца (то есть таких что j>i и k>i) вычитается произведение . После этого счётчик iувеличивается на единицу и процесс повторяется пока i<n где n — размерность исходной матрицы. После того как все шаги будут выполнены матрица C будет представлять собой следующую сумму:

LU_Decomposition(A,C)

n=rows(A)

C=A

for i=1 to n

do

for j=i+1 to n

do

C_ji=C_ji/C_ii

for k=i+1 to n

do

C_jk=C_jk-C_jiC_ik

В алгоритме используется три вложенных линейных цикла, так что общую сложность алгоритма можно оценить как O(n³).

Необходимо отметить, что LU-разложение работает корректно не для всех невырожденных матриц. Данный метод не работает корректно, если опорный элемент равен 0, так при этом должно быть выполнено деление на ноль.

Важным классом матриц, для которых LU-разложение всегда работает корректно, является класс симметричных положительно определенных матриц.

Задача: Найти LU-разложение матрицы:

Решение:

а) б)

в) г)

Выбираем в 1-ом столбце матрицы С опорный элемент C₁₁=2. На рис.б) он помечен серым цветом. Делим все элементы первого столбца, начиная со второй строки (С₂₁, С₃₁, C₄₁) на значение опорного элемента. А все элементы, находящиеся ниже первой строки и правее первого столбца вычисляем по формуле (j, k>1) (рис.б). Далее в качестве опорного элемента берём С₂₂=4. Делим элементы второго столбца, начиная с 3-й строки на опорный, а затем вычисляем значение элементов C_jk=C_jk—C_j2*C_2j (j,k>2) (рис.в). Выбираем в качестве опорного элемента C

Получили LU-разложение матрицы A:

A L U

Поиск по сайту:

Метод Гаусса и LU — разложение

Метод Гаусса упорядоченного исключения переменных использу­ется для приведения СЛАУ к верхней треугольной форме с последую­щим решением методом обратной подстановки. Оценка общего числа необходимых операций равна (2/3)п³, где п — число уравнений.

Метод Гаусса основан на разложении

L_1c L₂

где U — верхняя треугольная матрица; L_kc— нижние столбцовые элементарные матрицы, поддиагональные элементы k-го столбца ко­торых находятся на k-м шаге факторизации следующим образом:

Обращение таких матриц осуществляется заменой знаков внедиа-гональных ненулевых элементов. Умножение матрицы А слева на обращает в ноль поддиагональные элементы k-го столбца матрицы А. Приведенное выше разложение может быть получено умножением матрицы А и получающихся из нее матриц на пары . Тогда

,

где .

Таким образом, исходную СЛАУ АХ = В привели к виду

далее, последовательно умножив левую и правую части на затем на и т.

^.

Решение осуществляется по следующему алгоритму:

1) Положить А(°) = А и выполнить шаги факторизации для k = 1,2,…, п — 1 в coответствии со следующими пунктами:

а)для каждого шага определить элементы матрицы L_kc, которые записывают на место обращаемых в ноль элементов матрицы

б)выполнить вычисление значений элементов преобразованной матрицы путем умножения на матрицу, обратную к L_kc:

в) выполнить вычисление вектора правых частей В^(k)путем
умножения на матрицу, обратную к L_kc:

2) Полученную систему решить методом обратной подстановки, учитывая, что .

3) Конец алгоритма.

С целью повышения численной устойчивости реализуют алгоритм метода Гаусса с выбором главного элемента по столбцу. Для этого пе­ред выполнением пункта 1а алгоритма необходимо найти т такое, что и переставить местами строки с номерами т и k.

Данный пункт в матричной форме соответствует использованию матриц перестановок Р_тk — Тогда факторизация принимает вид

^.

Поскольку элементы матриц L_kcв данном алгоритме записывают на место обращенных в ноль элементов матрицы А, то можно решать много СЛАУ с различными правыми частями, не выполняя повторную. Учитывая свойства элементарных нижних столбцовых матриц можно, заметить, что на месте матрицы

LU = А,

где , называемого LU — разложением.

Следует иметь в виду, что в результате применения алгоритма на главной диагонали матрицы А и над ней будут записаны элементы мат­рицы U, под диагональю — элементы матрицы L, но в силу того, что диагональные элементы заняты U, то для диагональных элементов L места нет. Однако в силу свойств нижних столбцовых элементарных матриц, на диагонали L должны находиться только единицы, для их хра­нения отводить место не обязательно, достаточно просто иметь в виду, что они существуют и не забывать в расчетах.

Для получения

LUX = В

и может быть решена на основе типовых подходов. Обозначим Y = — UX, решим методом прямой подстановки систему LU = В, а затем методом обратной подстановки систему UX = Y. Получим искомый вектор X.

К недостаткам метода Гаусса можно отнести повышенную чувстви­тельность к особенностям матрицы А, невозможность его использова­ния для решения переопределенных систем, в которых число уравне­ний больше числа неизвестных. 5:

cond(A2)

ans =

   1.9000e+05

[pic 3]

Вектор правых частей b2:

[pic 4]

1. LU-разложение матрицы.

Теорема. Пусть все ведущие подматрицы [pic 5] , [pic 6] , матрицы [pic 7] являются невырожденными. Тогда [pic 8] единственным образом представима в виде:

[pic 9] 

где [pic 10] — нижняя треугольная матрица с единицами на главной диагонали, [pic 11] — верхняя треугольная матрица.

[pic 12]

Элементы матриц [pic 13] могут быть найдены по следующим формулам:

[pic 14]

1. Решение СЛАУ с помощью LU разложения.

Пусть решается СЛАУ, при этом имеется LU-разложением матрицы системы. Тогда метод решения СЛАУ, основанный на LU-разложении заключается в следующем. Исходная система [pic 15] представляется в эквивалентном виде:

[pic 16] 

Обозначим произведение матрицы [pic 17] на вектор неизвестных [pic 18] через вектор новых неизвестных [pic 19] :

[pic 20] 

тогда система примет вид:

[pic 21] 

Таким образом, чтобы решить исходную систему общего вида в методе, основанном на LU-разложении, надо решить последовательно две системы, но с треугольными матрицами.

СЛАУ – система с нижней треугольной матрицей с единицами на главной диагонали:

[pic 22]  

Ее решение происходит сверху вниз путем последовательной подстановки уже найденных значений [pic 23] . После того, как [pic 24] найден, решается СЛАУ: 

[pic 25] 

1. Анализ результатов, полученных после реализации решения СЛАУ в программе MATLAB.

• Погрешность хорошо обусловленной матрицы (А1)

X—~X=

   1.0e-13 *

    0.0377

    0.2842

    0.0888

   -0.3197

    0.1421

   -0.2576

   -0.1421

    0.0266

   -0.0711

    0.0178

• Невязка хорошо обусловленной матрицы

A1*~X—b1=

   1.0e-12 *

   -0.0568

    0.0142

    0.0853

   -0.0284

    0.0284

         0

   -0.0568

   -0.0142

   -0.1705

    0.1137

• Погрешность плохо обусловленной матрицы (А2)

X—~X=

   1. 0e-10 *

    0.0105

   -0.0961

   -0.1269

    0.0085

   -0.1559

    0.0784

   -0.1204

   -0.0467

   -0.0293

    0.1993

• Невязка плохо обусловленной матрицы

A2*~X—b2=

   1.0e-09 *

   -0.0582

   -0.2328

         0

    0.3492

    0.2328

         0

    0.3492

         0

         0

    0.0582

1. Исследование на устойчивость к погрешностям исходных данных.

1. Возмущение вектора правой части для:

• Хорошо обусловленной матрицы (А1)

 ~b1=(1+δ)*b1

||δX|| = ||X — ~X|| — норма разности решений, где ~X  — решение уравнения A1*X=~b1, полученное после возмущения вектора b1

Разность решений X — ~X в зависимости от возмущения:

• Плохо обусловленной матрицы (А2)

 ~b2=(1+δ)*b2

||δX|| = ||X — ~X|| — норма разности решений, где ~X  — решение уравнения A2*X=~b2, полученное после возмущения вектора b2

Разность решений X — ~X в зависимости от возмущения:

— как реализовать разложение LU с частичным поворотом в Python?

1. Около
2. Продукты
3. Для команд

1. Переполнение стека Общественные вопросы и ответы
2. Переполнение стека для команд Где разработчики и технологи делятся частными знаниями с коллегами
3. Вакансии Программирование и связанные с ним технические возможности карьерного роста
4. Талант Нанимайте технических специалистов и создавайте свой бренд работодателя
5. Реклама Обратитесь к разработчикам и технологам со всего мира
6. О компании

LU — math-linux. com

Пусть $ A $ представляет собой матрицу $ n \ times n $. Факторизация $ LU $ — это процедура разложения $ A $ на произведение нижней треугольной матрицы $ L $ (диагональные элементы L равны единице) и верхней треугольная матрица $ U $, например $ A = LU $ с

$$ L = [ \слева( \ begin {array} {c c c c} 1 \\ l_ {21} & 1 \\ \ vdots & \ vdots & \ ddots \\ l_ {n1} & l_ {n2} & \ cdots & 1 \ end {array} \ right) ] $$
и

$$ U = [ \слева( \ begin {array} {c c c c} u_ {11} & u_ {12} & \ cdots & u_ {1n} \\ & u_ {22} & \ cdots & u_ {2n} \\ & & \ ddots & u_ {n-1, n} \\ & & & u_ {nn} \ end {array} \ right) ] $$

Решение линейной системы

Для разрешения линейной системы: $ Ax = b $, система принимает вид

$$ LUx = b \ Leftrightarrow \ left \ {\ begin {array} {cc} Ly = b & (1), \\ Ux = y & (2).{n} u_ {ij} x_j) & \ forall i = n-1, n-2, \ ldots, 1. \ end {array} \ right. $$

Теоремы

– если факторизация LU существует, то она уникальна.
— Обратимая матрица $ A $ допускает LU-факторизацию тогда и только тогда, когда все ее главные миноры отличны от нуля (главный минор порядка $ k $ является определителем матрицы $ (A) _ {1 \ leq i , j \ leq k} $).
— Если $ A $ только обратимо, тогда $ A $ можно записать как $ A = PLU, $, где $ P $ — матрица перестановок.{(n)} _ {ij}) _ {1 \ leq i, j \ leq n} & L = (l_ {ij}) _ {1 \ leq i, j \ leq n} & \ end {массив} $$

Расчет определителя матрицы

LU-разложение также позволяет вычислить определитель $ A $, который равен произведению диагональных элементов матрицы $ U $, если $ A $ допускает LU-факторизацию, поскольку

$$ det (A ) = det (L) \ times det (U) = 1 \ times det (U) = det (U) $$

Разложение матрицы CUR

Выбор столбца (атрибута) и выбор строки — это заключительный этап разложения матрицы CUR.

Выбор атрибута: выбирает атрибуты с высоким уровнем воздействия и сообщает их имена, баллы (как важность) и ранги (по важности).

Выбор строки: выбирает строки с высокими показателями кредитного плеча и сообщает их имена, оценки (по важности) и ранги (по важности).

1. При разложении матрицы

   CUR сначала выбирается j ^{-й столбец} (или атрибут) A с вероятностью p j = min {1, cπ j } для всех j ε {1 ,..., n}

2. Если пользователи разрешают выбор строки, выберите i ^-ю строку A с вероятностью pˊ i = min {1, rπˊ i } для всех i ε {1, ..., m}

3. Сообщите имя (или идентификатор) и оценку (как важность) для всех выбранных атрибутов (если важность строки отключена) или для всех выбранных атрибутов и строк (если важность строки включена).

c — это приблизительное (или ожидаемое) количество столбцов, которые пользователи хотят выбрать, а r — это приблизительное (или ожидаемое) количество строк, которые пользователи хотят выбрать.

Чтобы реализовать выбор столбца и строки, необходимо рассчитать вероятность выбора каждого столбца и строки.

Рассчитайте вероятность для каждого столбца следующим образом:

p j = min {1, cπ j }

Рассчитайте вероятность для каждой строки следующим образом:

pˊ i = min {1, cπˊ i } .

Столбец или строка выбираются, если вероятность больше некоторого порога.

Страница не найдена | MIT

• Образование
• Исследование
• Инновации
• Прием + помощь
• Студенческая жизнь
• Новости
• Выпускников
• О MIT
• Подробнее ↓
  • Прием + помощь
  • Студенческая жизнь
  • Новости
  • Выпускников
  • О MIT

Предложения или отзывы?

определение разложения lu и синонимы разложения lu (английский)

В линейной алгебре, разложение LU (также называемое разложением LU ) факторизует матрицу как произведение нижней треугольной матрицы и верхней треугольной матрицы. Иногда продукт также включает в себя матрицу перестановок. LU-декомпозиция является ключевым этапом в нескольких фундаментальных численных алгоритмах линейной алгебры, таких как решение системы линейных уравнений, обращение матрицы или вычисление определителя матрицы. Его можно рассматривать как матричную форму исключения Гаусса. LU-разложение было введено математиком Аланом Тьюрингом ^[1] .

Определения

Пусть A будет квадратной матрицей. Разложение LU — это разложение формы

, где L — нижняя треугольная матрица, а U — верхняя треугольная матрица.Это означает, что L имеет только нули над диагональю, а U имеет только нули под диагональю. Например, для матрицы 3 на 3 A ее LU-разложение выглядит следующим образом:

Однако не все матрицы с «хорошим поведением» можно разложить на множители в этой форме. Например, легко проверить (развернув матричное умножение), что. Следовательно, если, то хотя бы одно из и должно быть равно нулю. Однако в любом случае произведение LU становится единичным, в то время как A не обязательно является единичным.Это означает, что такие матрицы не могут быть разложены на LU. Чтобы преодолеть это ограничение, обычно используется LUP-декомпозиция.

Разложение LUP (также называемое разложением LU с частичным поворотом ) — это разложение формы

, где L и U снова представляют собой нижнюю и верхнюю треугольные матрицы, а P представляет собой матрицу перестановки, которая при умножении слева на A меняет порядок строк A .Оказывается, все квадратные матрицы могут быть разложены на множители в этой форме ^{[ цитата необходима ]} , и факторизация численно стабильна ^{[ цитата необходима ]} . Это делает разложение LUP полезным методом на практике.

Разложение LU с полным поворотом (Trefethen и Bau) принимает форму

, где L , U и P определены так же, как и раньше, а Q — это матрица перестановок, которая переупорядочивает столбцы A .

Декомпозиция LDU — это декомпозиция формы

, где D — диагональная матрица, а L и U — треугольные матрицы единиц , что означает, что все элементы на диагоналях L и U едины.

Выше мы требовали, чтобы A была квадратной матрицей, но все эти разложения можно обобщить и на прямоугольные матрицы. В этом случае L и P представляют собой квадратные матрицы, каждая из которых имеет такое же количество строк, что и A , а U имеет точно такую ​​же форму, что и A . Верхний треугольник следует интерпретировать как имеющий только ноль входов ниже главной диагонали, которая начинается в верхнем левом углу.

Пример

Факторизуем следующую матрицу 2 на 2:

Один из способов найти LU-разложение этой простой матрицы — просто решить линейные уравнения путем проверки. Расширение матричного умножения дает

Эта система уравнений недоопределена. В этом случае любые два ненулевых элемента матриц L и U являются параметрами решения и могут быть установлены произвольно на любое ненулевое значение. Следовательно, чтобы найти уникальное разложение LU, необходимо наложить некоторые ограничения на матрицы L и U . Например, мы можем удобно потребовать, чтобы нижняя треугольная матрица L была единичной (т.е. установила все элементы ее главной диагонали в единицы). Тогда система уравнений имеет следующее решение:

Подстановка этих значений в разложение LU выше дает

Существование и уникальность

Квадратные матрицы

Если квадратная матрица A обратима, то

• всегда допускает факторизацию LUP .
• A допускает факторизацию LU (или LDU) тогда и только тогда, когда все его ведущие главные миноры не равны нулю.
• Факторизация LU или LDU уникальна, если мы требуем, чтобы диагональ L (или U ) состояла из единиц.

Если квадратная матрица A сингулярна (т.е. не обратима), то

• Может существовать факторизация LU . Фактически, квадратная матрица с рангом k имеет факторизацию LU , если первые k ведущих миноров не равны нулю, хотя обратное неверно.

Симметричные положительно определенные матрицы

Если A является симметричной (или эрмитовой, если A комплексной) положительно определенной матрицей, мы можем расположить материи так, чтобы U было сопряженным транспонированием L . То есть мы можем записать A как

Это разложение называется разложением Холецкого. Разложение Холецкого всегда существует и уникально. Кроме того, вычисление разложения Холецкого более эффективно и численно более стабильно, чем вычисление некоторых других LU-разложений.

Общие матрицы

Для (не обязательно обратимой) матрицы над любым полем известны точные необходимые и достаточные условия, при которых она имеет LU-факторизацию. Условия выражаются в виде рангов определенных подматриц. Алгоритм исключения Гаусса для получения LU-разложения также был расширен на этот наиболее общий случай (Okunev & Johnson 1997).

Алгоритмы

LU-разложение — это в основном модифицированная форма исключения Гаусса.Мы преобразуем матрицу A в верхнюю треугольную матрицу U , удаляя элементы ниже главной диагонали. Алгоритм Дулитла выполняет исключение столбец за столбцом, начиная слева, путем умножения A слева на атомарные нижнетреугольные матрицы. В результате получается нижняя треугольная матрица единиц и верхняя треугольная матрица. Алгоритм Краута немного отличается и строит нижнюю треугольную матрицу и верхнюю треугольную матрицу единиц .

Для вычисления декомпозиции LU с использованием любого из этих алгоритмов требуется 2 n ³ /3 операций с плавающей запятой, игнорируя члены более низкого порядка. Частичное вращение добавляет только квадратичный член; это не относится к полному повороту. ^[2]

Замкнутая формула

Когда LDU-факторизация существует и уникальна, существует замкнутая (явная) формула для элементов L, D и U в терминах отношений определителей определенных подматриц исходной матрицы A (Householder 1975).В частности, и для, — это отношение главной подматрицы к главной подматрице.

Алгоритм Дулиттла

Для матрицы N × N

определяем

, а затем мы выполняем итерацию n = 1, …, N-1 следующим образом.

Мы исключаем элементы матрицы ниже главной диагонали в n -м столбце A ^{( n-1 )} , добавляя к i -й строке этой матрицы n -й строка умноженная на

для.Это можно сделать, умножив A ^{( n-1 )} слева на нижнюю треугольную матрицу

шаблон <класс T>
Матрица  Матрица  :: lower (void) const
{
    если (строки! = столбцы)
    {
        LOG («Неверная квадратная матрица для вычисления нижней треугольной матрицы»);
        вернуть * это;
    }
    Матрица  l (столбцы, строки, T (0));
    Матрица  u (столбцы, строки, T (0));
    для (size_t k = 1; k <= строк; k ++)
    {
        l. set_entry (k, k, 1);
        for (int j = k; j <= rows; j ++) {
            длинная двойная сумма = 0;
            for (int s = 1; s <= k-1; s ++) {
                сумма + = l.get_entry (k, s) * u.get_entry (s, j);
            }
            u.set_entry (k, j, get_entry (k, j) -sum);
        }
        for (int i = k + 1; i <= rows; i ++) {
            длинная двойная сумма = 0;
            for (int s = 1; s <= k-1; s ++) {
                сумма + = l.get_entry (i, s) * u.get_entry (s, k);
            }
            l.set_entry (i, k, (get_entry (i, k) -sum) /u.get_entry (k, k));
        }
    }
    return l;
}
шаблон <класс T>
Матрица  Матрица  :: upper (void) const
{
    если (строки! = столбцы)
    {
        LOG («Неверная квадратная матрица для вычисления верхней треугольной матрицы»);
        вернуть * это;
    }
    Матрица  l (столбцы, строки, T (0));
    Матрица  u (столбцы, строки, T (0));
    для (size_t k = 1; k <= строк; k ++)
    {
        л.set_entry (к, к, 1);
        for (int j = k; j <= rows; j ++) {
            двойная сумма = 0;
            for (int s = 1; s <= k-1; s ++) {
                T lower_entry = l. get_entry (k, s);
                T upper_entry = u.get_entry (s, j);
                сумма + = нижняя_запись * верхняя_запись;
            }
            T this_entry;
            this_entry = get_entry (k, j) -сумма;
            u.set_entry (k, j, this_entry);
        }
        for (int i = k + 1; i <= rows; i ++) {
            двойная сумма = 0;
            for (int s = 1; s <= k-1; s ++) {
                T lower_entry = l.get_entry (я, с);
                T upper_entry = u.get_entry (s, k);
                сумма + = нижняя_запись * верхняя_запись;
            }
            l.set_entry (i, k, (get_entry (i, k) -sum) /u.get_entry (k, k));
        }
    }
    вернуть u;
}