Линейная алгебра

Матрица — математический объект, записываемый в прямоугольной таблице размером ${\displaystyle m\times n}$, в ячейках которой расположены элементы произвольного заранее выбранного (основного) поля (в наиболее общем случае — ассоциативного кольца[27]) — это могут быть целые, вещественные или комплексные числа, векторы, рациональные функции — в зависимости от приложений и задач:

${\displaystyle {\begin{pmatrix}a_{11}&\cdots &a_{1j}&\cdots &a_{1n}\\\vdots &\ddots &\vdots &\ddots &\vdots \\a_{i1}&\cdots &a_{ij}&\cdots &a_{in}\\\vdots &\ddots &\vdots &\ddots &\vdots \\a_{m1}&\cdots &a_{mj}&\cdots &a_{mn}\end{pmatrix}}}$

Для матриц используется также сокращённая запись ${\displaystyle (a_{ij})}$, но обычно с матрицами оперируют как с едиными объектами: над матрицами определены сложение и умножение, также матрицу можно умножить на скаляр — элемент основного поля, относительно этих операций образуют векторное пространство над основным полем (или, в наиболее общем случае — модуль над кольцом). Другие операции над матрицами — транспонирование (замена строк на столбцы) и псевдообращение (обобщение обращения квадратных матриц). Матрицы размера ${\displaystyle 1\times n}$ и ${\displaystyle m\times 1}$ называются вектор-строка и вектор-столбец соответственно.

Матрица с равным числом строк и столбцов называется квадратной, в зависимости от содержания они могут быть диагональными (все элементы — нули основного поля, кроме диагональных: ${\displaystyle i\neq j\Rightarrow a_{ij}=0}$), единичными (все диагональные элементы равны единице основного поля, а остальные — нулю), симметричными (все элементы симметричны относительно главной диагонали: ${\displaystyle a_{ij}=a_{ji}}$), кососимметричными (${\displaystyle a_{ij}=-a_{ji}}$), треугольными (все элементы выше или ниже главной диагонали равны нулю), ортогональными. Среди квадратных матриц вводится отношение подобия (${\displaystyle A\sim B\Leftrightarrow \exists P(A=P^{-1}\cdot B\cdot P}$), где ${\displaystyle P^{-1}}$ — матрица, обратная ${\displaystyle P}$), такие характеристики матриц, как ранг (максимальное количество линейно независимых строк или столбцов) и характеристический многочлен инвариантны относительно подобия[28]. Также одинаковы для подобных прямоугольных матриц такие характеристики, как след (взятие суммы элементов главной диагонали) и определитель.

Определитель — многочлен, комбинирующий элементы квадратной матрицы особым способом, характеризующий обратимость матрицы. Точнее, определитель матрицы обращается в нуль тогда и только тогда, когда матрица необратима. Это же условие, равносильно тому, что в матрице есть линейно-зависимые строки или столбцы. Квадратные матрицы, определитель которых равен нулю называются вырожденными, если определитель отличен от нуля — то матрица называется невырожденной. Определитель может использоваться при решении систем линейных уравнений. На его базе вводятся понятия минора, дополнительного минора, алгебраического дополнения[29].

Понятие вектора (сам термин «вектор» был введён У. Гамильтоном) изначально возникло как геометрическая абстракция для объектов, характеризующихся одновременно величиной и направлением, таких как скорость, момент силы, напряжённость электрического поля, намагниченность. В начале XX века изначальная интерпретация векторов (до сих пор используемая в элементарной математике) как «направленных отрезков» сменилось на аксиоматику векторного пространства с двумя операциямиː сложением векторов и умножение вектора на числа (более общо, на элементы поля). Кроме того, часто вводятся различные виды произведения векторов: скалярное, векторное, смешанное, псевдоскалярное, двойное векторное.

Ключевую роль в линейной алгебре играет понятие линейной независимости векторов, которое лежит в основе определений базиса и размерности векторного пространстваː число ${\displaystyle n}$ называется размерностью векторного пространства, если оно содержит ${\displaystyle n}$ линейно независимых векторов и любые ${\displaystyle k>n}$ векторов этого пространства являются линейно зависимыми. Такое векторное пространство называется ${\displaystyle n}$-мерным, и любой его вектор представляется упорядоченной последовательностью ${\displaystyle n}$ чисел (однозначно определяемых при выборе какого-либо базиса). Таким образом, векторы могут быть записаны в виде матриц размера ${\displaystyle 1\times n}$ или ${\displaystyle n\times 1}$ — векторов-столбцов и векторов-строк соответственно, а все операции векторной алгебры могут быть сведены к алгебре матрицː например, сложение векторов совпадает со сложением матриц, а векторное умножение векторов может быть выражено как произведение кососимметрической матрицы, построенной из первого сомножителя и вектора-стоблца, представляющего второй сомножитель.

Тензоры возникли как естественное развитие представлений об объектах линейной алгебры: если скаляр в ${\displaystyle n}$-мерном представляется нульмерным объектом (состоящим только из одного элемента поля), вектор — одномерным массивом (матрицей размера ${\displaystyle 1\times n}$), линейное преобразование — двумерной матрицей, то тензор может быть представлен как многомерный массив элементов поля размера ${\displaystyle n\times n\times \cdots \times n}$ (количество измерений массива называют валентностью тензора), а скаляры, векторы, линейные операторы оказываются частными случаями тензора (с валентностями 0, 1 и 2 соответственно). Следующее обобщение, использованное в понятии тензора взято из возможности представления линейного функционала как ковектора и идея двойственности между пространством и его сопряжением — пространством его линейных функционалов; используя эту возможность, тензор валентности ${\displaystyle r}$ рассматривается как ${\displaystyle l}$ раз контравариантный, то есть, рассматриваемый соответствующими компонентами в «обычном» базисе, и ${\displaystyle k}$ раз ковариантный, то есть, с компонентами в сопряжённом пространстве (${\displaystyle r=k+l}$, «тензор ранга ${\displaystyle (l,k)}$»).

В тензорной алгебре вводятся и изучаются линейные операции над тензорами, такие, как умножение на скаляр, сложение, свёртка. Особую роль играет операция тензорного произведения (${\displaystyle \otimes }$), обобщение которой на линейные пространства позволило обобщить и определение тензора: рассматривать тензор ранга ${\displaystyle (l,k)}$ в линейном пространстве ${\displaystyle V}$ как элемент тензорного произведения ${\displaystyle k}$ экземпляров ${\displaystyle V}$ и ${\displaystyle l}$ экземпляров сопряжённого ему ${\displaystyle V^{*}}$:

${\displaystyle {\begin{matrix}\underbrace {V\otimes \ldots \otimes V} &\otimes &\underbrace {V^{*}\otimes \ldots \otimes V^{*}} \\k&&l\end{matrix}}}$.

Алгебраические формы (однородные многочлены на векторных пространствах, задаваемые однородными многочленами от координат вектора) относятся к полилинейной алгебре, но квадратичные, билинейные формы, и некоторые специальные виды форм (полуторалинейные, эрмитовы) важны также в чисто линейной алгебре. Значение билинейных и квадратичных форм заключается в том, что они выражаются матрицами, как и линейные операторы. Наиболее детально изучены свойства симметричных ${\displaystyle (B(x,y)=B(y,x))}$ и кососимметричных ${\displaystyle (B(x,y)=-B(y,x))}$ билинейных форм.

Все математические структуры, изучаемые в линейной алгебре — векторы, тензоры, матрицы, алгебраические формы, а также операции над ними, универсализированы в общеалгебраическом понятии векторного (линейного) пространства. Векторное пространство ${\displaystyle \langle V,{\mathfrak {F}},+,\cdot \rangle }$ определяется как алгебра над произвольным множеством элементов ${\displaystyle V}$, называемых векторами, и произвольным полем ${\displaystyle {\mathfrak {F}}}$, элементы которого называются скалярами, притом векторы с операцией сложения векторов ${\displaystyle \langle V,+\rangle }$ образуют абелеву группу, и определена операция умножения векторов на скаляр: ${\displaystyle \cdot$ :{\mathfrak {F}}\times V\to V} такая, что выполнены следующие свойства (${\displaystyle 1,\alpha ,\beta \in {\mathfrak {F}},\,\mathbf {v} ,\mathbf {u} \in V}$):

${\displaystyle 1\cdot \mathbf {v} =\mathbf {v} }$,

${\displaystyle \alpha \cdot (\mathbf {v} +\mathbf {u} )=\alpha \cdot \mathbf {v} +\alpha \cdot \mathbf {u} }$,

${\displaystyle (\alpha +\beta )\cdot \mathbf {v} =\alpha \cdot \mathbf {v} +\beta \cdot \mathbf {v} }$,

${\displaystyle (\alpha \beta )\cdot \mathbf {v} =\alpha \cdot (\beta \cdot \mathbf {v} )}$.

В качестве поля иногда специально рассматриваются поле вещественных чисел (тогда говорят о вещественном векторном пространстве) или поле комплексных чисел (комплексное векторное пространство) с обычными операциями сложения и умножения, в частности, в теории выпуклых множеств многие результаты формулируются именно для вещественных или комплексных векторных пространств[30]. Но значительная часть утверждений и большинство конструкций действенны для произвольных полей, более того, многие результаты линейной алгебры, полученные для векторных пространств, в XX веке обобщены до унитарных модулей над некоммутативными телами и даже для произвольных модулей над кольцами или модулей с определёнными ограничениями.

Линейные комбинации векторов — конечные суммы вида ${\displaystyle \alpha _{1}\mathbf {v} _{1}+\dots +\alpha _{n}\mathbf {v} _{n}}$, для совокупности векторов вводится линейной независимости (если существует нетривиальная линейная комбинация, обращающаяся в нуль абелевой группы пространства), вводится понятие базиса как максимальной линейно-независимой совокупности, показывается, что мощность базиса (называемая размерностью векторного пространства) не зависит от его выбора.

Дальнейшие обобщения векторных пространств, такие, как наделение их полунормами, нормами, метриками, топологиями, изучаются в функциональном анализе.

Подобно теориям других алгебраических структур, линейная алгебра изучает отображения между векторными пространствами, которые сохраняют структуру векторного пространства. Линейное отображение (линейное преобразование, линейный оператор) произвольных векторных пространств над одним полем ${\displaystyle L:V\to U}$ — отображение, сохраняющее линейность:

${\displaystyle L(\mathbf {v} _{1}+\mathbf {v} _{2})=L(\mathbf {v} _{1})+L(\mathbf {v} _{2})}$,

${\displaystyle L(\alpha \cdot \mathbf {v} )=\alpha \cdot L(\mathbf {v} )}$.

Когда между двумя векторными пространствами существует взаимно-однозначное отображение, являющееся линейным, то эти пространства называются изоморфными; многие свойства векторных пространств сохраняются при изоморфных преобразованиях (инвариантны относительно изоморфизма).

Над классом всех линейных отображений данных векторных пространств можно определить структуру векторного пространства. Линейные отображения конечномерных векторных пространств могут быть записаны в матричной форме и их свойства уже изучаются средствами матриц.

Синие и сиреневые векторы, сохраняющие направление при линейном преобразовании — собственные, красные — нет

В общем случае действие линейных отображений может быть довольно сложным. Важной и распространённой задачей является нахождение такого базиса векторного пространства ${\displaystyle V}$, в котором матрица данного линейного отображения ${\displaystyle L:V\rightarrow V}$ имеет наиболее простой вид. При решении этой задачи ключевую роль играют инвариантные подпространства линейного отображения ${\displaystyle L}$ — подпространства, образ которых при отображении ${\displaystyle L}$ вложен в себя. Если найдены инвариантные подпространства ненулевой размерности ${\displaystyle W_{1},\ldots ,W_{k}}$ (то есть, выполнено ${\displaystyle L(W_{i})\subset W_{i}}$), прямая сумма которых составляет всё пространство ${\displaystyle V}$, то матрица отображения ${\displaystyle L}$ имеет блочно-диагональный вид с блоками порядков ${\displaystyle n_{1},\ldots ,n_{k}}$, ${\displaystyle n_{i}=\dim W_{i}}$, на главной диагонали, если выбрать базис состоящим из ${\displaystyle k}$ групп векторов, где ${\displaystyle i}$-ая группа является базисом в подпространстве ${\displaystyle W_{i}}$.

Простейшим случаем инвариантного подпространства является одномерное инвариантное подпространство ${\displaystyle W}$, которое можно задать с помощью одного (любого) ненулевого вектора ${\displaystyle x\in W}$. В этом случае условие вложенности образа подпространства в себя принимает вид ${\displaystyle L(x){=}\lambda x}$ с некоторым числом ${\displaystyle \lambda }$; такая конструкция приводит к определению собственного вектора и собственного числа: если для некоторого вектора ${\displaystyle x\neq 0}$ и числа ${\displaystyle \lambda }$ выполнено равенство ${\displaystyle L(x){=}\lambda x}$, то ${\displaystyle \lambda }$ называется собственным числом отображения ${\displaystyle L}$, а вектор ${\displaystyle x}$ называется его собственным вектором. Собственные числа линейного отображения определены однозначно, а собственные векторы — с точностью до пропорциональности, то есть до умножения на произвольное ненулевое число.

В случае, если отображение имеет набор ${\displaystyle n}$ линейно независимых собственных векторов, число которых ${\displaystyle n}$ равно размерности пространства ${\displaystyle V}$, из них можно составить базис (называемый собственным базисом данного отображения), в котором матрица отображения диагональна, при этом на главной диагонали стоят собственные числа. Такие линейные отображения называются диагонализируемыми. Достаточным (но не необходимым) условием диагонализируемости является наличие ${\displaystyle n}$ различных собственных чисел.

Система линейных уравнений от трёх переменных определяет набор плоскостей. Точка пересечения является решением.

Система m линейных алгебраических уравнений с n неизвестными — это система уравнений вида

${\displaystyle {\begin{cases}a_{11}x_{1}+a_{12}x_{2}+\dots +a_{1n}x_{n}=b_{1}\\a_{21}x_{1}+a_{22}x_{2}+\dots +a_{2n}x_{n}=b_{2}\\\dots \\a_{m1}x_{1}+a_{m2}x_{2}+\dots +a_{mn}x_{n}=b_{m}\\\end{cases}}}$

Она может быть представлена в матричной форме как:

${\displaystyle {\begin{pmatrix}a_{11}&a_{12}&\cdots &a_{1n}\\a_{21}&a_{22}&\cdots &a_{2n}\\\vdots &\vdots &\ddots &\vdots \\a_{m1}&a_{m2}&\cdots &a_{mn}\end{pmatrix}}{\begin{pmatrix}x_{1}\\x_{2}\\\vdots \\x_{n}\end{pmatrix}}={\begin{pmatrix}b_{1}\\b_{2}\\\vdots \\b_{m}\end{pmatrix}}}$

или:

${\displaystyle Ax=b}$.