Матрица линейного оператора изменяется, когда изменяется базис линейного пространства. Найдем связь между матрицами линейного оператора в разных базисах этого линейного пространства.
Теорема 5.8 ( о связи матриц линейного оператора в разных базисах ). Пусть 
, 
– базисы в линейном пространстве 
. Матрицы 
и 
оператора 
в базисах 
, 
связаны равенством
, (5.2)
где 
– матрица перехода от базиса к базису .
□ Пусть вектору 
в базисах , соответствуют вектор-столбцы 
, а вектору 
вектор-столбцы 
. Тогда в силу матричного равенства (5.1), имеем
,
где 
матрицы линейного оператора 
в базисах , .
Далее, если есть матрица перехода от к , то используя формулы преобразования координат при переходе от базиса к базису, получим
откуда и следует справедливость равенства (5.2). ■
Теорема 5.9. Определитель матрицы линейного оператора не зависит от выбора базиса.
□ Пусть оператор в базисах , имеет соответствующие матрицы 
. Тогда на основании равенства (5.2) и свойств определителей имеем
■
Согласно теореме 5.9 при смене базиса линейного пространства изменяется матрица оператора, а определитель её при этом остается неизменным. Значит, этот определитель характеризует не конкретную матрицу оператора в данном базисе, а сам оператор. Это позволяет ввести следующее определение.
Определение 5.7. Определителем линейного оператора, действующего в линейном пространстве, называется определитель матрицы этого оператора в любом базисе.
Теорема 5.10. Ранг линейного оператора совпадает с рангом матрицы этого оператора.
Пример 5.1. Записать матрицу линейного оператора 
, заданного по правилу
в базисе 
, где 
.
Найти образ, ранг, ядро, дефект, базисы образа и ядра оператора.
Решение. Находим образы 
векторов 
:
.
Для составления матрицы 
линейного оператора в базисе найдем коэффициенты разложения векторов через базисные векторы . Для этого необходимо решить систему уравнений (см. определение матрицы линейного оператора)
Каждое из уравнений этой системы решаем отдельно. Первое уравнение можно переписать в виде
Решая его, получим вектор-столбец координат вектора 
в базисе :
.
Решая аналогично остальные два уравнения, получим координатные вектор-столбцы векторов 
в базисе :
, 
.
В результате матрица линейного оператора в базисе имеет вид
.
Для нахождения ядра 
линейного оператора необходимо решить однородную систему уравнений 
с матрицей . Находя ее общее решение, получим ядро 
оператора, каждый вектор которого имеет вид
.
Очевидно, что размерность ядра (дефект оператора) равна
,
базисный вектор в ядре – вектор-столбец
.
Размерность образа оператора (ранг оператора) равна
.
Для нахождения базиса образа 
исследуем на линейную зависимость систему векторов и найдем максимальную систему линейно независимых векторов. Составим матрицу 
и приведём ее к ступенчатому виду (в результате элементарных преобразований нумерация столбцов не изменялась):
Из вида ступенчатой матрицы следует, что базис образа образуют векторы 
.