单位矩阵进行一次初等变换得到的矩阵就是初等矩阵。对矩阵进行行初等变换，就是前乘相应的初等矩阵对矩阵进行列初等变换，就是后乘相应的初等矩阵。
初等矩阵是指，由单位矩阵经过三种矩阵初等变换得到的矩阵。初等矩阵的模样可以写一个3阶或者4阶的单位矩阵，首先：初等矩阵都可逆，其次，初等矩阵的逆矩阵其实是一个同类型的初等矩阵（可看作逆变换）。例如，交换矩阵中某两行（列）的位置用一个非零常数k乘以矩阵的某一行（列）将矩阵的某一行（列）乘以常数k后加到另一行（列）上去。若某初等矩阵左乘矩阵A，则初等矩阵会将原先施加到单位矩阵E上的变换，按照同种形式施加到矩阵A之上。或者说，想对矩阵A做变换，但是不是直接对矩阵A去做处理，而是通过一种间接方式去实现。
