在求自由未知量的阶梯型矩阵中：
第（1）步，观察阶梯型矩阵的第一行，把第一行中第一个非零元素找出来，划掉这个非零元素所在的列。
第（2）步，观察阶梯型矩阵的第二行，把第二行中第一个非零元素找出来，划掉这个非零元素所在的列。
第（3）步，一直按这种方法，进行下去。记住每行中只寻找第一个非零元素，而不管此行中其他的非零元素。阶梯型矩阵的零行就不用管了，只考虑阶梯型矩阵的非零行。
第（4）步，经过以上步骤的操作，剩下的列就对应着 自由未知量 。
注意：自由未知量的取法不是唯一的，通常的做法是把齐次线性方程组的系数矩阵化为行最简形，行最简形中每行第一个1所在列对应的那几个未知量作为非自由未知量，其余的未知量作为自由未知量。
把方程组表示成向量形式就更清楚了:
比如, α1,...,αr 是 α1,...,αn 的一个极大无关组，
则 xr+1,...,xn 是自由未知量。
方程写成：
x1α1+...+xrαr = -xr+1αr+1+...-xnαn
对xr+1,...,xn的任一组取值，
线性组合-xr+1αr+1+...-xnαn可由α1,...,αr唯一线性表示，
即可唯一确定约束未知量 x1,...,xr。
扩展资料：
自由变量的选取：
自由变量个数等于线性方程组变量个数减去系数矩阵的。自由未知量个数 = 未知量个数（n）- 系数矩阵的秩（r）。
约束未知量所在列即构成A的列向量组的一个极大无关组，
自由未知量所在列可由此极大无关组唯一线性表示，
这样就能保证:对于自由未知量任取一组数都能唯一解出约束未知量。
参考资料来源：百度百科-最简行阶梯矩阵