原二次型矩阵为 $A=\left(\begin{array}{ccc}2& 1& -4\\ 1& -1& 1\\ -4& 1& a\end{array}\right)$。正交变换同时是相似变换，标准形缺少 $y_3^2$ 项，所以 $0$ 是特征值，$|A|=0$。按第一行展开，得

故 $a=2$。此时左上二阶子式为 $-3\ne 0$，且行列式为零，所以秩恰为 $2$，符合标准形只有两个非零平方项的要求。

代入 $a=2$。在 $|\lambda E-A|$ 中，第一行减第三行，提出因子 $\lambda -6$，再将第一列加到第三列，按第一行展开，得

所以特征值为 $6,-3,0$。
对 $\lambda =6$，方程 $(A-6E)x=0$ 的前两式为 $-4x_1+x_2-4x_3=0,x_1-7x_2+x_3=0$。第一式加第二式的 $4$ 倍，得 $-27x_2=0$，再得 $x_1+x_3=0$，取 ${\xi }_1=(1,0,-1{)}^T$。
对 $\lambda =-3$，$(A+3E)x=0$ 的第一式减第二式的 $5$ 倍，得 $x_2+x_3=0$，再代入第二式 $x_1+2x_2+x_3=0$，得 $x_1=x_3$，取 ${\xi }_2=(1,-1,1{)}^T$。
对 $\lambda =0$，$Ax=0$ 的前两式相加，得 $3x_1-3x_3=0$，再得 $x_2=2x_3$，取 ${\xi }_3=(1,2,1{)}^T$。
这三个特征向量两两正交，模长分别为 $\sqrt{2},\sqrt{3},\sqrt{6}$。单位化并按特征值 $6,-3,0$ 的次序排列，取 $Q=(\frac{{\xi }_1}{\sqrt{2}},\frac{{\xi }_2}{\sqrt{3}},\frac{{\xi }_3}{\sqrt{6}})$，则 $Q^{T}Q=E,Q^{T}AQ=\mathrm{diag}(6,-3,0)$。因此 $x=Qy$ 将二次型化为 $6y_1^2-3y_2^2$。