$f=X^{\mathsf{T}}AX,A=\left(\begin{array}{ccc}0& 2& -2\\ 2& 4& 4\\ -2& 4& -3\end{array}\right),X=\left(\begin{array}{c}{x}_1\\ x_2\\ x_3\end{array}\right)$

$f=6y_1^2+y_2^2-6y_3^2$

$P=\left(\begin{array}{ccc}\frac{1}{\sqrt{30}}& -\frac{2}{\sqrt{5}}& \frac{1}{\sqrt{6}}\\ \frac{5}{\sqrt{30}}& 0& -\frac{1}{\sqrt{6}}\\ \frac{2}{\sqrt{30}}& \frac{1}{\sqrt{5}}& \frac{2}{\sqrt{6}}\end{array}\right),X=PY$

二次型矩阵的对角元等于平方项系数，非对角元等于相应交叉项系数的一半。因此

沿用第一问的矩阵 $A$ 和向量 $X$。特征多项式为

故三个特征值为 $6,1,-6$。

分别可取对应特征向量 $(1,5,2{)}^{\mathsf{T}}$、$(-2,0,1{)}^{\mathsf{T}}$、$(1,-1,2{)}^{\mathsf{T}}$。它们两两正交，单位化后作为新坐标轴。以这些单位特征向量依次为列组成 $P$，记 $Y=(y_1,y_2,y_3{)}^{\mathsf{T}}$，令 $X=PY$，便有

按第二问所得单位特征向量及标准形中特征值 $6,1,-6$ 的顺序，取

各列为单位正交向量，所以 $P^{\mathsf{T}}P=E$；并且 $P^{\mathsf{T}}AP=\mathrm{diag}(6,1,-6)$。所需正交变换为 $X=PY$。