分别配方，得

令 $x_1+x_2-x_3=y_1,x_2+x_3=y_2+y_3$，再补充 $x_3=y_3$。由后向前求解，得到 $x_3=y_3,x_2=y_2,x_1=y_1-y_2+y_3$。因此可取

$|P|=1\ne 0$，所以变换可逆。代回上面的配方，两个平方项分别成为 $y_1^2$ 和 $(y_2+y_3{)}^2$，确有 $f(Py)=g(y)$。

两二次型的矩阵分别为 $A=\left(\begin{array}{ccc}1& 1& -1\\ 1& 2& 0\\ -1& 0& 2\end{array}\right)$、$B=\left(\begin{array}{ccc}1& 0& 0\\ 0& 1& 1\\ 0& 1& 1\end{array}\right)$。若存在所求正交矩阵 $Q$，则 $B=Q^{T}AQ=Q^{-1}AQ$，即 $A$ 与 $B$ 相似，迹必须相等。但 $\mathrm{tr}A=5\ne 3=\mathrm{tr}B$，故不存在。
也可直接比较特征值：

两组特征值分别为 $0,2,3$ 和 $0,1,2$，不同。因此虽能通过可逆变换互化，却不能通过正交变换互化。