两个二次型的矩阵分别为 $A=\left(\begin{array}{cc}1& -2\\ -2& 4\end{array}\right)$、$B=\left(\begin{array}{cc}a& 2\\ 2& b\end{array}\right)$。代入 $x=Qy$ 得 $f=y^T{Q}^{T}AQy$，故 $B=Q^{T}AQ$。$Q$ 正交，$Q^T=Q^{-1}$，所以 $A,B$ 相似，具有相同的迹和行列式：

因此 $a,b$ 是 $t^2-5t+4=0$ 的两根 $1,4$。由 $a\ge b$，得 $a=4,b=1$。

此时 $B=\left(\begin{array}{cc}4& 2\\ 2& 1\end{array}\right)$。先将 $A,B$ 正交对角化为同一个对角矩阵。
$|\lambda E-A|=\lambda (\lambda -5)$，特征值为 $5,0$。对 $5$，方程为 $2x_1+x_2=0$，取 $(1,-2{)}^T$；对 $0$，方程为 $x_1-2x_2=0$，取 $(2,1{)}^T$。两向量正交且模长均为 $\sqrt{5}$，故

$B$ 对特征值 $5$ 的方程为 $x_1-2x_2=0$，取 $(2,1{)}^T$；对 $0$ 的方程为 $2x_1+x_2=0$，取 $(1,-2{)}^T$。单位化并按同样的特征值顺序排列，得

由 $P_1^{T}A{P}_1=P_2^{T}B{P}_2$，得 $B=(P_1{P}_2^T{)}^{T}A(P_1{P}_2^T)$。因此取

两列模长为 $1$、内积为 $0$，故 $Q$ 正交。直接相乘也有 $AQ=\left(\begin{array}{cc}2& 1\\ -4& -2\end{array}\right)$，进而 $Q^{T}AQ=\left(\begin{array}{cc}4& 2\\ 2& 1\end{array}\right)=B$，满足要求。

也可直接取正交变换 $x_1=-y_2,x_2=y_1$，对应 $Q=\left(\begin{array}{cc}0& -1\\ 1& 0\end{array}\right)$。代入可得

故这个 $Q$ 也符合要求。