相似矩阵的迹和行列式相等。由 $\mathrm{tr}A=x-4,\mathrm{tr}B=y+1$，得 $x-4=y+1$。沿 $A$ 第三行展开，$|A|=(-2)(-2x+4)=4x-8$；$B$ 为上三角矩阵，$|B|=-2y$，故还须 $4x-8=-2y$。
第一式给出 $y=x-5$，代入第二式得 $6x=18$，所以 $x=3,y=-2$。下一问构造可逆矩阵实现相似关系，也说明这一组参数确实可行。

代入参数后，$B$ 的特征值为 $2,-1,-2$，彼此不同。对 $A$ 分别解特征方程：
$\lambda =2$ 时，$(A-2E)z=0$ 给出 $z_3=0,z_2=-2z_1$，取 ${\xi }_1=(1,-2,0{)}^T$。$\lambda =-1$ 时，$(A+E)z=0$ 给出 $z_3=0,z_1=-2z_2$，取 ${\xi }_2=(-2,1,0{)}^T$。$\lambda =-2$ 时，$(A+2E)z=0$ 给出 $z_3=2z_2,z_2=-2z_1$，取 ${\xi }_3=(1,-2,-4{)}^T$。
故取 $P_1=({\xi }_1,{\xi }_2,{\xi }_3)$，有 $P_1^{-1}A{P}_1=\Lambda =\mathrm{diag}(2,-1,-2)$。
对 $B$，上述三个特征值对应的特征方程分别给出 $z_2=z_3=0$，$z_3=0,z_2=-3z_1$，以及 $z_1=z_2=0$。依次取 $(1,0,0{)}^T,(1,-3,0{)}^T,(0,0,1{)}^T$，得到

且 $P_2^{-1}B{P}_2=\Lambda$。因此取

即有 $P^{-1}AP=B$。其行列式为 $-4\ne 0$。注意目标是 $B$ 而非对角阵，不能只给出 $P_1$。

代入 $x=3,y=-2$，设 $P=(p_1,p_2,p_3)$，将目标等式写为 $AP=PB$，按列比较得

先取特征向量 $p_1=(1,-2,0{)}^T,p_3=(1,-2,-4{)}^T$。解 $(A+E)p_2=p_1$，设 $p_2=(z_1,z_2,z_3{)}^T$，由第三行得 $z_3=0$，前两行均等价于 $z_1+2z_2=-1$。取 $z_2=-1$，得 $p_2=(1,-1,0{)}^T$。
于是 $P=\left(\begin{array}{ccc}1& 1& 1\\ -2& -1& -2\\ 0& 0& -4\end{array}\right)$，$|P|=-4\ne 0$。由构造有 $AP=PB$，故 $P^{-1}AP=B$。解中 $P$ 不唯一，但其他取法仍须满足三列关系及可逆性，不能独立任意缩放各列而不顾第二个关系。