记左边矩阵为 $M$，目标对角矩阵为 $\Lambda =\mathrm{diag}(2,b,0)$。$M$ 为实对称矩阵，必可对角化，故两者相似等价于特征多项式相同。
两者的迹均为 $b+2$；$M$ 第一、三行相同，行列式为零，与 $|\Lambda |=0$ 一致。再比较二阶主子式之和，$M$ 的三个二阶主子式依次为 $b-a^2,0,b-a^2$，和为 $2(b-a^2)$，而 $\Lambda$ 的为 $2b$。所以特征多项式相同当且仅当 $2(b-a^2)=2b$，即 $a=0$。
还可直接确认充分性。当 $a=0$ 时，取

$|P|=-2\ne 0$，三列分别满足 $M{p}_1=2p_1,M{p}_2=b{p}_2,M{p}_3=0$，故 $P^{-1}MP=\Lambda$。对任意实数 $b$ 均成立，包括 $b=0$ 或 $b=2$。因此充要条件是 $a=0,b$ 任意，选 B；A 对 $b$ 附加了不必要限制，C、D 不满足必要条件。

记左边矩阵为 $M$。若它与 $\mathrm{diag}(2,b,0)$ 相似，$2$ 必是 $M$ 的特征值，故 $|2E-M|=0$。在行列式中作第三行加第一行，得到

因此必要条件为 $a=0$。反之，$a=0$ 时，向量 $(1,0,1{)}^T,(0,1,0{)}^T,(1,0,-1{)}^T$ 线性无关，依次是属于特征值 $2,b,0$ 的特征向量，故 $M$ 相似于所给对角阵，对 $b$ 无限制。选 B。