（1）$Ax=0$ 总能推出 $A^{2}x=0$。若 $A$ 可逆，两个方程组都只有零解，必同解。因此题设不同解要求 $|A|=0$。按第一列展开：

所以 $a-b=-4$。
（2）补充核实条件可满足，但不把 $|A|=0$ 误当作不同解的充分条件。由 $b=a+4$、$\mathrm{tr}A=0$，二阶主子式之和为 $3b-2a-17=a-5$，故特征多项式为 ${\lambda }^3+(a-5)\lambda$。由 Cayley–Hamilton 定理，$A^3+(a-5)A=O$。若 $a\ne 5$ 且 $A^{2}x=0$，则 $A^{3}x=0$，进而 $(a-5)Ax=0$，所以 $Ax=0$，两方程组反而同解。故题设实际还要求 $a=5,b=9$。
此时

$A$ 第三行是前两行之和，且前两行无关，秩为 $2$；$A^2$ 秩为 $1$。两个核的维数分别为 $1,2$，确实不同解，而 $a-b=5-9=-4$。