（1）先证明 $r(BA)\le 1$。由 $r(AB)=r(BA)+1\le 3$ 得 $r(BA)\le 2$。若 $r(BA)=2$，则 $r(AB)=3$，由乘积的秩不超过各因子的秩，得 $r(A)=r(B)=3$，于是 $A,B$ 均可逆，$BA$ 也可逆，与其秩为 $2$ 矛盾。因此 $r(BA)\le 1$。
（2）由此得到

设 $V_1,V_2$ 分别为两个齐次方程组 $ABAx=0,BABx=0$ 的解空间，则各自维数至少为 $2$。利用子空间维数公式，

因此两个方程组必有公共非零解，D 正确。等价地，将两组方程上下联立，系数矩阵的秩不超过 $r(ABA)+r(BAB)\le 2<3$，故有非零解。
（3）用反例排除其余项。取

此时 $AB=B,BA=O$，满足题设。$A+B$ 的秩为 $1$，其齐次方程有非零解，排除 A；$A,B$ 的秩均为 $1$，排除 B；$(0,0,1{)}^T$ 是 $Ax=0,Bx=0$ 的公共非零解，排除 C。