(1)求 r1。右乘可逆分块矩阵 (E−BCOE),得到
(OBCAE)(E−BCOE)=(−ABCOAE)=(OOAE).
最后一步使用 ABC=O。右侧仅有最后 n 列可能非零,同时含单位块 E,故其秩为 n,即 r1=n。
(2)求 r2。将第二块行左乘 −C 加到第一块行,相当于左乘可逆矩阵 (EO−CE),可把 (ABOCE) 化为 diag(AB,E),因此 r2=n+r(AB)。
(3)求 r3。先用第一块行消去左下块 AB,再用第一块列消去右上块 AB,即
(E−ABOE)(EABABO)=(EOAB−(AB)2),(EOAB−(AB)2)(EO−ABE)=(EOO−(AB)2).
两侧所乘矩阵均可逆,故 r3=n+r((AB)2)。
(4)比较。由 0≤r((AB)2)≤r(AB),得 r1≤r3≤r2,选 B。为排除其余关系,取 n=2:若 A=B=E,C=O,则 (r1,r2,r3)=(2,4,4),否定 C、D;若 A=E,B=C=(0010),则 ABC=O 且 (r1,r2,r3)=(2,3,2),否定 A。