合同矩阵秩相同、正负惯性指数分别相同。因 $r(B)\le 2$，故 $|A|=0$。按第一行展开，得

所以 $a=4$。此时左上二阶子式为 $4\cdot 1-1=3\ne 0$，故 $r(A)=2$，进而 $r(B)=2$，所以 $k\ne 0$。
代入 $a=4$ 后，$\mathrm{tr}A=9$，三个二阶主子式之和为 $3+12+3=18$，行列式为 $0$，因此

全部特征值为 $0,3,6$，正、负惯性指数为 $2,0$。$B=\mathrm{diag}(k,6,0)$ 要有相同惯性指数，当且仅当 $k>0$。所以 $a=4,k\in (0,+\infty )$。

若 $Q$ 正交，则 $Q^{T}AQ=Q^{-1}AQ=B$，所以两矩阵相似，特征值相同。$B$ 的特征值为 $k,6,0$，与 $A$ 的 $3,6,0$ 比较得 $k=3$。因此 $Q$ 的三列应依次对应特征值 $3,6,0$。
对 $3$，$(A-3E)x=0$ 的第一式为 $x_1+x_2-2x_3=0$；第二式减第一式得 $-3x_2+3x_3=0$，于是 $x_1=x_2=x_3$，取 ${\alpha }_1=(1,1,1{)}^T$。
对 $6$，$(A-6E)x=0$ 的前两式为 $-2x_1+x_2-2x_3=0,x_1-5x_2+x_3=0$。第一式加第二式的 $2$ 倍，得 $-9x_2=0$，进而 $x_1+x_3=0$，取 ${\alpha }_2=(1,0,-1{)}^T$。
对 $0$，$Ax=0$ 的第一式减第二式的 $4$ 倍，得 $-3x_2-6x_3=0$，故 $x_2=-2x_3$；由第二式得 $x_1=x_3$，取 ${\alpha }_3=(1,-2,1{)}^T$。
三个向量两两正交，模长为 $\sqrt{3},\sqrt{2},\sqrt{6}$。取 $Q=(\frac{{\alpha }_1}{\sqrt{3}},\frac{{\alpha }_2}{\sqrt{2}},\frac{{\alpha }_3}{\sqrt{6}})$，则 $Q$ 正交，且 $Q^{T}AQ=\mathrm{diag}(3,6,0)=B$。各列可以独立变号，但应保持与 $B$ 对角元的对应次序。