二次型矩阵为 $A=\left(\begin{array}{ccc}a& 1& 1\\ 1& a& 1\\ 1& 1& a\end{array}\right)=(a-1)E+J$，其中 $J$ 为全 $1$ 矩阵。$J$ 对 $(1,1,1{)}^T$ 的特征值为 $3$，在 $x_1+x_2+x_3=0$ 平面上的特征值为 $0$。故 $A$ 的全部特征值为 $a+2,a-1,a-1$。
正、负惯性指数分别为 $1,2$，即恰有一个正特征值、两个负特征值，没有零特征值。二重特征值 $a-1$ 必为负，另一个 $a+2$ 必为正，所以 $a-1<0,a+2>0$，得 $-2<a<1$，选 C。
$a>1$ 时三个特征值全正；$a<-2$ 时全负。$a=1$ 时特征值为 $3,0,0$，$a=-2$ 时为 $0,-3,-3$，均不符合，故端点不取。

也可配方。先设 $a\ne 0,\pm 1$，依次配方得

前两个括号与 $x_3$ 构成可逆的三角线性变换，故只需数三个系数的正负。$a<-2$ 时三者全负；$-2<a<-1$ 时符号为负、负、正；$-1<a<0$ 时为负、正、负；$0<a<1$ 时为正、负、负；$a>1$ 时全正。$a=-2$ 时第三系数为零，不合要求。
补查被除去的参数：$a=1$ 时 $f=(x_1+x_2+x_3{)}^2$，不合要求。$a=0$ 时令 $u=x_1+x_2,v=x_1-x_2,w=x_3$，有 $f=\frac{(u+2w{)}^2}{2}-\frac{v^2}{2}-2w^2$，恰一正两负。$a=-1$ 时令 $u=x_1+x_3,v=x_1-x_3$，有 $f=-(x_2-u{)}^2+u^2-v^2$，也恰一正两负；两次变量变换均可逆。因此合并仍得 $-2<a<1$。