（1）系数矩阵是节点为 $1,a,b$ 的范德蒙矩阵的转置，故

当 $1,a,b$ 两两不同时，$|A|\ne 0$，方程组有唯一解。
（2）当 $|A|=0$ 时，至少有两个节点相同。若 $a=1$，前两个方程左端相同，右端却分别为 $1,2$，矛盾；若 $b=1$，第一、三个方程左端相同，右端为 $1,4$，矛盾；若 $a=b$，第二、三个方程左端相同，右端为 $2,4$，也矛盾。因此所有退化情形都无解，不会出现无穷多解。
所以解的情况是“有唯一解或无解”，选 D。例如 $a=3,b=4$ 时有唯一解，$a=1$ 时无解，分别说明 A、B 并不恒成立；无穷多解不可能出现，排除 C。

令 $f(t)=x_1+x_{2}t+x_3{t}^2$，原方程组等价于 $f(1)=1,f(a)=2,f(b)=4$。当三个节点互不相同时，存在唯一的次数不超过二的插值多项式，故有唯一解；当两个节点相同时，同一自变量却被要求对应两个不同函数值，故无解。因此选 D。