（1）先确定 $g$ 的主项。由 $e^{x^2}=1+x^2+o(x^2)$、$\cos x=1-\frac{x^2}{2}+o(x^2)$，得 $g(x)=\frac{3x^2}{2}+o(x^2)$，所以 $\frac{g(x)}{x^2}\to \frac{3}{2}$。
（2）题设 $\frac{f}{g}\to 1$，从而 $\frac{f(x)}{x^2}\to \frac{3}{2}$。又

先由 $\frac{f(x)}{x}=[\frac{f(x)}{x^2}]x\to 0$ 得 $a+1=0$，故 $a=-1$。代回后二阶比值极限为 $b-\frac{1}{2}$，所以 $b-\frac{1}{2}=\frac{3}{2}$，解得 $b=2$。
（3）此时 $f,g$ 均为 $\frac{3x^2}{2}+o(x^2)$，二者之比确实趋于 $1$。所求乘积为 $ab=(-1)\cdot 2=-2$。必须先消去一次项，再对齐二次系数。