$A{A}^T$ 是二阶实对称矩阵，且对任意 $x\in {\mathbb{R}}^2$，有 $x^{T}A{A}^{T}x=\Vert A^{T}x{\Vert }^2\ge 0$，因此二次型半正定。规范形为 $y_1^2$ 等价于 $r(A{A}^T)=1$。
又 $A{A}^{T}x=0$ 等价于 $A^{T}x=0$：正向可左乘 $x^T$，得到 $\Vert A^{T}x{\Vert }^2=0$；反向显然。因此 $r(A{A}^T)=r(A^T)=r(A)$，所以须有 $r(A)=1$。
第一行 $(1,b,-1)$ 非零，秩为 $1$ 当且仅当第二行是其倍数。设

比较三个分量得 $a+2=k,3=kb,3a=k$。由 $a+2=3a$ 得 $a=1$，于是 $k=3,b=1$，所求 $a+b=2$。
回代时第二行确为第一行的 $3$ 倍，且

令 $y_1=\sqrt{3}(x_1+3x_2),y_2=x_2$，变换行列式为 $\sqrt{3}\ne 0$，规范形恰为 $y_1^2$，满足题设。