梯形 $OCMA$ 的面积为 $\frac{x(1+f(x))}{2}$，曲边三角形 $CBM$ 的面积为 ${\int }_x^{1}f(t)\mathrm{d}t$。因此

由 $f$ 连续，函数 $F(x)={\int }_x^{1}f(t)\mathrm{d}t$ 在 $(0,1)$ 内可导。对 $0<x<1$，面积关系可写为

故 $f$ 在该开区间内也可导。对原面积关系求导，得 $\frac{1-f(x)+x{f}^{\prime }(x)}{2}=\frac{x^2}{2}$，即 $x{f}^{\prime }(x)-f(x)=x^2-1$。

于是

积分得 $f(x)=x^2+1+Cx$。由在 $x=1$ 处连续且 $f(1)=0$，得 $C=-2$。因此 $f(x)=(1-x{)}^2$，并可连续延伸到 $x=0$，给出 $f(0)=1$。

验证原关系：

且该函数在 $0<x<1$ 时为正，满足两端点条件。故所求为 $f(x)=(1-x{)}^2$，$0\le x\le 1$。