根据题意有$$\begin{split} f(x)&=|a\sin x+b\cos x-1|+|b\sin x-a\cos x|\\&\leqslant |a\sin x+b\cos x|+|b\sin x-a\cos x|+1,\end{split}$$故$$g(x)=|a\sin x+b\cos x|+|b\sin x-a\cos x|$$的最大值为 $10$．设直线$$\begin{cases} l_1:ax+by=0,\\l_2:bx-ay=0.\end{cases}$$两直线均过原点且互相垂直．设点 $P\left(\sin x,\cos x\right)$，则 $g(x)$ 表示 $P$ 到两直线距离之和的 $\sqrt{a^2+b^2}$ 倍，即$$\begin{split} g(x)&=\sqrt{a^2+b^2}\left(d_1+d_2\right)\\&\leqslant \sqrt2\cdot\sqrt{a^2+b^2}\cdot\sqrt{d_1^2+d_2^2}\\&=\sqrt2\cdot\sqrt{a^2+b^2}\end{split}$$所以 $\sqrt2\cdot\sqrt{a^2+b^2}=10$，故 $a^2+b^2=50$．