可能走了弯路:
首先将所求式 `C` 化,有
\begin{align*}
\cos^2A+\cos^2B&=1-\cos^2C-2\cos A\cos B\cos C\\
&=\sin^2C-\sin C\cos C\\
&=\frac{1-\cos2C-\sin2C}2\\
&=\frac{1+\sqrt2\sin(2C-3\pi/4)}2,
\end{align*}
于是需要估计一下 `C`,由积化和差有
\[\sin C=2\cos A\cos B=\cos(A-B)-\cos C,\]因为
\[1\geqslant\cos(A-B)>\cos(A+B)=-\cos C,\]所以
\[1-\cos C\geqslant\sin C>-2\cos C,\]由此可得 `\pi/2\leqslant C<\pi-\arctan2`,即
\[\frac\pi4\leqslant2C-\frac{3\pi}4<\frac{5\pi}4-2\arctan2,\]
不难证明上式右边的值介于 `\pi/2` 与 `3\pi/4` 之间,得到
\[\frac1{\sqrt2}\leqslant\sin\left(2C-\frac{3\pi}4\right)\leqslant1,\]所以
\[1\leqslant\cos^2A+\cos^2B\leqslant\frac{1+\sqrt2}2,\]
还需要验证取等条件,因为上面得到关于 `C` 的不等式是否为精确范围现在还不清楚,易知当 `C` 为直角且 `A=B` 时左边取等,至于右边,则需要解出使 `C=5\pi/8` 的解,经过一些计算,可知取等为
\[A=\frac12\arcsin\sqrt{1-\frac1{\sqrt2}}-\frac\pi{16}, B=\frac{7\pi}{16}-\frac12\arcsin\sqrt{1-\frac1{\sqrt2}}, C=\frac{5\pi}8.\] |