(1)
f(
x)=
+
sin2
x-
=
sin2
x-
cos2
x=sin(2
x-
).
∵0
x,∴-
2
x-
. ------------------3分
∴当2
x-
=
时,即
x=
时,
f(
x)的最大值为1.---------------------5分
(2)∵
f(
x)=sin(2
x-
),
x是三角形的内角,则0<
x<p,-
<2
x-
<
令
f(
x)=
,得sin(2
x-
)=
,∴2
x-
=
,或2
x-
=
,-------7分
解得
x=
,或
x=
.-------------------------------------8分
由已知,
A,
B是△
ABC的内角,
A<
B且
f(
A)=
f(
B)=
,∴
A=
,
B=
--9分
∴
C=p-
A-
B=
----------------------------------------10分
由正弦定理,得
=
.