解:(1)∵在△ABC中,sinAcosB=

,sinBcosA=

,
∴sinC=sin(A+B)=sinAcosB+cosAsinB=

∵0<C<π,
∴C=30°或150°(6分)
(2)∵C=30°或150°,△ABC的外接圆半径R=3,
∴c=2RsinC=3 (8分)
∴c
2=a
2+b
2-2abcosC
即 a
2+b
2-

ab=9 或 a
2+b
2+

ab=9(9分)
又由 sinAcosB=

,
得

•

=

∴a
2-b
2=3,(11分)
∴2a
2±

ab-4b
2=0
解得

=

.(14分)
分析:(1)在△ABC中,由sinC=sin(A+B)可求得sinC=

,从而可求得角C;
(2)由c=2RsinC可求得c,再利用余弦定理可得a
2+b
2-

ab=9 或 a
2+b
2+

ab=9,再由sinAcosB=

得a
2-b
2=3,从而可得

的值.
点评:本题考查余弦定理与正弦定理,考查综合运用余弦定理与正弦定理解决问题的能力,属于中档题.