(1)由f(x)=bx
3+ax
2-3x,
则f′(x)=3bx
2+2ax-3,
∵f(x)在x=1和x=3处取得极值,
∴x=1和x=3是f′(x)=0的两个根且b≠0.
.
∴f′(x)=-x
2+4x-3.
∵f(x)的图象上每一点的切线的斜率不超过
2sintcost-2
cos
2t+
,
∴f′(x)≤2sintcost-2
cos
2t+
对x∈R恒成立,
而f′(x)=-(x-2)
2+1,其最大值为1.
故2sintcost-2
cos
2t+
≥1
2sin(2t-
)≥1
2k
+
≤2t-
≤2k
+
,k∈Z
k
+
≤t≤k
+
,k∈Z.
(2)当b=0时,由f(x)在R上单调,知a=0.
当b≠0时,由f(x)在R上单调
f′(x)≥0恒成立,或者f′(x)≤0恒成立.
∵f′(x)=3bx
2+2ax-3,
∴Δ=4a
2+36b≤0可得b≤-
a
2.
从而知满足条件的点P(a,b)在直角坐标平面aOb上形成的轨迹所围成的图形是由曲线b=-
a
2与直线b=-1所围成的封闭图形,
其面积为S=
(1-
a
2)da=4.