(1)由f(x)=bx
3+ax
2-3x,
则f′(x)=3bx
2+2ax-3,
∵f(x)在x=1和x=3处取得极值,
∴x=1和x=3是f′(x)=0的两个根且b≠0.



.
∴f′(x)=-x
2+4x-3.
∵f(x)的图象上每一点的切线的斜率不超过
2sintcost-2

cos
2t+

,
∴f′(x)≤2sintcost-2

cos
2t+

对x∈R恒成立,
而f′(x)=-(x-2)
2+1,其最大值为1.
故2sintcost-2

cos
2t+

≥1

2sin(2t-

)≥1

2k

+

≤2t-

≤2k

+


,k∈Z

k

+

≤t≤k

+

,k∈Z.
(2)当b=0时,由f(x)在R上单调,知a=0.
当b≠0时,由f(x)在R上单调

f′(x)≥0恒成立,或者f′(x)≤0恒成立.
∵f′(x)=3bx
2+2ax-3,
∴Δ=4a
2+36b≤0可得b≤-

a
2.
从而知满足条件的点P(a,b)在直角坐标平面aOb上形成的轨迹所围成的图形是由曲线b=-

a
2与直线b=-1所围成的封闭图形,
其面积为S=

(1-

a
2)da=4.