解:(1)∵f(x)=ax
2-3x+lnx(a>0),
∴f′(x)=2ax-3+

,x>0
∵曲线y=f(x)在点(1,f(1))处的切线平行于x轴,
∴k=2a-2=0,∴a=1,
∴f(x)=x
2-3x+lnx,f′(x)=2x-3+

,x>0,
令f′(x)=2x-3+

<0,可得

<x<1;令f′(x)>0,可得0<x<

或x>1;
∴函数f(x)的单调减区间为[

,1),单调增区间为(1,+∞),
当在区间

时.∴f(x)在区间[

,1]上为增函数,f(x)在区间[1,2]上为增函数.(4分)
∴f
max(x)=f(2)=-2+ln2,f
min(x)=f(1)=-2.(6分)
(2)原函数定义域为(0,+∞)
∴f′(x)=2ax-3+

=

,∵函数f(x)在定义域(0,+∞)内为单调函数,
∴f'(x)≤0或f'(x)≥0在(0,+∞)恒成立
由于a>0,设g(x)=2ax
2-3x+1(x∈(0,+∞))
由题意知△=9-8a≤0
∴a≥

所以a的取值范围为:a≥

.(12分)
分析:(1)求导函数,利用曲线y=f(x)在点(1,f(1))处的切线平行于x轴,可求a的值,令f′(x)<0,可得函数f(x)的单调减区间;令f′(x)>0,可得单调增区间;然后确定函数的极值,最后比较极值与端点值的大小,从而确定函数的最大和最小值.
(2)要保证原函数在定义内单调,需保证其导函数在定义域上不变号,分类讨论,从而求得参数的范围.
点评:本小题主要考查函数单调性的应用、导数在最大值、最小值问题中的应用、不等式的解法等基础知识,考查运算求解能力,导数中常见的恒成立问题,属中档题.