解:(1)f(x)=a x
2+2 b x-2lnx,得

,
因为f(x)在x=1处取得极值,所以f'(1)=0,
故2a+2b-2=0,即b=1-a;
(2)因为函数f(x)在x∈(0,

]上不是单调函数,所以f'(x)=0在(0,

]内有解,
即ax
2+bx-1=0,亦即ax
2+(1-a)x-1=0在(0,

]内有解,
由ax
2+(1-a)x-1=0得:x=1,或

,
所以

,解得:a<-2;
(3)因为k=

,
①当-4≤a<0或a>0时,

,
因为

,所以k'≥0恒成立,
所以k在

上单调递增,所以

时,k
max=-a-2;
②当a<-4时,有

,所以

,
所以

,此时“=”成立的条件是:x=

,
所以k=


,
综合得:

分析:(1)先利用导数四则运算求函数f(x)的导函数f′(x),再利用极值的意义,列方程即可得a,b的关系式
(2)先将问题转化为f'(x)=0在(0,

]内有解问题,再解一元二次方程,令根在区间上,解不等式即可得a的范围
(3)先求函数的导函数,再求导函数在(0,

]上的最大值,利用导数和均值定理,通过分类讨论解决问题
点评:本题综合考查了极值的意义,导数与函数单调性间的关系,利用导数求函数的最值,均值定理及二次函数的应用,分类讨论的思想方法