解:(1)由

得:2x
2-6x-k=0
∴

,
∵x
12+x
22+x
1x
2=13,∴(x
1+x
2)
2-x
1x
2=13,即9+

=13,
解得:k=8,
所以双曲线

的表达式为:y=

.
(2)由(1)可得2x
2-6x-8=0,
解得:x
1=4,x
2=-1,
∴A(4,2),B(-1,-8),
由对称性可知,
四边形AMCN为平行四边形,
∵四边形AMCN的面积=24,△OAM的面积=6,
设点M(m,

)(m>0且m≠4),
①当0<m<4时,过A、M分别作x轴的垂线AD、ME,
则四边形ODAM的面积=△ODA的面积+△OAM的面积=△OEM的面积+梯形MEDA的面积,
∵△ODA的面积=△OEM的面积=4,∴梯形MEDA的面积=△OAM的面积=6,

(2+

)(4-m)=6,
m
2+6m-16=0,∴m=2或m=-8(舍去),
②当m>4时,同①可得:梯形MEDA的面积=6,

(2+

)(m-4)=6,
m
2-6m-16=0,
m=8或m=-2(舍去),
综上所述:点M的坐标是(2,4)(8,1).
分析:(1)先利用韦达定理求出k的值,进一步写出表达式.
(2)通过图形面积分两种情况求出点M的坐标.
点评:此题考查的知识点是反比例函数的综合应用,关键是运用韦达定理确定k的值,再通过图形面积分两种情况求出点M的坐标.