解:设关于x的方程mx
2+2(m-1)x+m-1=0有两个实数根分别为a与b,
∴a+b=-

,ab=

,
∴a
2+b
2=(a+b)
2-2ab=

-

,
根据题意得:

-

+

>8,
去分母得:10m(m-1)-4(m-1)
2+2m(m-1)>8m
2,
整理得:-4m>4,
解得:m<-1,
∵反比例函数y=

的图象的两个分支在各自的象限内y随x的增大而减小,
∴2m+5>0,即m>-

,
∴-

<m<-1,
则m的整数解为:-2.
分析:利用根与系数的关系表示出两根之和与两根之积,由题意列出关于m的方程,求出方程的解得到m的值,根据反比例函数的性质即可确定出m的值.
点评:此题考查了根与系数的关系,熟练掌握根与系数的关系是解本题的关键.