解:(1)△=4(m-1)
2-4(m
2-3)=-8m+16,
∵方程有两个不相等的实数根,
∴△>0,
即-8m+16>0,
解得m<2,
∴实数m的取值范围是m<2;
(2)在△ABC中,∠C=90°,tanB=

,
∴

,
设b=3k,a=4k,
则

=5k,
又∵c-b=4,
∴5k-3k=2k=4,
解得k=2,
∴c=10.
不妨设原方程的两根为x
1,x
2,
由根与系数的关系得x
1+x
2=2(m-1),
x
1x
2=m
2-3,
∴x
12+x
22=(x
1+x
2)
2-2x
1x
2=4(m-1)
2-2(m
2-3)
=2m
2-8m+10,
由已知有:x
12+x
22=10
2,
∴2m
2-8m+10=10
2=100,
解这个方程得m
1=-5,m
2=9,
又∵方程有两个不相等实数根,
必须满足m<2,
∴m=-5.
分析:(1)由于一元二次方程有两个不相等的实数根,则△<0,从而得到关于m的不等式,然后就可以得出m的取值范围;
(2)由于tanB=

,c-b=4,利用勾股定理可求出c的值,然后根据根与系数的关系得出两个实数根的平方和,根据题意得到关于m的方程,从而可以求出m的值并验根.
点评:此题着重考查了根的判别式,根与系数的关系.在利用根与系数的关系解题时,要特别注意一定要利用根的判别式进行检验.