解:(1)原式=

×

=

,
当a=3tan30°+1=

+1,b=

cos45°=1时,原式=

=

;
(2)方程的两边同乘x(x-1),得
x
2-(2x-2)(x-1)-x(x-1)=0,
解得x
1=2,x
2=

,
检验:把x
1=2代入x(x-1)=2≠0.
∴x
1=2是原方程的解;
把x
2=

代入x(x-1)=-

≠0.
∴x
2=

是原方程的解;
∴x
1=2,x
2=

都是原方程的解.
分析:(1)先化简代数式,再把a、b的值求出后代入化简的式子计算即可;
(2)先求出最简公分母是(x-1)x,方程两边乘最简公分母,可以把分式方程转化为整式方程求解.
点评:本题考查了代数式的化简求值、解分式方程,解题的关键是注意通分、约分、掌握特殊三角函数值,以及分式方程的检验.