解:(1)3a
2b-6ab
2+3ab=3ab(a-2b+1);
(2)

x
4-8,
=

(x
4-16),
=

(x
2+4)(x
2-4),
=

(x
2+4)(x+2)(x-2);
(3)5xy
4+5x
3y
2-10x
2y
3,
=5xy
2(y
2+x
2-2xy),
=5xy
2(x-y)
2.
分析:(1)提取公因式3ab即可;
(2)提取公因式

,再两次利用平方差公式分解因式即可;
(3)先提取公因式5xy
2,再对余下的多项式利用完全平方公式继续分解.
点评:本题考查了用提公因式法和公式法进行因式分解,一个多项式有公因式首先提取公因式,然后再用其他方法进行因式分解,同时因式分解要彻底,直到不能分解为止.