解:(1)原式=16a
2-40ab+25b
2-2(12a
2-23ab+10b
2)
=16a
2-40ab+25b
2--24a
2+46ab-20b
2=-8a
2+6ab+5b
2;
(2)原式=x
3-2x[

x
2-

x+3-

x]
=x
3-x
3+x
2-6x+

x
2=

x
2-6x,
当x=3时,
原式=

×3
2-6×3
=-

.
分析:(1)先去括号,再合并同类项,最后代入求出即可;
(2)先去小括号,再去中括号,合并同类项,最后代入求出即可.
点评:本题考查了整式的化简求出值,有理数的混合运算等知识点的应用.