解:(1)(-2a
3)
2+(a
2)
3-2a•a
5,
=4a
6+a
6-2a
6,
=3a
6;
(2)4(a+2)(a+1)-7(a+3)(a-3)+30(a-1),
=4(a
2+3a+2)-7(a
2-9)+30a-30,
=4a
2+12a+8-7a
2+63+30a-30,
=-3a
2+42a+41;
(3)(2a+b)
2-(3a-b)
2+5a(a-b),
=4a
2+4ab+b
2-(9a
2-6ab+b
2)+5a
2-5ab,
=5ab;
当a=

,b=

时,原式=5×

×

=

.
分析:(1)根据积的乘方的性质,幂的乘方的性质,同底数幂的乘法计算,然后再合并同类项;
(2)利用多项式的乘法,平方差公式,去括及号合并同类项对整式进行化简;
(3)先利用完全平方式和单项式乘多项式的法则展开,然后再去括号合并同类项,最后把a、b的值代入计算.
点评:此题考查的是整式的混合运算,主要考查了积的乘方,幂的乘方,同底数幂的乘法,完全平方公式,单项式与多项式相乘,多项式乘多项式,合并同类项,熟练掌握运算法则和性质是解题的关键.