解:(1)(a+3)
2-a(4+a),
=a
2+6a+9-4a-a
2,
=2a+9;
(2)(8a
3b-5a
2b
2)÷4ab,
=8a
3b÷4ab-5a
2b
2÷4ab,
=2a
2-

ab;
(3)5ab
2-10ab+5a,
=5a(b
2-2b)+5a,
=5a(b
2-2b+1),
=5a(b-1)
2;
当a=

,b=-

时,
原式=5×

×(-

-1)
2=

.
分析:(1)(a+3)
2运用完全平方公式计算,-a(4+a)让a与括号里的每一项相乘,所得的积相加即可;
(2)让多项式的每一项除以单项式,所得的商相减即可;
(3)先提取公因式5a,再利用完全平方公式分解因式,然后再代入计算求解.
点评:本题考查了完全平方公式,单项式乘多项式,多项式除单项式,熟练掌握运算法则和公式是解题的关键,计算时要注意运算符号的变化.