解:(1)因为直线y=kx+b过B、C两点,
所以

,
解得

.
(2)因为y=3x-9,令x=4,则y=3.即P(4,3).
设AP:y=kx+b,则

,即

.
所以AP的解析式为y=

x+1,它与y轴的交点Q(0,1).
所以S
PCDQ=梯形OBCD的面积-(三角形APB的面积-三角形AQO的面积)=(5+3)×6÷2-(3+2)×3÷2+2×1÷2=17.5;
(3)设OF=a,△ABE的高为NE.
∵△ABF与△ABE的底同是AB,且高分别为OF,NE,
∴

,
∵∠A=∠A,∠CEB=∠ABE=∠AFB,
∴△ABF∽△AEB,
∴S
△ABF:S
△AEB=AF
2:AB
2,
∴(

)
2=

,
∴AF
2=

•AB
2=

a.
在Rt△AOF中,由勾股定理,得
AF
2=AO
2+OF
2=4+a
2,
∴4+a
2=

a,6a
2-25a+24=0,
解得a
1=

,a
2=

.
当a=

时,AN=12÷

=4.5.则DE=ON=4.5-2=2.5,此时点E在DC上;
当a=

时,AN=12÷

=8.则DE=ON=8-2=6>5,此时点E不在DC上,故舍去.
∴当a=

时,AF=

,
故cos∠BAE=

.
分析:(1)因为直线y=kx+b过B、C两点,所以利用待定系数法即可求出函数的解析式;
(2)因为点P的横坐标为4,所以可求出P(4,3).
利用待定系数法求出AP的解析式,再求它与y轴的交点Q(0,1).
所以S
PCDQ=梯形OBCD的面积-(三角形APB的面积-三角形AQO的面积)=(5+3)×6÷2-(3+2)×3÷2+2×1÷2=17.5;
(3)可设OF=a,△ABE的高为NE,因为△ABF与△ABE的底同是AB,且高分别为OF,NE,所以

,又因∠CEB=∠ABE=∠AFB,所以可求△ABF∽△AEB,S
△ABF:S
△AEB=AF
2:AB
2,进而有AF
2=

•AB
2=

a.
Rt△AOF中,由勾股定理,得AF
2=AO
2+OF
2=4+a
2,可解得a的值,进而求出AF的值,解决问题.
点评:本题需仔细分析题意,利用待定系数法和相似三角形的性质即可解决问题.