解:(1)若△BAO∽△BDM,则

,
即

=

,解得t=

;
若△BAO∽△BMD,

,
即

=

,解得t=

;
所以当t=

t=

,以B,D,M为顶点的三角形与△OAB相似.

(2)过点M作MF⊥AB于F,则△BFM∽△BAO;
从而

=

,所以MF=6-

t,
S
△BDM=

BD•MF=

t(6-

t),
△BDN∽△OBC,S
△OBC=

×10×6=30,

=(

)
2,所以S
△BDN=

t
2①当0<t≤5时,y=S
△DMN=S
△BDM-S
△BDN=

t(6-

t)-

t
2=-

t
2+3t;
②当5<t<8时,y=S
△DMN=S
△BDN-S
△BDM=

t
2-

t(6-

t)=

.
(3)在△BDM与△OME中,
BD=OM=t,∠MBD=∠EOM,BM=EO=10-t,
所以△BDM≌△OME;
从而五边形MECBD的面积等于三角形OBC的面积,因此它是一个定值,
S
MECBD=30.
分析:(1)首先用t表示出BD、BM的长,由于△BDM、△AOB共用∠ABO,若以B、D、M为顶点的三角形△OAB与相似,则有两种情况:①△BAO∽△BDM,②△BAO∽△BMD;可根据不同相似三角形所得的不同比例线段求出t的值.
(2)过M作MF⊥AB于F,易证得△BFM∽△BAO,即可根据相似三角形所得比例线段求得MF的长,进而可得到△BDM的面积表达式;由于∠BDN=∠OED=∠OCB,易证得△BDN∽△OBC,可求得△BOC的面积,根据相似三角形的面积比等于相似比的平方,即可得到△BDN的面积,然后分两种情况讨论:
①M点在线段ON上,此时0<t≤5,△DMN的面积为△BDM的面积减去△BDN的面积,由此得到y、t的关系式;
②M点在线段BN上,此时5<t<8,△DMN的面积为△BDN的面积减去△BDM的面积,由此得到y、t的关系式.
(3)易求得OB=OC=10,即可知BM=OE=10-t,而BD=OM=t,且∠DBM=∠MOE,即可证得△BDM≌△OME,因此五边形的面积可转化为△OBC的面积,因此五边形的面积是定值,以OC为底、OA为高,即可求得△OCB的面积,也就是这个定值的大小.
点评:此题考查的知识点有:直角梯形的性质、相似三角形及全等三角形的判定和性质、图形面积的求法等知识,(2)题中一定要根据M、N的不同位置分类讨论,以免漏解.