解:(1)B点的坐标是(3,5);
(2)设直线与AB的交点是D.
设AD=x,则[3+(5-x)]:(8+x)=1:3,解得x=4,
因而D的坐标是(3,4).
设CD的解析式是y=kx+b,根据题意得到

,解得

,
则函数的解析式是y=-

x+5.
(3)①当点E在y轴上,且△BCD∽△DEC时,

∠CDE=∠B=90°,
则

=

,即

=

,
解得CE=10.因而OE=5,则E的坐标是(0,-5).
②当点E在y轴上,且△BCD∽△EDC时,∠CED=∠B=90°,
则

=1,
∴BD=EC=1,
∴E的坐标是(0,4).
③当E在x轴上时,C、D到x轴的距离都大与CD的长,则CD不可能是斜边,
当C是直角顶点时,过C且垂直于CD的直线的解析式是:y=3x+5,与x轴的交点坐标是:E(-

,0),则EC=

,
∴

=

,则△ECD∽△CBD;
当D是直角顶点时,过D且垂直于CD的直线的解析式是:y=3x-5,与x轴的交点坐标是E(

,0),
则ED=

,△ECD和△CBD不相似.
∴点E的坐标为(0,-5)或(0,4)或(-

,0).
分析:求函数的解析式,可以根据直线CD把矩形OABC的周长分为1:3两部分,就可以求出D点的坐标,利用待定系数法就可以求出解析式.根据三角形相似,对应边的比相等,可以求出点的坐标.
点评:本题主要考查了利用待定系数法求函数的解析式.