解:(1)∵y=mx
2-2mx-3m=m(x
2-2x-3)=m(x-1)
2-4m,
∴抛物线顶点M的坐标为(1,-4m);
∵抛物线y=mx
2-2mx-3m(m>0)与x轴交于A、B两点,
∴当y=0时,mx
2-2mx-3m=0,
∵m>0,
∴x
2-2x-3=0;
解得x
1=-1,x
2=3,
∴A、B两点的坐标为(-1,0)、(3,0).
(2)当x=0时,y=-3m,
∴点C的坐标为(0,-3m).
∴

.
过点M作MD⊥x轴于点D,则OD=1,BD=OB-OD=2,

MD=|-4m|=4m.
∴S
△BCM=S
△BDM+S
梯形OCMD-S
△OBC=

=

=3m.
∴S
△BCM:S
△ABC=1:2,
故答案为:

;
(3)存在使△BCM为直角三角形的抛物线;
过点C作CN⊥DM于点N,则△CMN为Rt△,CN=OD=1,DN=OC=3m,
∴MN=DM-DN=m.
∴CM
2=CN
2+MN
2=1+m
2;
在Rt△OBC中,BC
2=OB
2+OC
2=9+9m
2,
在Rt△BDM中,BM
2=BD
2+DM
2=4+16m
2;
①如果△BCM是Rt△,且∠BMC=90°,那么CM
2+BM
2=BC
2,
即1+m
2+4+16m
2=9+9m
2,
解得

,
∵m>0,∴

.
∴存在抛物线y=

x
2-

x-

使得△BCM是Rt△;
②如果△BCM是Rt△,且∠BCM=90°,那么BC
2+CM
2=BM
2,
即9+9m
2+1+m
2=4+16m
2,
解得m=±1,
∵m>0,
∴m=1;
∴存在抛物线y=x
2-2x-3,使得△BCM是Rt△;
③如果△BCM是Rt△,且∠CBM=90°,那么BC
2+BM
2=CM
2,
即9+9m
2+4+16m
2=1+m
2,整理得

,此方程无解;
∴以∠CBM为直角的直角三角形不存在;
综上所述,存在抛物线y=

x
2-

x-

和y=x
2-2x-3,使得△BCM是Rt△.
分析:(1)将抛物线的解析式化为顶点坐标式,即可得到顶点M的坐标;抛物线的解析式中,令y=0,可求得A、B的坐标.
(2)易求得C点坐标,即可得到OC的长,以AB为底,OC为高,即可求出△ABC的面积;△BCM的面积无法直接求得,可用割补法求解,过M作MD⊥x轴于D,根据B、C、M四点坐标,可分别求出梯形OCMD、△BDM的面积,它们的面积和减去△BOC的面积即为△BCM的面积,进而可得到△ABC、△BCM的面积比.
(3)首先根据B、C、M的坐标,求出BC
2、BM
2、CM
2的值,由于△BCM中,B、C、M都有可能是直角顶点,所以要分三种情况讨论:①∠BCM=90°,②∠BMC=90°,③∠MBC=90°,在上述三种不同的直角三角形中,利用勾股定理可求得m的值,进而可确定抛物线的解析式.
点评:此题考查了二次函数图象与坐标轴交点坐标的求法、图形面积的求法、勾股定理、直角三角形的判定等知识;需要注意的是(3)题中,由于直角三角形的直角顶点不确定,一定要分类讨论,以免漏解.