解:(1)由题意,得B(0,3),
∵△AOB∽△BOC,
∴∠OAB=∠OBC,
∴

=

,
∴

=

,
∴OC=4,∴C(4,0);
∴∠OAB+∠OBA=90°,
∴∠OBC+∠OBA=90°,
∴∠ABC=90°;
∵y=ax
2+bx+3图象经过点A(-

,0),C(4,0),
∴

,
∴y=-

x
2+

x+3;

(2)①如图1,当CP=CO时,点P在BM为直径的圆上,
因为BM为圆的直径,
∴∠BPM=90°,
∴PM∥AB,
∴△CPM∽△CBA,
∴CM:CA=CP:CB,
CM:6.25=4:5,
∴CM=5,

∴m=4-5=-1;
②如图2,当PC=PO时,点P在OC垂直平分线上,
得PC=

BC=2.5,
由△CPM∽△CBA,得CM=

,
∴m=4-

=

;
③当OC=OP时,M点不在线段AC上.
综上所述,m的值为

或-1.
分析:(1)由二次函数y=ax
2+bx+3的解析式,首先求出B点坐标,然后由△AOB∽△BOC,根据相似三角形的对应边成比例,求出OC的长度,得出C点坐标;根据相似三角形的对应角相等得出∠OAB=∠OBC,从而得出∠ABC=90°;由y=ax
2+bx+3图象经过点A(-

,0),C(4,0),运用待定系数法即可求出此二次函数的关系式;
(2)如果以点P、C、O为顶点的三角形是等腰三角形,那么分三种情况讨论:①CP=CO;②PC=PO;③OC=OP.针对每一种情况,都应首先判断M点是否在线段AC上,然后根据相似三角形的对应边成比例求出m的值.
点评:本题着重考查了待定系数法求二次函数解析式,相似三角形的性质,探究等腰三角形的构成情况等重要知识点,综合性强,能力要求高.考查学生分类讨论,数形结合的数学思想方法.