解:(1)∵点A坐标为(-2,m),AB⊥x轴于B,Rt△AOB面积为3,

∴

×2×m=3,解得m=3,
∴A点坐标为(-2,3),
把A(-2,3)代入y=

得k=-2×3=-6,
所以反比例函数的解析式为y=-

;
(2)把C(n,-

)代入y=-

得-

n=-6,解得n=4,
∴C点坐标为(4,-

),
把A(-2,3)、C(4,-

)代入y=ax+b得

,解得

,
所以直线y=ax+b解析式为y=-

x+

;
(3)连OC,
对于y=-

x+

,令y=0,则-

x+

=0,解得x=2,
∴M点的坐标为(2,0),
∴S
△AOC=S
△AOM+S
△COM=

×2×3+

×2×

=

;
(4)存在.理由如下:
∵A点坐标为(-2,3),
∴OB=2,AB=3,
∴OA=

=

,
当OP=OA时,△PAO为等腰三角形,则P点坐标为(-

,0)或(

,0);
当AP=AO时,△PAO为等腰三角形,则P点坐标为(-4,0);
当PO=PA时,△PAO为等腰三角形,
作OA的垂直平分线交x轴于P,交OA于D,如图,
则OD=


,
易证得Rt△POD∽Rt△AOB,
∴OP:OA=OD:OB,即OP:

=

:2,
∴OP=

,
∴P点坐标为(-

,0),
所以在x轴上存在一点P,使△PAO为等腰三角形,此时P点坐标为(-

,0)或(

,0)或(-4,0)或(-

,0).
分析:(1)根据Rt△AOB面积为得到

×2×m=3,解得m=3,则A点坐标为(-2,3),把A点坐标代入y=

可得k=-2×3=-6,确定反比例函数的解析式为y=-

;
(2)把C点坐标代入反比例函数的解析式y=-

可确定C点坐标为(4,-

),然后利用待定系数法确定经过A点和C点的直线解析式;
(3)先求出M点的坐标,然后利用S
△AOC=S
△AOM+S
△COM进行计算即可;
(4)分类讨论:当OP=OA时,△PAO为等腰三角形,以O为圆心,OA为半径画弧交x轴于P点,易得P点坐标为(-

,0)或(

,0);当AP=AO时,△PAO为等腰三角形,此时P点与O点关于AB对称,则P点坐标为(-4,0);当PO=PA时,△PAO为等腰三角形,作OA的垂直平分线交x轴于P,交OA于D,则OD=


,易证得Rt△POD∽Rt△AOB,则OP:OA=OD:OB,即OP:

=

:2,即可求出OP,从而确定此时P点坐标.
点评:本题考查了反比例函数综合题:反比例函数与一次函数的交点坐标同时满足两个函数的解析式;运用待定系数法求函数的解析式以及使用分类讨论的思想方法解决数学问题.