解:(1)过A作AE⊥x轴于E,
tan∠AOE=

,
∴OE=3AE,
∵OA=

,由勾股定理得:OE
2+AE
2=10,
解得:AE=1,OE=3,
∴A的坐标为(3,1),
∵A点在双曲线上y=

上,
∴1=

,
∴k=3,
∴双曲线的解析式y=

;
∵B(m,-2)在双曲y=

上,
∴-2=

,
解得:m=-

,
∴B的坐标是(-

,-2),
代入一次函数的解析式得:

,
解得:

,
则一次函数的解析式为:y=

x-1;
(2)连接BO,
∵一次函数的解析式为:y=

x-1;
∴D(0,-1),
∴S
△AOB=S
△AOD+S
△BOD=

×DO×3+

×DO×

=

×1×3+

×1×

=

;

(3)过点C作CP⊥AB,交y轴于点P,
∵C,D两点在直线y=

x-1上,
∴C,D的坐标分别是:C(

,0),D(0,-1).
即:OC=

,OD=1,
∴DC=

.
∵△PDC∽△CDO,
∴

=

,
∴PD=

,
又∵OP=DP-OD=

-1=

,
∴P点坐标为(0,

).
分析:(1)过A作AE⊥x轴于E,由tan∠AOE=

,得到OE=3AE,根据勾股定理即可求出AE和OE的长,即得到A的坐标,代入双曲线即可求出k的值,得到解析式;把B的坐标代入反比例函数的解析式即可求出B的坐标,把A和B的坐标代入一次函数的解析式即可求出a、b的值,即得到答案.
(2)根据一次函数解析式算出D点坐标,可以得到OD的长,S
△AOB=S
△AOD+S
△BOD,代入相应数值可得答案;
(3)过点C作CP⊥AB,交y轴于点P,因为在y轴上存在一点P,使得△PDC与△ODC相似,∠PDC和∠ODC是公共角,∠PCD=∠COD=90°,所以有△PDC∽△CDO,

=

而点C、D分别是一次函数y=

x-1的图象与x轴、y轴的交点,因此有C(

,0)、D(0,-1).OC=

,OD=1,DC=

进而可求出PD=

,OP=

.写出点P的坐标.
点评:本题主要考查了锐角三角函数的定义,用待定系数法求反比例函数的解析式,反比例函数图象上点的坐标特征,用待定系数法一次函数的解析式,一次函数图象上与坐标轴的交点,勾股定理,相似三角形的判定与性质,关键是求出反比例函数、一次函数的解析式.