解:(1)设双曲线G的渐近线的方程为y=kx,
则由渐近线与圆x
2+y
2-10x+20=0相切可得
所以k=±
,即双曲线G的渐近线的方程为y=±
x. …………………
3分
(2)由(1)可设双曲线G的方程为x
2-4y
2=m,
把直线
的方程y=
(x+4)代入双曲线方程,
整理得3x2-8x-16-4m=0,
则xA+xB=
,xAxB=-
.(*)
∵|PA|·|PB|=|PC|2,P、A、B、C共线且P在线段AB上,
∴(xP-xA)(xB-xP)=(xP-xC)2,即(xB+4)(-4-xA)=16,
整理得4(xA+xB)+xAxB+32=0.将(*)代入上式得m=28,
∴双曲线的方程为
………………… 7分
(3)由题可设椭圆S的方程为
(a>2
),
设垂直于
的平行弦的两端点分别为M(x1,y1),N(x2,y2),MN的中点为P(x0,y0),
易得切线m的方程为
,解得切点坐标
,
则P点的坐标为
………………… 14分