解:(1)设双曲线G的渐近线的方程为y=kx,
则由渐近线与圆x
2+y
2-10x+20=0相切可得

所以k=±

,即双曲线G的渐近线的方程为y=±

x. …………………

3分
(2)由(1)可设双曲线G的方程为x
2-4y
2=m,
把直线

的方程y=

(x+4)代入双曲线方程,
整理得3x2-8x-16-4m=0,
则xA+xB=

,xAxB=-

.(*)
∵|PA|·|PB|=|PC|2,P、A、B、C共线且P在线段AB上,
∴(xP-xA)(xB-xP)=(xP-xC)2,即(xB+4)(-4-xA)=16,
整理得4(xA+xB)+xAxB+32=0.将(*)代入上式得m=28,
∴双曲线的方程为

………………… 7分
(3)由题可设椭圆S的方程为

(a>2

),
设垂直于

的平行弦的两端点分别为M(x1,y1),N(x2,y2),MN的中点为P(x0,y0),

易得切线m的方程为

,解得切点坐标

,
则P点的坐标为

………………… 14分