解:(1)设直线AB的解析式为y=kx+b,
由题意,得

,

解得

,
所以,直线AB的解析式为y=-

x+6;
(2)由AO=6,BO=8得AB=10,
所以AP=t,AQ=10-2t,
①当∠APQ=∠AOB时,△APQ∽△AOB.
所以

=

,
解得t=

(秒),
②当∠AQP=∠AOB时,△AQP∽△AOB.
所以

=

,
解得t=

(秒);
∴当t为

秒或

秒时,△APQ与△AOB相似;
(3)过点O作QE⊥AO于点E
∵sin∠BAO=

=

=

∴QE=AQ•sin∠BAO=

(10-2t)=8-

t
∴S
△APQ=

AP•QE=

t(8-

t)=-

t2+4t=-

(t-

)2+5.
∴当t=

时,△APQ的面积最大,最大面积是5个平方单位.
分析:(1)设直线AB的解析式为y=kx+b,解得k,b即可;
(2)由AO=6,BO=8得AB=10,①当∠APQ=∠AOB时,△APQ∽△AOB利用其对应边成比例解t.②当∠AQP=∠AOB时,△AQP∽△AOB利用其对应边成比例解得t.
(3)过点O作QE⊥AO于点E,利用t表示出△APQ的面积,利用函数的性质即可求解.
点评:此题主要考查相似三角形的判定与性质,待定系数法求一次函数值,解直角三角形等知识点,有一定的拔高难度,属于难题.