解:(1)∵四边形ABCD是菱形,
∴AC⊥BD,且AC与BD互相平分,
∵AC=8,BD=6,
∴OA=4,OB=3,
∴AB=

=

=5;
(2)①当0<t≤

时,由题意,得AP=t,点Q在BC上运动,
如图1,过点B作BE⊥AD,垂足为E,
∵AC=8,BD=6,
∴

AD•BE=

AC•BD,
由题意可得BE=

,
∴S=

AP•BE,即S=

t;
②当

≤t<5时,点Q在BA上运动,
由题意,得AP=t,AQ=10-2t.
如图2,过点Q作QG⊥AD,垂足为G,则QG∥BE,
∴△AQG∽△ABE,
∴

=

,
∴QG=

-

,
∴S=

AP•QG,
即S=-

t
2+

t(

)(

≤t<5).
当0≤t<

时,S=

t•4
当t=

时,S的最大值为6;
当

≤t<5时,S=-

t
2+

t,即S=-

(t-

)
2+6.
∴当t=

时,S的最大值为6.
综上所述,当t=

时,S有最大值,最大值为6.
(3)a=

.
∵a≤

,
∴点Q在CB上,
由题意可知PQ≥BE>PA,
∴当QA=QP时,△APQ是等腰三角形.
如图3,过点Q作QM⊥AP,垂足为点M,QM交AC于点F,
则AM=

AP=2.由△AMF∽△AOD∽△CQF,
得

=

=

=

,
∴FM=

,
∴QF=MQ-FM=

,
∴CQ=

=

.
则

=

,
∴a=

=

.

分析:(1)根据菱形的性质可知AC⊥BD,且AC与BD互相平分,再根据勾股定理即可求出菱形的边长;
(2)①当0<t≤

时,由题意,得AP=t,点Q在BC上运动,过点B作BE⊥AD,垂足为E,由直角三角形的性质求出BE的长,由三角形的面积公式可得到S与t的关系式;
②当

≤t<5时,点Q在BA上运动,由题意,得AP=t,AQ=10-2t,过点Q作QG⊥AD,垂足为G,则QG∥BE,可得出△AQG∽△ABE,由相似三角形的对应边成比例即可得出S关于t的关系式,再根据二次函数的最值问题进行解答即可;
(3)先判断出等腰三角形的两腰长,过点Q作QM⊥AP,垂足为点M,QM交AC于点F,根据△AMF∽△AOD∽△CQF,可得出FM的值,由QF=MQ-FM得出QF的值,进而可得出a的值.
点评:本题考查的是相似三角形的性质、菱形的性质、二次函数的最值及等腰三角形的性质,根据题意作出辅助线,利用数形结合求解是解答此题的关键.