分析:(1)设数列{an}的公比为q,根据等差中项的性质可知2S10=S4+S7,代入等比数列求和公式整理得1+q3=2q6.进而根据等比数列的通项公式可推断a1+a4=2a7.进而证明原式.
(2)把等比数列的求和公式代入S3和S6,两式相除即可求得q,把q代入S3求得a1,进而可得数列{an}的通项公式,根据数列{bn}是单调递减数列可知bn+1<bn,把bn=λan-n2代入不等式,进而根据当n是奇数时,当n=1时取最大值;n是偶数时,当n=2时取最大值,进而得到λ的范围.
解答:解:(1)证明:设数列{a
n}的公比为q,
因为S
4,S
10,S
7成等差数列,所以q≠1,且2S
10=S
4+S
7.
所以
=+,
因为1-q≠0,所以1+q
3=2q
6.
所以a
1+a
1q
3=2a
1q
6,即a
1+a
4=2a
7.
所以a
1,a
7,a
4也成等差数列.
(2)因为
S3=,
S6=,
所以
=,①
=,②
由②÷①,得
1+q3=,所以
q=-,代入①,得a
1=2.
所以
an=2•(-)n-1,
又因为b
n=λa
n-n
2,所以
bn=2λ(-)n-1-n2,
由题意可知对任意n∈N
*,数列{b
n}单调递减,
所以b
n+1<b
n,即
2λ(-)n-(n+1)2<2λ(-)n-1-n2,
即
6λ(-)n<2n+1对任意n∈N
*恒成立,
当n是奇数时,
λ>-,当n=1时,
-取得最大值-1,
所以λ>-1;
当n是偶数时,
λ<,当n=2时,
取得最小值
,
所以λ
<.
综上可知,
-1<λ<,即实数λ的取值范围是
(-1,).
点评:本题主要考查等比数列的性质,考查了学生根据已知条件,分析和解决问题的能力.