A
分析:由点(a,b)在过点(1,-1)和(2,-3)的直线上得2a+b=1,所以S=2

-4a
2-b
2=4ab+2

-1,再令

=t>0,则S化为关于t的二次函数形式,再由二次函数的性质结合t的取值范围可得S的最大值.
解答:∵点(a,b)在过点(1,-1)和(2,-3)的直线上
∴

即2a+b=1
∴S=2

-4a
2-b
2=4ab+2

-(2a+b)
2=4ab+2

-1
令

=t,则0<t

,
则 S=4t
2+2t-1,在(0,+∞)上为增函数
故 当t=

时,S 有最大值

,
故选A.
点评:本题考查了函数的最值及其几何意义,属于中档题.注意利用等价转换,结合基本不等式和二次函数的单调来求这个最值问题.运用换元的思想得到 S=4t
2+2t-1,是解决本题的关键.