C
分析:由于方程(x-a)(x-b)=1的两根为α、β,根据根与系数的关系可得α+β、αβ的值,再设x1、x2是方程(x-α)(x-β)=-1的两个根,再利用根与系数的关系可得x1+x2=α+β=a+b,x1x2=αβ+1=ab,最后结合完全平方公式可求x12+x22的值.
解答:∵(x-a)(x-b)=1,
∴x2-(a+b)x+ab-1=0,
∴α+β=a+b,αβ=ab-1,
方程(x-α)(x-β)=-1整理可得x2-(α+β)x+αβ+1=0,
若x1、x2是方程(x-α)(x-β)=-1的两个根,那么
x1+x2=α+β=a+b,x1x2=αβ+1=ab,
∴x12+x22=(x1+x2)2-2x1x2=(a+b)2-2ab=a2+b2,
故选C.
点评:本题考查了根与系数的关系,解题的关键是先求出α+β和αβ的值,再进行代换.