D
分析:易证图形中的四个小三角形全等,求出小三角形的面积,可得ab的值,根据四边形EFGH的面积,可求出a
2+b
2的值,得出(a-b)
2的值,即可得出答案.
解答:∵正方形EFGH的面积为

,
∴EF
2=

,
在Rt△AEF中,AE
2+AF
2=EF
2,即a
2+b
2=

,
由题意得:∠AFE=∠BGF(都是∠BFG的余角),
在△AEF和△BFG中,

,
∴△AEF≌△BFG(AAS),
同理可得:△AEF≌△BFG≌△CGH≌△DHE,
∴S
△AEF=

(S
正方形ABCD-S
正方形EFGH)=

,
∴ab=

,
∴(a-b)2=a
2+b
2-2ab=

,
∴|a-b|=

.
故选D.
点评:本题考查了正方形的性质,解答本题的关键是将求解的式子转换为求(a-b)
2的值,也可以按部就班解a、b再求解,不过稍显麻烦一些.