解:(1)当△BEF是等边三角形时,∠ABE=30°.
∵AB=12,
∴AE=

,
∴BF=BE=

.
(2)作EG⊥BF,垂足为点G,

根据题意,得EG=AB=12,FG=y-x,EF=y,
∴y
2=(y-x)
2+12
2,
∴所求的函数解析式为

(0<x<12).

(3)∵∠AEB=∠FBE=∠FEB,
∴点A'落在EF上,
∴A'E=AE,∠BA'F=∠BA'E=∠A=90,
∴要使△A'BF成为等腰三角形,必须使A'B=A'F.
而A'B=AB=12,A'F=EF-A'E=BF-A'E,
∴y-x=12.
∴

-x=12.
整理得x
2+24x-144=0,
解得

,
经检验:

都原方程的根,
但

不符合题意,舍去,
当AE=

时,△A'BF为等腰三角形.
分析:(1)当△BEF是等边三角形时,有∠ABE=∠ABC-∠EBC=90°-60°=30°,则可解Rt△ABE,求得BF即BE的长.
(2)作EG⊥BF,垂足为点G,则四边形AEGB是矩形,在Rt△EGF中,由勾股定理知,EF
2=(BF-BG)
2+EG
2.即y
2=(y-x)
2+12
2.故可求得y与x的关系.
(3)当把△ABE沿着直线BE翻折,点A落在点A'处,应有∠BA'F=∠BA'E=∠A=90°,若△A'BF成为等腰三角形,必须使A'B=A'F=AB=12,有FA′=EF-A′E=y-x=12,故可由(1)得到的y与x的关系式建立方程组求得AE的值.
点评:本题利用了等边三角形和正方形、矩形、等腰三角形的性质,勾股定理求解.