解答:解:连接OE,OF,
∵⊙O分别与边AB、BC、CA相切于点D、E、F,
∴DE⊥BC,DF⊥AC,AF=AD=8,BE=BD=12,
∴∠OEC=∠OFC=90°,
∵∠C=90°,
∴四边形OECF是矩形,
∵OE=OF,
∴四边形OECF是正方形,
∴EC=FC=r,
∴AC=AF+FC=8+r,BC=BE+EC=12+r,AB=AD+BD=12+8=20,
在Rt△ABC中,AB2=BC2+AC2,
∴202=(12+r)2+(8+r)2,
∴r2+20r-96=0,
即(r-4)(r+24)=0,
解得:r=4或r=-24(舍去).
∴⊙O的半径r为4.