解:打向量太麻烦,以下a、b就表示向量a和向量b1、由|ka+b|^2=√3|a-ka|^2得,8ka·b=(3-k^2)a^2+(3k^2-1)b^2。∴a·b=[(3-k^2)a^2+(3k^2-1)b^2]/8∵a=(cosa,sina),b=(cosβ,sinβ)∴a^2=1,b^2=1,∴a·b=[k^2+1)/4k