解答:(1)当a=0,b=3时,f(x)=x3-3x2,f'(x)=3x2-6x,令f'(x)=0得x=0,2,根据导数的符号可以得出函数f(x)在x=0处取得极大值,在x=2处取得极小值.函数f(x)在(t,t+3)上既能取到极大值,又能取到极小值,则只要t<0且t+3>2即可,即只要-1<t<0即可.所以t的取值范围是(-1,0).(4分)
(2)当a=0时,+lnx+1≥0对任意的x∈[,+∞)恒成立,即x2-bx+lnx+1≥0对任意的x∈[,+∞)恒成立,也即b≤x++在对任意的x∈[,+∞)恒成立.令g(x)=x++,
则g′(x)=1+?=.
记m(x)=x2-lnx,则m′(x)=2x?=,则这个函数在其定义域内有唯一的极小值点x=,故也是最小值点,所以m(x)≥m()=?ln>0,从而g'(x)>0,所以函数g(x)在[,+∞)单调递增.函数g(x)min=g()=+2ln2.故只要b≤+2ln2即可.所以b的取值范围是(?∞,+2ln2].(8分)
(3)假设⊥,即?=0,即(s,f(s))?(t,f(t))=st+f(s)f(t)=0,故(s-a)(s-b)(t-a)(t-b)=-1,即[st-(s+t)a+a2][st-(s+t)b+b2]=-1.
由于s,t是方程f'(x)=0的两个根,故s+t=(a+b),st=,0<a<b.
代入上式得ab(a-b)2=9.(a+b)2=(a?b)2+4ab=+4ab≥2=12,即a+b≥2,与a+b<2矛盾,所以直线OA与直线OB不可能垂直.