MATLAB默认运算位数为long,但是显示小数点固定为4位,可以通过format修改显示精度。内部运算精度使用var修改,具体方法如下。
设置显示精度,format
FORMAT SHORT 固定5位小数点。
FORMAT LONG 固定15位(Double)和7位(Single)小数点。
FORMAT SHORT E 5位小数的浮点
FORMAT LONG E 浮点数,其中15位小数为双精度,7为小数为单精度
FORMAT SHORT G 固定位数,或者5位小数单精度数。
FORMAT LONG G 固定位数,或者15位小数为双精度,7为小数为单精度。
设置内部运算精度
digits(d),默认为32位。设置当前的 VPA 精度为d位数字
VPA(A,N)