最小二乘法;
广义最小二乘法;
非线性二乘法;
极大性估计;
广义矩估计
矩估计法
用样本矩代替相应的总体矩,如用样本均值估计总体均值。这称为pearson替换原理。
最小二乘法 为了选出使得模型输出与系统输出yt尽可能接近的参数估计值,可用模型与系统输出的误差的平方和来度量接近程度。使误差平方和最小的参数值即为所求的估计值。
极大似然法
选择参数θ,使已知数据y在某种意义下最可能出现。某种意义是指似然函数p(y│θ)最大,这里p(y│θ)是数据y的概率分布函数。与最小二乘法不同的是,极大似然法需要已知这个概率分布函数p(y│θ)。在实践中这是困难的,一般可假设p(y│θ)是正态分布函数,这时极大似然估计与最小二乘估计相同。