18、线性与非线性回归及带约束回归的深入解析

线性与非线性回归及带约束回归的深入解析

1. 非线性最小二乘法拟合

1.1 使用 lsqcurvefit() 求解

在处理非线性回归问题时， lsqcurvefit() 函数是一个强大的工具，它可以运用非线性最小二乘法将函数拟合到数据点上。以下是使用该函数解决问题的示例代码：

f3 = @(p,x_data) p(1) + p(2)*atan(p(3)*(x_data-p(4)));
[p,residual] = lsqcurvefit(f3,[p1,p2,p3,p4],x_data,y_data);
optimal_values = p';
residual = sqrt(residual);

运行上述代码后，得到的最优参数值和残差如下：

optimal_values =
    55.11268
    7.73197
    0.52191
    3.91784
residual =
    0.79932

需要注意的是， lsqcurvefit() 函数不会估计参数的标准差。

1.2 Tikhonov 正则化逼近

Tikhonov 正则化是另一种生成拟合给定数据点函数的方法。对于给定的参数 $\lambda_1 \geq 0$ 和 $\lambda_2 \geq 0$，需要找到使泛函 $F(\lambda_1, \lambda_2)$ 最小化的函数 $u(x)$，其中：
[