18、无约束优化技术：从一阶到二阶的深入解析

无约束优化技术：从一阶到二阶的深入解析

在优化领域，无约束优化技术是解决各类实际问题的重要工具。本文将详细介绍一些常见的无约束优化方法，包括一阶和二阶优化技术，并通过具体的例子和代码来展示它们的应用。

1. 相关问题与目标函数

1.1 目标函数问题集

我们有一系列目标函数相关的问题需要解决，这些问题涵盖了不同类型的函数和优化方法。具体问题如下：
| 问题编号 | 目标函数 | 起始点 | 要求 |
| — | — | — | — |
| 6.1 | (f_1(x) = x_1^2 + x_2^2)，(f_2(x) = x_1^2 + 10x_2^2)，(f_3(x) = x_1^2 + 100x_2^2) | 无 | (a) 应用必要的最优性条件求最小值；(b) 使用 MATLAB 列表 M6.1 应用最速下降法，并评论算法的收敛性 |
| 6.2 | (f(x) = 2x_1^2 + 2x_2^2 + 2x_1x_2 + x_2 + 1) | (x^{(0)} = [0.1, 0.1]^T) | 使用最速下降代码 M6.1 求解，并用 MATLAB 代码绘制二维函数的等高线验证答案 |
| 6.3 | (f(x) = x_1^2 + 2x_2^2 + x_1x_2 + 2x_2 + 2) | (x^{(0)} = [0.1, 0.1]^T) | 重复问题 6.2 的操作 |
| 6.4 | 问题 6.2 和 6.3 的目标函数 | 无 | 将目标函数写成标准二次形式 (f(x) = \frac{1}{2}x^THx + b^Tx + c)，计算解析最小值 (x^* = H^{-1}b)，并与数值解比较 |