题目:
迭代思路(最佳步长α的确定公式) :
代码展示:
# 最速下降法的实现
steepest_descent <- function(f, grad_f, x0, alpha=0.1, epsilon=1e-5, max_iter=3) {
x <- x0
H <- matrix(c(2,0,0,0,2,0,0,0,2), nrow=3, byrow=TRUE)
trajectory <- list(x0) # 记录迭代过程中的点
grad_list <- list(grad_f(x0)) #记录迭代过程中的梯度向量
for (i in 1:max_iter) {
gradient <- grad_f(x)
if (crossprod(gradient)^2 < epsilon) {
break
}
# 计算alpha
alpha_denominator <- t(gradient) %*% H %*% gradient
alpha_numerator <- t(gradient) %*% gradient
alpha <- alpha_numerator / alpha_denominator
x <-