bfgs 算法 拟牛顿

本文深入解析了BFGS优化算法的实现细节,包括如何通过迭代求解目标函数的近似最优点和最优值。文章详细介绍了算法的流程,从初始点开始,通过计算梯度、解方程寻找搜索方向,再到利用Armijo准则确定步长,最后更新Hessian矩阵近似值。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

function [k,x,val]=bfgs(fun,gfun,x0,varargin)
%输入:fun,gfun 分别是目标函数与目标函数的梯度,x1
%是初始目标点,varargin是输入的可变参数变量
%输出:k迭代次数,x,val近似最优点和最优值
%N=500;
N=1000;
epsilon = 1.e-5;%给定容许误差
beta = 0.55;
sigma = 0.4;
n=length(x0);
Bk=eye(n);
k=0;
while(k<N)
    gk = feval(gfun,x0);%计算梯度
    if(norm(gk)<epsilon)
        break;
    end
    dk=-Bk\gk;%解方程Bk*dk=-gk;,计算搜素方向
    m=0;
    mk = 0;
    while(m<20)
        newf = feval(fun,x0+beta^m*mk);
        oldf = feval(fun,x0);
        if(newf<=oldf+sigma*beta^m*gk'*dk)
            mk = m;
            break;
        end
        m=m+1;
    end
    %BFGS校正
    size(dk)
    x=x0+beta^mk*dk;
    sk=x-x0;
    yk = feval(gfun,x)-gk;
    if(yk'*sk>0)
        Bk = Bk-(Bk*sk*sk'*Bk)/(sk'*Bk*sk)+(yk*yk')/(yk'*sk);
    end
    k=k+1;
    x0 = x;
end
    val=feval(fun,x0);
    x0
    val
    k
end

 

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值