牛顿法迭代公式:Matlab代码:function[x1,k]=newton(x1,eps)hs=inline('(x-1)^4+y^2');写入函数ezcontour(hs,[-1010-1010]);建立坐标系holdon;显示图像symsxy定义变量f=(x-1)^4+y^2;定义函数grad1=jacobian(f,[x,y]);求f的一阶梯度grad2=jacobian(grad1,[x,y]);求f的二阶梯度k=0;迭代初始值while1循环grad1z=subs(subs(grad1,x,x1(1)),y,x1(2));给f一阶梯度赋初值grad2z=subs(subs(grad2,x,x1(1)),y,x1(2));给f二阶梯度赋初值x2=x1-inv(grad2z)*(grad1z)';核心迭代公式ifnorm(x1-x2)<eps判断收敛条件break;elseplot([x1(1),x2(1)],[x1(2),x2(2)],'-r*');画图k=k+1;迭代继续x1=x2;赋值endendend优点:在极小点附近收敛快缺点:但是要计算目标函数的hesse矩阵最速下降法1.:选取初始点xo,给定误差2.计算一阶梯度。若一阶梯度小于误差,停止迭代,输出3.取4.例题:求min(x-2)^4+(x-2*y)^2.初始值(0,3)误差为0.1(1)编写一个目标函数,存为f.mfunctionz=f(x,y)z=(x-2.0)^4+(x-2.0*y)^2;end(2)分别关于x和y求出一阶梯度,分别存为fx.m和fy.mfunctionz=fx(x,y)z=2.0*x-4.0*y+4.0*(x-2.0)^3;end和functionz=fy(x,y)z=8.0*y-4.0*x;end(3)下面是脚本文件,一维搜索用的是黄金分割法Tic计算时间eps=10^(-4);误差err=10;dt=0.01;x0=1.0;初始值y0=1.0;mm=0;whileerr>eps黄金分割法dfx=-fx(x0,y0);dfy=-fy(x0,y0);tl=0;tr=1;确定一维搜索的区间h=3;nn=0;gerr=10;geps=10^(-4);whilegerr>gepstll=tl+0.382*abs(tr-tl);trr=tl+0.618*abs(tr-tl);iff(x0+tll*h*dfx,y0+tll*h*dfy)>f(x0+trr*h*dfx,y0+trr*h*dfy)tl=tll;elsetr=trr;endgerr=abs(tl-tr);区间的长度之差tt=0.5*(tl+tr);nn=nn+1;步数增加ifnn>200迭代终止条件breakendendx0=x0+tt*h*dfx;重新迭代y0=y0+tt*h*dfy;err=sqrt(fx(x0,y0)^2+fy(x0,y0)^2);mm=mm+1;步数增加ifmm>700迭代步数超过700,终止breakendendres=[x0,y0];输出最后的x,y。toc计算运行时间拟牛顿法(DFP算法)这是一个脚本文件可以直接运行symsx1x2;定义变量eps=0.00001;x0=[1,1]';初始值h0=[1,0;0,1];f=x1^2+4*x2^2;待求函数fx=diff(f,x1);对x求导fy=diff(f,x2);对y求导df=[fx,fy];f的一阶梯度dfx0=[subs(fx,[x1,x2],x0),subs(fy,[x1,x2],x0)]';赋初值d0=-dfx0;搜索方向n=1;while1symst;s0=x0+t*d0;引入变量tff=subs(f,[x1,x2],s0)给f赋值;t=solve(diff(ff));求ff的极小点xx1=x0+t*d0;更新初始值dfx1=[subs(fx,[x1,x2],xx1'),subs(fy...