taojiea1014的博客

                     The process continues and generates a sequence of triangles that converges down on thesolution point (3, 2) (see Figure 8.10). Table 8.6 gives the function values at vertices of t...

待补

待补

 待补

http://www.jasoncantarella.com/downloads/NelderMeadProof.pdf   A simplex method for  finding a local minimum of a function of several variables  has  been devised by Nelder and Mead. For ...

http://people.duke.edu/~hpgavin/cee201/Nelder-Mead-2D.pdfSteps for one iteration of the Nelder-Mead Algorithm1. Sort the vertices such that f(u) < f(v) < f(w). Point u is the best point, point v...

is a commonly applied numerical method used to find the minimum or maximum of an objective function in a multidimensional spaceapplied to nonlinear optimization problems for which derivatives may not ...

目前接触到的牛顿迭代法主要应用于两个方面:(1)方程求根问题(2)最优化问题。1、求解方程。并不是所有的方程都有求根公式，或者求根公式很复杂，导致求解困难。利用牛顿法，可以迭代求解。原理是利用泰勒公式，在x0处展开，且展开到一阶，即f(x) = f(x0)+(x－x0)f'(x0)求解方程f(x)=0，即f(x0)+(x-x0)*f'(x0)=0，求解x = x1=x0－f(x0)/f'(x0)，...

stats中的optim函数是解决优化问题的一个简易的方法。Univariate Optimizationf = function(x,a) (x-a)^2xmin = optimize(f,interval = c(0,1),a=1/3)xminGeneral Optimizationoptim函数包含了几种不同的算法。 算法的选择依赖于求解导数的难易程度，通常最好提供...

陈汝丹 算法与数学之美本文首先给出了七种算法的一个信息表，归纳了关于每个算法可以调节的(超)参数、算法主要目的等等，然后介绍了降维的一些基本概念，包括降维是什么、为什么要降维、降维可以解决维数灾难等，然后分析可以从什么样的角度来降维，接着整理了这些算法的具体流程。主要目录如下: 1. 降维基本概念 2. 从什么角度出发降维 3. 降维算法 3.1 主成分分析...