| 查看: 2617 | 回复: 56 | |||
| 当前只显示满足指定条件的回帖，点击这里查看本话题的所有回帖 | |||
[交流]
常见优化问题二维图示
|
|||
|
学习数学优化课期间曾经做过一些常见的无约束优化方法的图示，希望对各位有帮助 梯度下降法（gradient decent）步长固定  最速梯度法（steepest decent）（gradient decent + 一维线搜索算法）  牛顿法，basic Newton，黑色曲线为当前迭代点的二阶逼近的等高线。注意初始点出Hess阵出现了非正定情况，导致下一个目标函数值出现了上升。  阻尼牛顿法，Damped Newton，牛顿方向+一维精确线搜索，虽然未解决Hess阵非正定的情况，但保证了下降方向  Levenbery-Marquardt （LM）法，修正牛顿法中非正定的Hess帧  高斯牛顿最小二乘（Gauss-Newton Least Squares），使用一次项逼近Hess帧，速度较快，适合大规模问题  模拟退火算法，右侧红色曲线表示“温度”，蓝色曲线为目标函数值，可以看出随着温度的降低目标函数值逐渐趋于稳定并收敛。  遗传算法，绿色圆点表示繁殖，突变，红色圆点表示自然选择自然选择  信赖域型以及共轭型方法没有涉及。此外有约束问题方法也没有涉及。有时间再做。 |
回复此楼» 本帖已获得的红花（最新10朵）
香辣丸子» 猜你喜欢
售SCI-T0P文章，我:8O.5.5.1.O.54,科目齐全,可+急
已经有3人回复
-
售SCI文章，我:8O5.5.1.O.54,科目齐全,可+急
已经有3人回复
-
售SCI文章，我:8O.5.5.1O.54,科目全,可十急
已经有3人回复
-
售SCI一区T0P文章，我:8O.55.1.O.5.4,科目齐全,可+急
已经有3人回复
-
售SCI一区T0P文章，我:8.O.55.1.O.5.4,科目全,可+急
已经有3人回复
-
售SCI文章，我:8O.5.5.1O.54,科目全,可十急
已经有3人回复
-
售SCI文章，我:8O5.5.1.O.54,科目齐全,可+急
已经有3人回复
-
售SCI一区文章，我:8O5.5.1.O5.4,科目全,可伽急
已经有3人回复
-
售SCI-T0P文章，我:8O.5.5.1.O.54,科目齐全,可+急
已经有3人回复
-
售SCI一区T0P文章，我:8.O55.1.O.54,科目全,可十急
已经有4人回复
7楼2015-10-03 20:47:08
20