最优化方法(黄金分割与进退法)实验报告
一维搜索方法的MATLAB 实现
姓名： 班级：信息与计算科学
学号： 实验时间: 2014/6/21
一、实验目的：
通过上机利用Matlab 数学软件进行一维搜索，并学会对具体问题进行分析。并且熟悉Matlab 软件的实用方法，并且做到学习与使用并存，增加学习的实际动手性，不再让学习局限于书本和纸上，而是利用计算机学习来增加我们的学习兴趣。
二、实验背景： 黄金分割法
它是一种基于区间收缩的极小点搜索算法，当用进退法确定搜索区间后，我们只知道极小点包含于搜索区间内，但是具体哪个点，无法得知。 1、算法原理
黄金分割法的思想很直接，既然极小点包含于搜索区间内，那么可以不断的缩小搜索区间，就可以使搜索区间的端点逼近到极小点。 2、算法步骤
用黄金分割法求无约束问题min (),f x x R ∈的基本步骤如下：
（1）选定初始区间11[,]a b 及精度0ε>，计算试探点：
11110.382*()a b a λ=+-
11110.618*()a b a μ=+-。
（2）若k k b a ε-<，则停止计算。否则当()()k k f f λμ>时转步骤（3）。 当
()()k k f f λμ≤转步骤（4）。
（3）
11111110.382*()k k k k k k
k k k k a b b a b a λλμμ+++++++=??=??=??=+-?转步骤（5）
（4）
转步骤（5）
（5）令1k k =+，转步骤（2）。
算法的MATLAB 实现
function xmin=golden(f,a,b,e)
k=0;
x1=a+0.382*(b-a);
x2=a+0.618*(b-a);
while b-a>e
f1=subs(f,x1);
f2=subs(f,x2);
if f1>f2
a=x1;
x1=x2;
f1=f2;
x2=a+0.618*(b-a);
else
b=x2;
x2=x1;
f2=f1;
x1=a+0.382*(b-a);
end
k=k+1;
end
xmin=(a+b)/2;
fmin=subs(f,xmin)
fprintf('k=\n');
disp(k);
3、实验结果(总结/方案)
黄金分割法求解极值实例。用黄金分割法求解下面函数的最小值：
]10,10[,52)(24-∈+--==t t t t t f 其中
进退法
1. 算法原理
进退法是用来确定搜索区间（包含极小值点的区间）的算法，其理论依据是：()f x 为单谷函数（只有一个极值点），且[,]a b 为其极小值点的一个搜索区间，对于任意12,[,]x x a b ∈，如果()()12f x f x <，则2[,]a x 为极小值的搜索区间，如果()()12f x f x >，则1[,]x b 为极小值的搜索区间。
因此，在给定初始点0x ，及初始搜索步长h 的情况下，首先以初始步长向前搜索一步，计算()0f x h +。
（1） 如果()()00f x f x h <+
则可知搜索区间为0[,]x x h +，其中x 待求，为确定x ，后退一步计算0()f x h λ-，λ为缩小系数，且01λ<<，直接找到合适的*λ，使得()*00()f x h f x λ->，从而确定搜索区间*00[,]x h x h λ-+。
（2） 如果()()00f x f x h >+
则可知搜索区间为0[,]x x ，其中x 待求，为确定x ，前进一步计算0()f x h λ+，λ为放大系数，且1λ>，知道找到合适的*λ，使得()*00()f x h f x h λ+<+，从
而确定搜索区间*00[,]x x h λ+。
2. 算法步骤
用进退法求一维无约束问题min (),f x x R ∈的搜索区间（包含极小值点的区间）的基本算法步骤如下：
（1） 给定初始点(0)x ，初始步长0h ，令0h h =，(1)(0)x x =，0k =；
（2） 令(4)(1)x x h =+，置1k k =+；
（3） 若()()(4)(1)f x f x <，则转步骤（4），否则转步骤（5）；
（4） 令(2)(1)(1)(4),x x x x ==，()()(2)(1)f x f x =，()()(1)(4)f x f x =，令2h h =，
转步骤（2）；
（5） 若1k =，则转步骤（6）否则转步骤（7）；
（6） 令h h =-，(2)(4)x x =，()()(2)(4)f x f x =，转步骤（2）；
（7） 令(3)(2)(2)(1)(1)(4),,x x x x x x ===，停止计算，极小值点包含于区间
(1)(3)(3)(1)[,][,]x x x x 或
3. 算法的MATLAB 实现
function [A,B]=minJT(f,x0,h0,eps)
%目标函数:f;
%初始点:x0;
%初始步长:h0;
%精度:eps;
%目标函数取包含极值的区间的左端点:A;
%目标函数取包含极值的区间的右端点:B;
format long;
if nargin==3;
eps=1.0e-6;
end
x1=x0;
k=0;
h=h0;
while 1
x4=x1+h;%试探步
k=k+1;
f4=subs(f,findsym(f),x4);
f1=subs(f,findsym(f),x1);
if f4 x2=x1; x1=x4; f2=f1; f1=f4; h=2*h;%加大步长 else if k==1 h=-h;%反向搜索 x2=x4; f2=f4; else x3=x2; x2=x1; x1=x4; break; end end end A=min(x1,x3); B=x1+x3-A; format short; 例： 取初始点为0，步长为0.1，用进退法求函数22242()(1)(1)325f t t t t t t =-+-+=--+的极值区间。 最优化方法 课程设计报告班级：________________ 姓名： ______ 学号： __________ 成绩： 2017年 5月 21 日 目录 一、摘要 (1) 二、单纯形算法 (2) 1.1 单纯形算法的基本思路 (2) 1.2 算法流程图 (3) 1.3 用matlab编写源程序 (4) 二、黄金分割法 (7) 2.1 黄金分割法的基本思路 (7) 2.2 算法流程图 (8) 2.3 用matlab编写源程序 (9) 2.4 黄金分割法应用举例 (11) 三、最速下降法 (11) 3.1 最速下降法的基本思路 (11) 3.2 算法流程图 (13) 3.3 用matlab编写源程序 (13) 3.4 最速下降法应用举例 (13) 四、惩罚函数法 (17) 4.1 惩罚函数法的基本思路 (17) 4.2 算法流程图 (18) 4.3 用matlab编写源程序 (18) 4.4 惩罚函数法应用举例 (19) 五、自我总结 (20) 六、参考文献 (20) 一、摘要 运筹学是一门以人机系统的组织、管理为对象，应用数学和计算机等工具来研究各类有限资源的合理规划使用并提供优化决策方案的科学。通过对数据的调查、收集和统计分析，以及具体模型的建立。收集和统计上述拟定之模型所需要的各种基础数据，并最终将数据整理形成分析和解决问题的具体模型。 最优化理论和方法日益受到重视，已经渗透到生产、管理、商业、军事、决策等各个领域，而最优化模型与方法广泛应用于工业、农业、交通运输、商业、国防、建筑、通信、政府机关等各个部门及各个领域。伴随着计算机技术的高速发展，最优化理论与方法的迅速进步为解决实际最优化问题的软件也在飞速发展。其中，MATLAB软件已经成为最优化领域应用最广的软件之一。有了MATLAB 这个强大的计算平台，既可以利用MATLAB优化工具箱（OptimizationToolbox）中的函数，又可以通过算法变成实现相应的最优化计算。 关键词：优化、线性规划、黄金分割法、最速下降法、惩罚函数法 《最优化方法》复习题(含答案) 附录5 《最优化方法》复习题 1、设n n A R ?∈是对称矩阵，,n b R c R ∈∈，求1()2 T T f x x Ax b x c =++在任意点x 处的梯度和Hesse 矩阵． 解 2(),()f x Ax b f x A ?=+?=． 2、设()()t f x td ?=+，其中:n f R R →二阶可导，,,n n x R d R t R ∈∈∈，试求()t ?''． 解 2()(),()()T T t f x td d t d f x td d ??'''=?+=?+． 3、设方向n d R ∈是函数()f x 在点x 处的下降方向，令 ()()()()() T T T T dd f x f x H I d f x f x f x ??=--???， 其中I 为单位矩阵，证明方向()p H f x =-?也是函数()f x 在点x 处的下降方向． 证明 由于方向d 是函数()f x 在点x 处的下降方向，因此()0T f x d ?<，从而 ()()()T T f x p f x H f x ?=-?? ()()()()()()()() T T T T T dd f x f x f x I f x d f x f x f x ??=-?--???? ()()()0T T f x f x f x d =-??+?<， 所以，方向p 是函数()f x 在点x 处的下降方向． 4、n S R ?是凸集的充分必要条件是12122,,,,,,,,m m m x x x S x x x ?≥?∈L L 的一切凸组合都属于S ． 证明 充分性显然．下证必要性．设S 是凸集，对m 用归纳法证明．当2m =时，由凸集的定义知结论成立，下面考虑1m k =+时的情形．令1 1k i i i x x λ+==∑， 其中,0,1,2,,1i i x S i k λ∈≥=+L ，且1 1 1k i i λ+==∑．不妨设11k λ+≠（不然1k x x S +=∈， 结论成立），记11 1k i i i k y x λλ=+=-∑ ，有111(1)k k k x y x λλ+++=-+， 《最优化方法》复习题 一、 简述题 1、怎样判断一个函数是否为凸函数. （例如: 判断函数212 2 212151022)(x x x x x x x f +-++=是否为凸函数） 2、写出几种迭代的收敛条件. 3、熟练掌握利用单纯形表求解线性规划问题的方法（包括大M 法及二阶段法）. 见书本61页(利用单纯形表求解); 69页例题 (利用大M 法求解、二阶段法求解); 4、简述牛顿法和拟牛顿法的优缺点. 简述共轭梯度法的基本思想. 写出Goldstein 、Wolfe 非精确一维线性搜索的公式。 5、叙述常用优化算法的迭代公式． （1）0.618法的迭代公式：(1)(), ().k k k k k k k k a b a a b a λτμτ=+--??=+-? （2）Fibonacci 法的迭代公式：111(),(1,2,,1)() n k k k k k n k n k k k k k n k F a b a F k n F a b a F λμ---+--+? =+-?? =-? ?=+-?? L ． （3）Newton 一维搜索法的迭代公式： 1 1k k k k x x G g -+=-． （4）推导最速下降法用于问题1min ()2 T T f x x Gx b x c = ++的迭代公式： 1()T k k k k k T k k k g g x x f x g G gx +=-? （5）Newton 法的迭代公式：211[()]()k k k k x x f x f x -+=-??． （6）共轭方向法用于问题1min ()2 T T f x x Qx b x c = ++的迭代公式： 1()T k k k k k T k k f x d x x d d Qd +?=-． 二、计算题 双折线法练习题 课本135页 例3.9.1 FR 共轭梯度法例题：课本150页 例4.3.5 二次规划有效集：课本213页例6.3.2, 最优化方法实验报告Numerical Linear Algebra And Its Applications 学生所在学院：理学院 学生所在班级：计算数学10-1 学生姓名：甘纯 指导教师：单锐 教务处 2013年5月 实验一 实验名称：熟悉matlab基本功能 实验时间: 2013年05月10日星期三实验成绩： 一、实验目的： 在本次实验中，通过亲临使用MATLAB，对该软件做一全面了解并掌握重点内容。 二、实验内容： 1. 全面了解MATLAB系统 2. 实验常用工具的具体操作和功能 实验二 实验名称：一维搜索方法的MATLAB实现 实验时间: 2013年05月10日星期三实验成绩： 一、实验目的： 通过上机利用Matlab数学软件进行一维搜索，并学会对具体问题进行分析。并且熟悉Matlab软件的实用方法，并且做到学习与使用并存，增加学习的实际动手性，不再让学习局限于书本和纸上，而是利用计算机学习来增加我们的学习兴趣。 二、实验背景： (一）0.618法（黄金分割法），它是一种基于区间收缩的极小点搜索 算法，当用进退法确定搜索区间后，我们只知道极小点包含于搜索区间内，但是具体哪个点，无法得知。 1、算法原理 黄金分割法的思想很直接，既然极小点包含于搜索区间内，那么可以不断的缩小搜索区间，就可以使搜索区间的端点逼近到极小点。 2、算法步骤 用黄金分割法求无约束问题min (),f x x R ∈的基本步骤如下： （1）选定初始区间11[,]a b 及精度0ε>，计算试探点： 11110.382*()a b a λ=+- 11110.618*()a b a μ=+-。 （2）若k k b a ε-<，则停止计算。否则当()()k k f f λμ>时转步骤（3）。 当()()k k f f λμ≤转步骤（4）。 （3）置 11111110.382*()k k k k k k k k k k a b b a b a λλμμ+++++++=??=?? =??=+-?转步骤（5） 《最优化方法》试题 一、 填空题 1.设()f x 是凸集n S R ?上的一阶可微函数，则()f x 是S 上的凸函数的一阶充要条件是（ ），当n=2时，该充要条件的几何意义是（ ）； 2.设()f x 是凸集n R 上的二阶可微函数，则()f x 是n R 上的严格凸函数（ ）（填‘当’或‘当且仅当’）对任意n x R ∈，2()f x ?是 （ ）矩阵； 3.已知规划问题22211212121212min 23..255,0z x x x x x x s t x x x x x x ?=+---?--≥-??--≥-≥?，则在点55(,)66T x =处的可行方向集为（ ），下降方向集为（ ）。 二、选择题 1.给定问题222121212min (2)..00f x x s t x x x x ?=-+??-+≤??-≤?? ，则下列各点属于K-T 点的是（ ） A) (0,0)T B) (1,1)T C) 1(,22 T D) 11(,)22T 2.下列函数中属于严格凸函数的是（ ） A) 211212()2105f x x x x x x =+-+ B) 23122()(0)f x x x x =-< C) 2 222112313()226f x x x x x x x x =+++- D) 123()346f x x x x =+- 三、求下列问题 ()22121212121211min 51022 ..2330420 ,0 f x x x x x s t x x x x x x =+---≤+≤≥ 取初始点()0,5T 。 四、考虑约束优化问题 ()221212min 4..3413f x x x s t x x =++≥ 用两种惩罚函数法求解。 五．用牛顿法求解二次函数 222123123123()()()()f x x x x x x x x x x =-++-++++- 的极小值。初始点011,1,22T x ??= ???。 六、证明题 1.对无约束凸规划问题1min ()2 T T f x x Qx c x =+，设从点n x R ∈出发，沿方向n d R ∈ 作最优一维搜索，得到步长t 和新的点y x td =+ ，试证当1T d Q d = 时， 22[() ()]t f x f y =-。 2.设12*** *3(,,)0T x x x x =>是非线性规划问题()112344423min 23..10f x x x x s t x x x =++++=的最优解，试证*x 也 是非线性规划问题 144423* 123min ..23x x x s t x x x f ++++=的最优解，其中****12323f x x x =++。 学生科学实验效果最优化的基石实验报告设计 自然科学是以实验为基础的学科。实验是人们研究和认识自然的重要方法。因此，在自然科学的教学中，实验也是重要的教学方法之一。通过实验，不仅可以提供学生对科学现象的感性认识，更可以让学生获得初步的实验技能和观察分析问题的能力。 小学科学实验教学的设计是运用系统论的思想和方法，以学习理论、教学理论为基础，计划和安排实验教学的各个环节、要素，以实现教学效果最优化为目的的活动。通过多年来的实验教学实践与思考，我们可以让学生像科学家那样，亲历科学探究的过程，这有利于充分发挥学生的主体作用，让学生积极主动参与到观察、实验等学习活动中去，亲自感知实验所产生的各种现象和变化，提高自行获取知识的能力，而其中比较重要的一个环节就是学生实验报告的设计与记录。在学生实验的过程中，一份好的实验报告设计，就像是一盏明灯，能给学生指引实验的目标、方向，能提供给学生形成结论的分析数据，进而培养学生科学实验的基本素养，使学生的科学实验效果达到最优化。 一、观察实验报告的填写，有利于学生在实验中观察，进一步培养学生实验的责任心和有序观察能力。 教科版四下《油菜花开了》解剖花的实验中，我设计了如下实验报告，在教学中取得了很好的效果。 《解剖花》实验人 花的名称 实验方法：用镊子把花的各部分，从外向里一层层撕下，整齐排列并贴在相应的名称左边，数一数，填在相应的空格上。 个萼片 个花瓣 个雄蕊 个雌蕊 在班级（1）上课时我没有设计实验报告，就按照书本上的要求，先介绍解剖花的方法、花的结构，然后让学生按照书本要求独立解剖油菜花。在实验过程中，学生非常认真，且相当活跃，但检查结果时，学生雌雄蕊不分，萼片、花瓣不分，桌上、地上掉落的都是花瓣，实验效果之不佳显而易见。 后来，我根据班级（1）出现的情况，设计了如上实验报告，实验的效果就相当出色。在这个实验报告中，我并没有限制学生解剖何种花，但学生可以根据实验要求很清楚地完成解剖的任务。充分体现了以教师为主导、学生为主体的课堂教学思想；而且在实验的过程中，桌上有了这份实验报告，便时刻提醒着学生做实验究竟是何目的，做实验时必须仔细观察什么，做实验的观察步骤是什么。在解剖花的过程中，动作快的同学还可在老师的同意下，多取一两张实验报告单，多解剖几种花，因此既避免了学生在一旁闲着无所事事而打闹的局面，又进一步提高了这些学生的科学素质。至于个别有困难的学生，教师可在巡视的过程中 天津大学《最优化方法》复习题（含答案） 第一章 概述(包括凸规划) 一、 判断与填空题 1 )].([arg )(arg min max x f x f n n R x R x -=∈∈ √ 2 {}{} .:)(m in :)(m ax n n R D x x f R D x x f ?∈-=?∈ ? 3 设.:R R D f n →? 若n R x ∈*，对于一切n R x ∈恒有)()(x f x f ≤*，则称*x 为最优化问题)(min x f D x ∈的全局最优解. ? 4 设.:R R D f n →? 若D x ∈*，存在*x 的某邻域)(*x N ε，使得对一切)(*∈x N x ε恒有)()(x f x f <*，则称*x 为最优化问题)(min x f D x ∈的 严格局部最优解. ? 5 给定一个最优化问题，那么它的最优值是一个定值. √ 6 非空集合n R D ?为凸集当且仅当D 中任意两点连线段上任一点属于D . √ 7 非空集合n R D ?为凸集当且仅当D 中任意有限个点的凸组合仍 属于D . √ 8 任意两个凸集的并集为凸集. ? 9 函数R R D f n →?:为凸集D 上的凸函数当且仅当f -为D 上的凹函数. √ 10 设R R D f n →?:为凸集D 上的可微凸函数，D x ∈*. 则对D x ∈?，有).()()()(***-?≤-x x x f x f x f T ? 11 若)(x c 是凹函数，则}0)( {≥∈=x c R x D n 是凸集。 √ 12 设{}k x 为由求解)(min x f D x ∈的算法A 产生的迭代序列，假设算法 A 为下降算法，则对{} ,2,1,0∈?k ，恒有 )()(1k k x f x f ≤+ . 13 算法迭代时的终止准则（写出三种）：_____________________________________。 14 凸规划的全体极小点组成的集合是凸集。 √ 15 函数R R D f n →?:在点k x 沿着迭代方向}0{\n k R d ∈进行精确一维线搜索的步长k α，则其搜索公式 一维搜索方法的MATLAB 实现 姓名： 班级：信息与计算科学 学号： 实验时间: 2014/6/21 一、实验目的： 通过上机利用Matlab 数学软件进行一维搜索，并学会对具体问题进行分析。并且熟悉Matlab 软件的实用方法，并且做到学习与使用并存，增加学习的实际动手性，不再让学习局限于书本和纸上，而是利用计算机学习来增加我们的学习兴趣。 二、实验背景： 黄金分割法 它是一种基于区间收缩的极小点搜索算法，当用进退法确定搜索区间后，我们只知道极小点包含于搜索区间内，但是具体哪个点，无法得知。 1、算法原理 黄金分割法的思想很直接，既然极小点包含于搜索区间内，那么可以不断 的缩小搜索区间，就可以使搜索区间的端点逼近到极小点。 2、算法步骤 用黄金分割法求无约束问题min (),f x x R ∈的基本步骤如下： （1）选定初始区间11[,]a b 及精度0ε>，计算试探点： 11110.382*()a b a λ=+- 11110.618*()a b a μ=+-。 （2）若k k b a ε-<，则停止计算。否则当()()k k f f λμ>时转步骤（3）。 当 ()()k k f f λμ≤转步骤（4）。 （3） 11111110.382*()k k k k k k k k k k a b b a b a λλμμ+++++++=??=?? =??=+-?转步骤（5） （4） 转步骤（5） （5）令1k k =+，转步骤（2）。 算法的MATLAB 实现 function xmin=golden(f,a,b,e) k=0; x1=a+0.382*(b-a); x2=a+0.618*(b-a); while b-a>e f1=subs(f,x1); f2=subs(f,x2); if f1>f2 a=x1; x1=x2; f1=f2; x2=a+0.618*(b-a); else b=x2; x2=x1; f2=f1; x1=a+0.382*(b-a); end k=k+1; end xmin=(a+b)/2; fmin=subs(f,xmin) 第一、填空题 1.组成优化设计的数学模型的三要素是 设计变量 、目标函数 和 约束条件 。 2.可靠性定量要求的制定，即对定量描述产品可靠性的 参数的选择 及其 指标的确定 。 3.多数产品的故障率随时间的变化规律，都要经过浴盆曲线的 早期故障阶段 、 偶然故障阶段 和 耗损故障阶段 。 4.各种产品的可靠度函数曲线随时间的增加都呈 下降趋势 。 5.建立优化设计数学模型的基本原则是在准确反映 工程实际问题 的基础上力求简洁 。 6.系统的可靠性模型主要包括 串联模型 、 并联模型 、 混联模型 、 储备模型 、 复杂系统模型 等可靠性模型。 7. 函数f(x 1,x 2)=2x 12 +3x 22-4x 1x 2+7在X 0=[2 3]T 点处的梯度为 ，Hession 矩阵为 。 （2.）函数()22121212,45f x x x x x x =+-+在024X ??=????点处的梯度为120-?? ????，海赛矩阵为2442-???? -?? 8.传统机械设计是 确定设计 ；机械可靠性设计则为 概率设计 。 9.串联系统的可靠度将因其组成单元数的增加而 降低 ，且其值要比可靠 度 最低 的那个单元的可靠度还低。 10.与电子产品相比，机械产品的失效主要是 耗损型失效 。 11. 机械可靠性设计 揭示了概率设计的本质。 12. 二元函数在某点处取得极值的充分条件是()00f X ?=必要条件是该点处的海赛矩阵正定。 13.对数正态分布常用于零件的 寿命疲劳强度 等情况。 14.加工尺寸、各种误差、材料的强度、磨损寿命都近似服从 正态分布 。 15.数学规划法的迭代公式是 1k k k k X X d α+=+ ，其核心是 建立搜索方向， 模型求解 两方面的内容。 17.无约束优化问题的关键是 确定搜索方向 。 18.多目标优化问题只有当求得的解是 非劣解 时才有意义，而绝对最优解存在的可能性很小。 19.可靠性设计中的设计变量应具有统计特征，因而认为设计手册中给出的数据 课 程 编 号 : 0 7 0 0 0 2 0 3 北 京 理 工 大 学 2 0 0 7 - 2 0 0 8 学 年 第 二 学 期 2005 级数学专业最优化方法终考试卷（ A 卷） 1． (20 分 )某化工厂有三种资源 A 、 B 、 C ，生产三种产品甲、乙、丙，设甲、乙、丙的产量分别为 x 1,x 2,x 3 ,其数学模型为： max z 3 x 1 2 x 2 5 x 3 1 2 x 2 3 430 ( A 资源限制 ) x x 3 x 1 2 x 3 460 ( B 资源限制 ) s.t 4 x 2 420 (C 资源限制 ) x x 1 , x 2 , x 3 0 请回答如下问题： （ 1）给出最优生产方案； （ 2）假定市场信息表明甲产品利润已上升了一倍，问生产方案应否调整？ （3）假定增加一种添加剂可显着提高产品质量，该添加剂的资源限制约束为： x 1 2 x 2 3x 3 800 问最优解有何变化？ 2． (12 分 )用 Newton 法求解 min f ( x ) 4 x 12 x 22 2 x 12 x 2 ，初始点取为 x 0 (1, 1)T ，迭代一步。 3．(10 分 )用 FR 共轭梯度法求解三个变量的函数 f ( x ) 的极小值，第一次迭代的搜索方向为 p 0 (1, 1,2)T ，沿 p 0 做精确线搜 索，得 x 1 ( x 11 , x 21 , x 31 )T ， 设 f ( x 1 ) 2, f ( x 1 ) 2 ，求从 x 1 出发的搜索方向 p 1 。 x 11 x 21 4． (15 分 ) 给定下面的 BFGS 拟 Newton 矩阵修正公式： H k 1 ( I s k y k T )H k ( I s k y k T )T s k s k T ， y k T s k y k T s k y k T s k 其中 s k x k 1 x k , y k g k 1 g k 用对应的拟 Newton 法求解： min f ( x ) x 1 2 2x 1 x 2 2 x 22 4 x 1 ，初始点取为 x 0 (0,0) T ， H 0 I 。 5． (15 分 )写出问题 取得最优解的 Kuhn-Tucker （ K － T ）必要条件，并通过 K － T 条件求出问题 K － T 点及相应 Lagrange 乘子。 6(12 分 )．求约束问题 在 x (0,0) T 及 x 2 (1,0) T 处的下降方向集合、可行方向集合以及可行下降方向集合，并画图表示出来 1 7（ 8 分）考察优化问题 min f ( x ) s.t. x ， D 设 D 为凸集， f ( x ) 为 D 上凸函数，证明： f ( x) 在 D 上取得极小值的那些点构成的集合是凸集。 8（ 8 分）设 min f ( x ) 1 x T Ax b T x c ，其中 A 为对称正定矩阵， x * 为 f ( x ) 的极小值点，又设 x 0 ( x*) 可表示为 2 x 0 x * p ，其中 R 1， p 是 A 对应于特征值 的特征向量，证明：若从 x 0 出发，沿最速下降方向做精确一维搜索， 则一步达到极小值点。 课程编号 :07000203 北京理工大学 2008-2009 学年第一学期 2006 级数学专业最优化方法终考试卷（ A 卷） 1． (15 分 ) 用单纯形法求解线性规划问题 2． (10 分 )写出线性规划问题 的对偶问题并证明该对偶问题没有可行解。 3． (15 分 )考虑用最速下降法迭代一步 min f ( x) x 12 2x 22 ， 初始点取为 x 0 ( 1, 1)T 。（ 1）采用精确一维搜索；（ 2） 采用 Wolfe 条件进行不精确一维搜索，其中 0.1, 0.9 。 4． (15 分 )用 DFP 拟牛顿法求解 min f ( x) x 12 2x 22 初始点取为 x 0 1 ，初始矩阵 H 0 2 1 。 1 1 1 5． (15 分 )证明集合 S { x | x 1 2x 2 4, 2x 1 x 2 6} 是凸集，并计算原点 (0,0) 到集合 S 的最短距离。 6． (15 分 ?) 考虑问题 （1）用数学表达式写出在点 ( 1 , 5)T 处的下降可行方向集。 3 3 （ 2）假设当前点在 (0,0) T 处，求出用投影梯度法进行迭代时当前的下降可行方向（搜索方向）。 7（ 7 分）证明：在精确一维搜索条件下，共轭梯度法得到的搜索方向是下降方向。 习题二包括题目：P36页5（1）（4） 5（4） 习题三 包括题目：P61页1(1)(2); 3; 5; 6; 14；15(1) 1(1)(2)的解如下 3题的解如下 5,6题 14题解如下 14. 设22121212()(6)(233)f x x x x x x x =+++---, 求点在(4,6)T -处的牛顿方向。 解：已知 (1) (4,6)T x =-，由题意得 121212212121212(6)2(233)(3)()2(6)2(233)(3)x x x x x x x f x x x x x x x x +++-----?? ?= ?+++-----?? ∴ (1)1344()56g f x -?? =?= ??? 21212122211212122(3)22(3)(3)2(233)()22(3)(3)2(233)22(3)x x x x x x x f x x x x x x x x +--+--------? ??= ? +--------+--?? ∴ (1)2(1)1656()()564G x f x --?? =?= ?-?? (1)1 1/8007/400()7/4001/200G x --?? = ?--?? ∴ (1)(1)11141/100()574/100d G x g -?? =-= ?-?? 15（1）解如下 15. 用DFP 方法求下列问题的极小点 （1）22 121212min 353x x x x x x ++++ 解：取 (0) (1,1)T x =，0H I =时，DFP 法的第一步与最速下降法相同 2112352()156x x f x x x ++???= ?++??， (0)(1,1)T x =，(0) 10()12f x ???= ??? (1)0.07800.2936x -??= ?-??， (1) 1.3760() 1.1516f x ???= ?-?? 以下作第二次迭代 (1)(0) 1 1.07801.2936x x δ-??=-= ?-??， (1)(0) 18.6240()()13.1516f x f x γ-??=?-?= ?-?? 0110 111011101 T T T T H H H H H γγδδδγγγ=+- 项目一 一维搜索算法（一） [实验目的] 编写加步探索法、对分法、Newton 法的程序。 [实验准备] 1．掌握一维收搜索中搜索区间的加步探索法的思想及迭代步骤； 2．掌握对分法的思想及迭代步骤； 3．掌握Newton 法的思想及迭代步骤。 [实验容及步骤] 编程解决以下问题： 1．用加步探索法确定一维最优化问题 1 2)(min 30 +-=≥t t t t ? 的搜索区间，要求选取2,1,000===αh t ． 加步探索法算法的计算步骤： (1)选取初始点 ]) 0[)(0[max 00t t t ，或，∈?∞+∈，计算 )(00t ??=．给出初始步长0 >h ， 加步系数1α>，令0=k 。 (2) 比较目标函数值．令k k k h t t +=+1，计算 )(11++=k k t ??，若k k ??<+1，转(3)，否则转(4)。 (3) 加大探索步长．令 k k h h α=+1，同时，令,k t t =,1+=k k t t 1k k =+，转(2)。 (4) 反向探索．若0=k ，转换探索方向，令,k k h h -=1+=k t t ，转（2）。否则，停止迭代，令 11min{}max{}k k a t t b t t ++==，，，。 加步探索法算法的计算框图 程序清单 加步探索法算法程序见附录1 实验结果 运行结果为： 2．用对分法求解 )2()(min +=t t t ?， 已知初始单谷区间]5,3[],[-=b a ，要求按精度3.0=ε，001.0=ε分别计算． 对分法迭代的计算步骤： (1)确定初始搜索区间],[b a ，要求'()0'()0a b ??<>，。 (2) 计算],[b a 的中点)(2 1 b a c +=． (3) 若0)(<'c ?，则c a = ，转(4)；若0)(='c ?，则c t =* ，转(5)；若0)(>'c ?，则c b = ，转(4)． (4) 若ε<-||b a ，则)(2 1* b a t +=，转(5)；否则转(2)． (5) 打印* t ，结束 对分法的计算框图 2013-2014学年第一学期 数学计算经数专业《最优化方法》（课程）期末试卷 试卷来源：自拟 送卷人:赵俊英 打印：赵俊英 乔凤云 校对：赵俊英 一．填空题（20分） 1．最优化问题的数学模型一般为：____________________________， 可行域D 可以表 为_____________________________， 若____________________，称* x 为问题的全局最优解. 2.()()??? ? ??+???? ?????? ??=212121 312112)(x x x x x x x f ，则=?)(x f ， =?)(2 x f . 3.设f 连续可微且0)(≠?x f ，若向量d 满足 ，则它是f 在x 处的一个下降方向. 4. 无约束最优化问题：min (),n f x x R ∈，若k x 是不满足最优性条件的第k 步迭代点，用共轭梯度法求解时，搜索方向k d =______________ 5. 函数R R D f n →?:在点k x 沿着迭代方向}0{\n k R d ∈进行精确一维线搜索的步长k α，则其搜索公式为 . 6 .举出一个具有二次终止性的无约束二次规划算法： . 7.函数222 21 12313()226f x x x x x x x x =+++- （填是或不是） 严格凸函数. 二．（18分）简答题： 1. 设计求解无约束优化问题的一个下降算法，并叙述其优缺点. 2. 叙述单折线法的算法思想. 3. 写出以下线性规化问题的对偶： 1234123412341234134min ()2536..873411,762323,324712,0,0,0.f x x x x x s t x x x x x x x x x x x x x x x =-+-??-+++=?? +++≥??+++≤? ≤≥≥?? x zD 天津大学《最优化方法》复习题(含答案) 第一章 概述(包括凸规划) 判断与填空题 arg max f(x)二 arg min 以儿 “ max(x): x D 二 R n 』=-min(x): x D 二 R n ； 设f : D 5 R n > R.若x ： R n ，对于一切R n 恒有f(x”)^f(x)，则称x”为 设f : D 5 R n >R.若x ” ? D ,存在x ”的某邻域N ；(x”)，使得对一切 x ?N .(x)恒有f(x”)：：： f (x)，则称x”为最优化问题 min f (x)的严格局部最 优解? 给定一个最优化问题，那么它的最优值是一个定值 ? V 非空集合D R n 为凸集当且仅当 D 中任意两点连线段上任一点属于 D . V 非空集合D R n 为凸集当且仅当D 中任意有限个点的凸组合仍属于 D . V 任意两个凸集的并集为凸集? 函数f:D R n >R 为凸集D 上的凸函数当且仅当 -f 为D 上的凹函数? V 设f : D R n >R 为凸集D 上的可微凸函数，X ：D ?则对-D ,有 f (x) - f(x )乞 f (x )T (X —X )? 若c(x)是凹函数，则 D={x^R n C(x)启0}是凸集。 V f(x)的算法A 产生的迭代序列，假设算法 A 为下降算法, 则对-k ? 5,1, 2,…匚恒有 ________________ f(x k1)乞 f(x k ) ______________ ? 算法迭代时的终止准则(写出三种) ： ___________________________________________________ 凸规划的全体极小点组成的集合是凸集。 V 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 . . 项目一 一维搜索算法（一） [实验目的] 编写加步探索法、对分法、Newton 法的程序。 [实验准备] 1．掌握一维收搜索中搜索区间的加步探索法的思想及迭代步骤； 2．掌握对分法的思想及迭代步骤； 3．掌握Newton 法的思想及迭代步骤。 [实验容及步骤] 编程解决以下问题： 1．用加步探索法确定一维最优化问题 1 2)(min 30 +-=≥t t t t ? 的搜索区间，要求选取2,1,000===αh t ． 加步探索法算法的计算步骤： (1)选取初始点])0[)(0[max 00t t t ，或，∈?∞+∈，计算)(00 t ??=．给出初始步长0 >h ， 加步系数1α>，令0=k 。 (2) 比较目标函数值．令k k k h t t +=+1，计算 )(11++=k k t ??，若k k ??<+1，转(3)，否则转(4)。 (3) 加大探索步长．令k k h h α=+1，同时，令,k t t =,1+=k k t t 1k k =+，转(2)。 (4) 反向探索．若0=k ，转换探索方向，令,k k h h -=1+=k t t ，转（2）。否则，停止迭代， 令 11min{}max{}k k a t t b t t ++==，，，。 加步探索法算法的计算框图 . . 程序清单 加步探索法算法程序见附录1 实验结果 运行结果为： 2．用对分法求解 )2()(min +=t t t ?， 已知初始单谷区间]5,3[],[-=b a ，要求按精度3.0=ε，001.0=ε分别计算． 对分法迭代的计算步骤： (1)确定初始搜索区间],[b a ，要求'()0'()0a b ??<>，。 (2) 计算],[b a 的中点)(2 1 b a c += ． (3) 若0)(<'c ?，则c a = ，转(4)；若0)(='c ?，则c t =* ，转(5)；若0)(>'c ?，则c b = ，转(4)． (4) 若ε<-||b a ，则)(2 1* b a t +=，转(5)；否则转(2)． 《最优化方法》复习题 第一章 引论 一、 判断与填空题 1 )].([arg )(arg m in m ax x f x f n n R x R x -=∈∈ √ 2 {}{}.:)(min :)(max n n R D x x f R D x x f ?∈-=?∈ ? 3 设.:R R D f n →? 若n R x ∈*，对于一切n R x ∈恒有)()(x f x f ≤*，则称*x 为最优化问题 )(min x f D x ∈的全局最优解. ? 4 设.:R R D f n →? 若D x ∈*，存在*x 的某邻域)(*x N ε，使得对一切)(*∈x N x ε恒有)()(x f x f <*，则称*x 为最优化问题)(min x f D x ∈的严格局部最 优解. ? 5 给定一个最优化问题，那么它的最优值是一个定值. √ 6 非空集合n R D ?为凸集当且仅当D 中任意两点连线段上任一点属于D . √ 7 非空集合n R D ?为凸集当且仅当D 中任意有限个点的凸组合仍属于D . √ 8 任意两个凸集的并集为凸集. ? 9 函数R R D f n →?:为凸集D 上的凸函数当且仅当f -为D 上的凹函数. √ 10 设R R D f n →?:为凸集D 上的可微凸函数，D x ∈*. 则对D x ∈?，有).()()()(***-?≤-x x x f x f x f T ? 11 若)(x c 是凹函数，则}0)( {≥∈=x c R x D n 是凸集。 √ 12 设{}k x 为由求解)(min x f D x ∈的算法A 产生的迭代序列，假设算法A 为单调下降算 法，则对{} ,2,1,0∈?k ，恒有 )()(1k k x f x f ≤+ . 华南农业大学期末考试试卷（A 卷） 2010--2011学年第 1 学期 考试科目： 运筹学与最优化方法 考试类型：（闭卷）考试 考试时间： 120 分钟 学号 姓名 年级专业 一、 用单纯形法求解下列线性规划问题（共 15 分） 12121212max 105349 ..528,0z x x x x s t x x x x =++≤?? +≤??≥? 二、灵活运用单纯形法和对偶单纯形法解下列问题（共 15 分） 12121212max 62 ..33,0z x x x x s t x x x x =++≥?? +≤??≥? 三、解下列0-1型整数规划问题（共 10 分） 12345123451345124512345max 325232473438..116333,,,,01 z x x x x x x x x x x x x x x s t x x x x x x x x x =+--+++++≤??+-+≤?? -+-≥??=?或 四、利用库恩-塔克（K-T ）条件求解以下问题（共 15 分） 22121122 121212 max ()104446..418,0f X x x x x x x x x s t x x x x =+-+-+≤??+≤??≥? 五、用内点法求解下列非线性约束最优化问题（共 15 分） 21 121 2min ()6923..3 f X x x x x s t x =-++≥??≥? 六、给定初始点(0)(1,1)T X =，用最速下降法迭代一次研究下列函数的极大值。（共 15 分） 22 121122()46222f X x x x x x x =+--- 七、某人因工作需要购置了一辆摩托车,他可以连续使用或任一年末将旧车卖掉,换一辆新车,下表列出了于第i 年末购置或更新 的车至第j 年末的各项费用的累计(含更新所需费用、运行费用及维修费用等)，试据此确定该人最佳的更新策略，使从第一年至第五年末的各项费用的累计之和为最小。（共 15 分） 一、 填空题 1 ． 若 ()()??? ? ??+???? ?????? ??=212121 312112)(x x x x x x x f ，则 =?)(x f ，=?)(2x f . ２．设f 连续可微且0)(≠?x f ，若向量d 满足 ，则它是f 在x 处的一个下降方向。 3.向量T ) 3,2,1(关于3阶单位方阵的所有线性无关的共轭向量 有 ． 4. 设R R f n →:二次可微，则f 在x 处的牛顿方向为 . 5.举出一个具有二次终止性的无约束二次规划算 法: . 6.以下约束优化问题： )(01)(..)(min 212121 ≥-==+-==x x x g x x x h t s x x f 的K-K-T 条件为： . 7．以下约束优化问题： 1 ..)(min 212 2 21=++=x x t s x x x f 的外点罚函数为(取罚参数为μ) . 二、证明题（７分+8分) 1.设1,2,1,:m i R R g n i =→和m m i R R h n i ,1,:1+=→都是线性函数,证明下 面的约束问题: } ,,1{, 0)(},1{, 0)(..)(min 1112 m m E j x h m I i x g t s x x f j i n k k +=∈==∈≥=∑= 是凸规划问题。 2.设R R f →2 :连续可微，n i R a ∈,R h i ∈,m i ,2,1=,考察如下的约束条件问题: } ,1{,0} 2,1{,0..) (min 11m m E i b x a m I i b x a t s x f i T i i T i +=∈=-=∈≥- 设d 是问题 1 ||||,0,0..)(min ≤∈=∈≥?d E i d a I i d a t s d x f T i T i T 的解，求证：d 是f 在x 处的一个可行方向。 三、计算题（每小题１2分) １.取初始点T x )1,1() 0(=.采用精确线性搜索的最速下降法求解下面的无约束优化问题 (迭代２步）: 2 2212)(m in x x x f += 2.采用精确搜索的BFGS 算法求解下面的无约束问题： 212 2212 1)(min x x x x x f -+= 3.用有效集法求解下面的二次规划问题: . 0,001..42)(min 21212 12 221≥≥≥+----+=x x x x t s x x x x x f 4．用可行方向算法(Zoutend ｉj ｋ算法或Ｆrank Wol ｆｅ算法）求解下面的问题（初值设为)0,0() 0(=x ,计算到)2(x 即可）： . 0,033..22 1)(min 212112 22121≥≥≤+-+-= x x x x t s x x x x x x f 作用： ①仿真的过程也是实验的过程，而且还是系统地收集和积累信息的过程。尤其是对一些复杂的随机问题，应用仿真技术是提供所需信息的唯一令人满意的方法。 ②仿真技术有可能对一些难以建立物理模型或数学模型的对象系统，通过仿真模型来顺利地解决预测、分析和评价等系统问题。 ③通过系统仿真，可以把一个复杂的系统化降阶成若干子系统以便于分析，并能指出各子系统之间的各种逻辑关系。 ④通过系统仿真，还能启发新的策略或新思想的产生，或能暴露出在系统中隐藏着的实质性问题。同时，当有新的要素增加到系统中时，仿真可以预先指出系统状态中可能会出现的瓶颈现象或其它的问题。 2.简述两个Wardrop 均衡原理及其适用范围。 答： Wardrop提出的第一原理定义是：在道路的利用者都确切知道网络的交通状态并试图选择最短径路时，网络将会达到平衡状态。在考虑拥挤对行驶时间影响的网络中，当网络达到平衡状态时，每个 OD 对的各条被使用的径路具有相等而且最小的行驶时间；没有被使用的径路的行驶时间大于或等于最小行 驶时间。 Wardrop提出的第二原理是：系统平衡条件下，拥挤的路网上交通流应该按照平均或总的出行成本 最小为依据来分配。 第一原理对应的行为原则是网络出行者各自寻求最小的个人出行成本，而第二原理对应的行为原则是网络的总出行成本最小。 3.系统协调的特点。 答： （1）各子系统之间既涉及合作行为，又涉及到竞争行为。 （2）各子系统之间相互作用构成一个反馈控制系统，通过信息作为“中介”而构成整体 （3）整体系统往往具有多个决策人，构成竞争决策模式。 （4）系统可能存在第三方介入进行协调的可能。 6．对已经建立了概念模型的系统处理方式及其特点、适用范围。答：对系统概念模型有三种解决方式。 1.建立解析模型方式 对简单系统问题，如物流系统库存、城市公交离线调度方案的确定、交通量不大的城市交叉口交通控制等问题，可以运用专业知识建立系统的量化模型（如解析数学模型），然后采用优化方法确定系统解决方案，以满足决策者决策的需要，有关该方面的内容见第四、五章。 在三种方式中，解析模型是最科学的，但仅限于简单交通运输系统问题，或仅是在实际工程中一定的情况下（仅以一定的概率）符合。所以在教科书上很多漂亮的解析模型，无法应用于工程实际中。 2.建立模拟仿真模型方式 对一般复杂系统，如城市轨道交通调度系统、机场调度系统、城市整个交通控制系统等问题，可以对系统概念模型中各个部件等采用变量予以量化表示，并通过系统辨识的方式建立这些变量之间关系的动力学方程组，采用一定的编程语言、仿真技术使其转化为系统仿真模型，通过模拟仿真寻找较满意的优化方案，包括离线和在线均可以，有关该方面的内容见第七章。 模拟仿真模型比解析模型更能反映系统的实际，所以在交通运输系统中被更高层次的所使用，包括最优化实验报告
《最优化方法》复习题(含答案)
《最优化方法》复习题
最优化方法实验报告(1)
最优化方法试题
学生科学实验效果最优化的基石实验报告设计
天津大学《最优化方法》复习题(含答案)
最优化方法(黄金分割与进退法)实验报告
(完整版)机械优化设计试卷期末考试及答案
北京理工大学级数学专业最优化方法期末试卷试题A卷MT.doc
最优化计算方法课后习题答案----高等教育出版社。施光燕
最优化方法课程实验报告
13-14(1)最优化方法期末试卷
《最优化方法》复习题(含答案)
最优化方法课程实验报告
修订过的最优化方法复习题
最优化方法考试试题
最优化方法(试题+答案)
《最优化方法》期末试题