第一章 绪论及非线性规划基本概念

• 定义在凸集上的任意个凸函数的非负线性组合仍为凸函数
• 以下说法错误的是（） A描述目标函数或约束条件条件的数学表达式中，至少有一个是非线性函数，则为非线性…
• 对于非线性规划模型的一般形式： 若（），则称该非线性规划问题为凸规划 Af(x)为凸函数 Bg(x)为凸函数 …
• 如果非线性规划存在最优解，则 A只能在其可行域的边界上达到 B只能在其可行域的顶点上达到 C只能…
• 以下凸函数的说法正确的是 A凸规划的可行域为凸集 B凸函数的局部最优解即为全局最优解 C凸函数…
• 多元函数f二阶连续可导，当驻点M处的海塞矩阵（）时，M点为极小值点。 A不定 B负定 C半负定 D正定…
• 二次型是非线性规划问题中的重要概念，下列有关二次型的说法正确的是（）。 A二次型的矩阵表示为XAX'，其…
• 下列关于梯度的说法正确的是（）。 A梯度的本意是一个标量。 B函数在某点处沿着梯度方向变化最快。 …
• 下列关于非线性规划概述错误的是（）。 A当目标函数和约束条件中都含有一个或多个变量的非线性函数，…
• 下列关于“梯度”的说法不正确的是（）。 A梯度本质是一个标量，只有大小，没有方向。 B梯度表示某一函…
• 对于非线性规划模型的一般形式：minf(x);h(x)=0;g(x)≥0.若（），则称该非线性规划问题为凸规划 Af(x)为…
• 判断一个二次型是否正定的充分必要条件为()。（A为该二次型的矩阵） AAi'≥0(i=1,2,…,n-1)且 detA'…
• 所有函数的海塞矩阵均为对称矩阵。
• 非线性规划是20世纪50年代才开始形成的一门新兴学科。1951年库恩和塔克发表的关于最优性条件的论…
• 对于一个求极小化问题的非线性规划问题，其存在最优解x0的必要条件是 A BH(X0）>0 Cf(x0)=0且H(X0…
• 如果一个非线性规划问题有极大值点，那么该点也是问题的极大值点。…
• 在凸规划中，目标函数、约束函数都是凸函数
• X为非线性规划的任一可行解，X*为某一可行解，若存在f(X*)≤f(X)，则称X*为非线性规划的____。…
• 对于一个求极小值问题的非线性规划，其存在最优解x0的充分条件是 A B H(X0)>0 C 且H(X0)>0 …
• 在下列说法中，不正确的说法是 A凸规划的约束集是凸集合。 B凸规划最优解的集合是凸集合。 C局…
• 求解无约束问题一般采用迭代算法，其中 （   ）的确定很重要，具有关键性作用，它关系求解的收敛速度。 …
• 已知x0为f(X)的最优解，如果 （    ）成立，则x0为f(X)的严格极小值点。 A BH(X0)>0 CH(X0)≥0 D…
• 非线性规划是（    ）。 A不是数学规划 B是线性规划的对偶问题 C目标或约束条件是非线性函数 D最优…
• 当D=Rn,非线性规划成为（       ）。 A线性规划问题 B具有全局最优解的问题 C具有局部最优解…
• 非线性规划的最优解可能在可行域的内部取得

第二章 一维搜索

• 黄金分割法比斐波那契法迭代次数更少。
• 黄金分割法中每一次迭代的压缩比都是0.618.
• 在斐波那契法中，满足精度要求的斐波那契数列项数为n时，迭代次数为n。…
• 斐波那契法和黄金分割法只解决凸规划问题。
• 在区间[a,b]求解最大值的问题中，如果取值点x1 f(x2),则缩减后的区间为[x1,b]。…
• 黄金分割法能保证无论缩减的是哪部分区间都具有相同的长度。
• 斐波那契法能保证无论缩减的是哪部分区间都具有相同的长度。
• 斐波那契法和黄金分割法的主要区别在于区间压缩比例不同。
• 黄金分割法的主要优点是给出了选取试点的方法。
• 一维搜索的主要思路是通过计算比较区间中的函数值，缩短最优解存在的区间。…
• 下列关于斐波那契法和黄金分割法的说法正确的是（）。 A斐波那契法的试探点不能重复利用，因此其准确…
• 用黄金分割法求函数f(x)=x^2-x+2在[-1,3]上的极小点时，第二次迭代区间为（）。 A[-1,1.472] B[1.472…
• 利用斐波那契法求解f(x)在区间[-2,2]上的极小点，要求达到预定精度δ=0.2，则需要计算函数值的次数（斐…
• 利用斐波那契法进行一维搜索，假设第5次试探前的区间为[-1,3],试探点为p、q，为达到预定精度需要计算…
• 在不确定区间上用缩减区间技术求最小点，在理论上需要建立单峰（谷）函数的概念。下列关于单峰（谷）函数的…
• 斐波那契法是一维搜索中压缩比最高的搜索算法，基于斐波那契数列产生比例值。…
• 斐波那契额法的优点是____，不足是____
• 斐波那契法和0.618法都属于直接法，仅需计算函数值，无须 计算函数的导数。…

第三章 无约束非线性规划

• DFP算法和BFGS算法都具有超线性收敛速度
• 当问题维度增加时，DFP算法和BFGS算法相对于牛顿法的计算成本优势减少。…
• DFP算法和BFGS算法相对于牛顿法的优势主要体现在收敛速度上
• 有限记忆的L-BFGS算法不需要直接存储变尺度矩阵
• DFP算法采用变尺度矩阵去逼近海塞矩阵的逆矩阵，而BFGS算法是用矩阵去逼近海塞矩阵本身，这样就避免…
• DFP法中的变尺度矩阵随着迭代的进行逐渐逼近单位矩阵。
• 对于n维的二次型的目标函数，DFP法在两次迭代后即可找到极值点
• 即是初始变尺度矩阵是正定的，DFP拟牛顿法每步的搜索方向也不一定都是下降的。…
• 梯度下降法一定比牛顿法收敛慢
• 牛顿下山法增加了初始点选择的灵活性，并且能够保证搜索方向始终是下降方向…
• 只要目标函数连续，就可以使用牛顿法求其极值点
• 用牛顿法寻找目标函数的极值点时，迭代点不一定收敛
• 用牛顿法寻找目标函数的极小值点时，目标函数的值随迭代点的更新始终是下降的。…
• BFGS拟牛顿法相对于DFP拟牛顿法的主要优点是 A收敛速度更快 B变尺度矩阵更容易计算 C具有超线…
• 下列关于DFP拟牛顿法中变尺度矩阵的描述正确的是。 A初始迭代步骤中的变尺度矩阵一般设为单位矩…
• 下列关于DFP拟牛顿法的描述正确的是。 ADFP拟牛顿法不需要计算Hessian矩阵的逆矩阵。 BDFP拟牛…
• DFP拟牛顿法的计算复杂度是。 AO(n) BO(n^2) CO(n^3) DO(n^4)
• 关于Goldstein-Price方法，下列哪些说法是正确的。 AGoldstein-Price方法是牛顿法和梯度下降法的结…
• 以下哪些是牛顿法的缺点。 A海塞矩阵及其逆矩阵的计算和存储成本高 B目标函数必须要有连续的一、…
• 关于弦截法，下列哪个是错误的。 A弦截法在每步迭代中比牛顿法计算成本低 B弦截法不直接计算二阶…
• 关于阻尼牛顿法（广义牛顿法），下列哪个是错误的 A阻尼牛顿法在牛顿方向上增加了一维搜索 B阻尼牛顿…
• 下列关于牛顿法的说法，哪些是正确的 A牛顿法可能会在两个相邻迭代点之间来回震荡 B迭代点可能不…
• 牛顿法的计算复杂度为。 AO(n) BO(n^2) CO(n^3) DO(n^4)
• 下列关于牛顿法的说法，哪一个是正确的 A牛顿法不受起始点选择影响 B牛顿法具有全局收敛性 C牛顿…
• 牛顿法在（）附近具有二次收敛性质。 A所有迭代点 B初始点 C某些迭代点 D极值点…
• 牛顿法迭代公式基于泰勒（）展开式获得。 A1阶 B2阶 C3阶 D无穷阶
• 下列关于无约束极值的求解方法，说法正确的是（）。 A求解无约束极值时，因直接法不涉及目标函数是否存…
• 梯度下降法虽然简单、易于实现，但也存在不足如（）。 A对目标函数的数学形式和性质没有要求。 B需要…
• 梯度下降法的核心优化思想是（）。 A用当前位置的海塞矩阵的逆与梯度方向相乘作为搜索方向。 B用当…
• 用最速下降法求函数f(x)=2xy+2y-x^2-2y^2的极大点，给定初始点为（0，0），则初始迭代的最佳步长为（）。 A1/4…
• 目前，机器学习中常用的优化求解算法为____
• 梯度法是最早最简单，也是最为常用的最优化方法。下列关于梯度下降法的说法正确的是（）。 A一般情况下…
• 下列不属于梯度下降法的改进算法的是（）。 A随机梯度下降法 B批量梯度下降法 C动量法 D牛顿法…

第四章 有约束非线性规划

• 以下说法错误的是（） A描述目标函数或约束条件条件的数学表达式中，至少有一个是非线性函数，则为非线性…
• 下列关于内点法和外点法说法错误的是（）。 A若构造出来的无约束问题比较好解，则利用内点法更方便 B…
• 对于极小化问题，外点罚函数法中定义的惩罚项P(x)需要满足（）。 A当x为非可行点时，P(x)<0 B在定义域…
• 下列关于外点罚函数法的特点说法错误的是（）。 A能同时解决等式约束和不等式约束 B对初始点的选择…
• 惩罚函数法将构造出一个带参数的增广目标函数，该函数由（）构成。 A目标函数 B拉格朗日乘子 C全部…
• 惩罚函数法的基本思想是借助罚函数把约束问题转化为一系列无约束问题，进而用无约束最优化方法来求…
• 求解约束极值非线性规划问题的方法不包括（）。 A惩罚函数法 B拉格朗日乘子法 C最优性条件 D梯度…
• 以下关于内点罚函数法的说法错误的是 A内点罚函数法为使选代点总是可行点，或者说使选代点始终保…
• 约束条件与等高线相切的位置即为待求极值点，极值点处梯度方向相同。…
• 以下对KKT条件的说法错误的是 AKKT条件要求等式约束对应的拉格朗日乘子是非负的。 BKKT条件是…
• KKT条件包括 A拉格朗日函数的定常方程式 B原始可行性 C对偶可行性 D互补松弛性…
• 以下关于可行方向法的说法错误的是 A可行方向法从问题的可行点出发，在该点的可行方向中，寻找使目…
• 以下关于可行下降方向的说法正确的是 A如果方向D既是点X*的可行方向，又是下降方向，则称该方向是该…
• 以下关于约束优化的说法中错误的是 A起作用约束在可行点的邻域不仅起到限制可行域范围的作用，而且…
• 等式约束可以是可行点的（） A有效约束 B无效约束 C松弛约束 D冗余约束…
• 对于一般非线性规划，假定f(X)、gj(X)具有一阶连续偏导数，设X(0)是非线性规划的一个可行解。以下说…

第五章 启发式优化方法

• 对高维复杂问题，遗传算法往往会遇到早熟收敛和收敛性能差的缺点，无法保证收敛到最优点。…
• 粒子群算法与遗传算法相比没有交叉和变异操作，粒子只是通过内部速度进行更新，因此原理更简单、参数…
• 粒子群中的粒子和遗传算法中的染色体都是单向共享信息机制。
• 粒子群算法根据个体的适配信息进行搜索，因此不受函数约束条件的限制。…
• 遗传算法中的变异操作是施加于两个染色体之上的，并且是偶尔发生的，其作用是随机偶然地产生新解。…
• 遗传算法中，对于两个可能解进行两段交叉，其交叉点是固定的，不可以采取随机方式确定。…
• 遗传算法则是每次迭代都将整个试解群体作为对象，然后该算法采用类似于生物进化论的演进方式舍弃部…
• 启发式算法一个共同的特点是从随机的可行初始解出发，采用选代改进的策略，去逼近问题的最优解；它们都…
• 模拟退火算法的关键环节包括：初温、初始解、状态产生函数、状态接受函数、退温函数、抽样稳定准则…
• 蚁群算法中信息启发式因子α反映了蚂蚁在运动过程中蚂蚁在运动过程中启发信息在蚂蚁选择路径中的…
• 模拟退火算法中，由初始解和控制参数初值开始，对当前解重复“产生新解→计算目标函数差→接受或舍弃…
• 模拟退火算法首先设定一定的温度，外层循环为一个降温的过程，内层循环为一个遍历的过程，是在每次内层…
• 对比遗传算法和粒子群算法，两者的共性不包括（）。 A都隐含并行性。 B都属于仿生算法。 C染色体（粒子群…
• 粒子群算法通过跟踪个体极值和全局极值来更新位置，涉及惯性权重和加速常数这两个重要参数。下列关…
• 蚁群算法中有三种计算信息素增量的方法，其中蚁周的计算方法是指（）。 A若蚂蚁k在本次周游中经过边ij…
• 下列描述中，蚁群算法的不足有（）。 A算法最先基于离散问题，不能直接解决连续优化问题。 B不易于与其他…
• 蚁群算法是一种随机搜索算法，其对搜索空间的了解主要通过以下方面（）。 A通过设置禁忌表模拟蚂蚁的记…
• 在进行遗传算法求解时需要将目标函数以一定的方式映射成适应度函数，适应度函数的设计时不需要满足…
• 遗传算法中交叉算子的作用是（）。 A优胜劣汰，适者生存 B保证解的多样性，避免局部收敛 C产生新解，并保…
• 遗传算法的搜索核心是遗传算子的选择，其中（）不属于遗传算子。 A编码 B选择 C交叉 D变异…
• 在利用模拟退火算法求解的过程中，若能量变化量相同，（），接受差解的概率越大。 A温度为0 B温度越低 C…
• 模拟退火算法中通过（）跳出局部最优解。 A设置合理初温 BMetropolis抽样准则 C状态产生函数 D设…
• 下列关于群智能算法存在的不足，表述正确的是（）。 A比较性研究不足，缺乏用于性能评估的标准测试集。 …
• 下列关于启发式算法，表述正确的是（）。 A启发式算法对问题的数学性能要求较高，尽管不要求目标函数为凸…
• 启发式算法的主要思想是____
• 模拟退火算法的基本思想是____
• 模拟退火算法中metropolis抽样的作用是____
• 遗传算法反映了____的自然选择与进化法 则（不断选择优良个体），借鉴生物学基础就是生物的____。…

第六章 Python优化实现