混合Kriging 代理模型的高维参数估计优化算法

第５５卷第２期　２　０１　５年３月　大连理工大学学报　Ｊｏｕｒｎａｌ　ｏｆ　Ｄａｌｉａｎ　Ｕｎｉｖｅｒｓｉｔｙ　ｏｆ　Ｔｅｃｈｎｏｌｏｇｙ　Ｖｏ１．５５，ＮＯ．２　Ｍａｒ．２　０　１　５　文章编号：１０００—８６０８（２０１５）０２—０２１５—０８　混合Ｋｒｉｇｉｎｇ代理模型的高维参数估计优化算法　王红　。，匡二塑　。，李克秋　（１．大连理工大学计算机科学与技术学院，辽宁大连　１１６０２４；　２．大连东软信息学院计算机系，辽宁大连　１１６０２３；　３．大连理工大学工业装备结构分析国家重点实验室，辽宁大连　ｌ１６０２４）　摘要：基于Ｋｒｉｇｉｎｇ代理模型的优化算法对于解决函数计算昂贵的优化问题非常有效，但并　不适用于高维参数的优化．针对该问题，提出了一个混合Ｋｒｉｇｉｎｇ代理模型和多种优化技术　的算法．该算法在Ｋｒｉｇｉｎｇ模型选择新样例点时使用单维参数独立优化以克服维度灾难并提　高收敛速度，同时基于已构建的Ｋｒｉｇｉｎｇ代理模型信息提出一种新的动态坐标扰动策略，并　将该策略用于高维参数优化以得到更好的目标函数值．为了保证不丢失全局最优解，在使用　一般期望提高加点策略作为选点原则时，在期望函数的多个峰值同时选点．为了验证算法的　有效性，将该算法应用于具有４１维参数的人类白细胞代谢网络参数估计问题．实验结果表　明，在有限的迭代次数下，该算法能产生较小的目标函数值，以及和实验拟合较好的参数估计　结果．　关键词：Ｋｒｉｇｉｎｇ代理模型；高维参数估计；有限的计算资源；一般期望提高　中图分类号：ＴＰ３９１．９　文献标识码：Ａ　ｄｏｉ：１０．７５１１／ｄｌｌｇｘｂ２０１５０２Ｏ１５　０　引　言　参数估计问题通常被当作优化问题来解决，　该优化问题致力于找到一组参数ｐ，使用最小二　乘法作为目标函数，使得该组参数能对实验数据　给出最好的拟合结果．在此优化过程中每给定一　组参数就要计算对应的函数值，再和实验数据进　后通过多初始值方法找到全局最优解是参数估计　最常采用的算法［１］．但当梯度需要使用数值差分　计算时，不仅会带来计算时间延长的问题，还会由　于函数不光滑使得计算得到的梯度不可信，从而　影响参数估计的准确性．启发式的优化算法是进　行参数估计的另一策略，如模拟退火算法、遗传算　法、粒子群算法等［２伽都曾用于参数估计领域．此　行比较确定目标函数值．　在许多实际的工程参数估计问题中，和参数　外分散搜索口　也常常用于全局优化以找到拟合最　好的参数集合．　对应的函数计算常常极其昂贵，需要耗费大量的　计算时间，特别当优化问题含有多个局部最优值　且待估计参数又是高维时，要找到全局最优解就　变得尤为困难．此时比较现实的做法应该是，在有　限的计算资源条件（如确定的迭代次数或函数计　对于参数估计中含有昂贵的函数计算问题，　最自然的想法就是使用代理模型来代替昂贵的函　数计算以期减轻计算负担．常用的代理模型有响　应面模型，径向基函数、神经网络和Ｋｒｉｇｉｎｇ模　型．在这些基于代理模型的优化算法中，基于　Ｋｒｉｇｉｎｇ模型进行优化研究是应用最广泛的，这主　算次数）下找到近似全局最优解，本文提出的优化　算法是服从于这个大前提的．　使用基于梯度的优化算法进行局部优化，然　收稿日期：２０１４－０７—０５；修回日期：２０１５—０１—０８．　要归结于Ｋｒｉｇｉｎｇ模型用于优化问题时不仅能给　出优化结果，而且能够给出优化的不确定性估计，　基金项目：国家自然科学基金资助项目（１１０７２０４８）；“九七三”国家重点基础研究发展计划资助项目（２ｏｏ９ＣＢ９１８５０１）；辽宁省教育　厅科学研究一般项目（Ｌ２０１３５ｌ９）．　作者简介：王红　（１９７４一），女，博士生，Ｅ　ｍａｉｌ：ｗａｎｇｈｏｎｇ＠ｎｅｕｓｏｆｔ．ｃｄｕ．ｃｎ；臣　圈（１９４７—２０１３），男，博士，教授，博士生导师；李　克秋（１９７２一），男，博士，教授，博士生导师．　

大连理工大学学报　第５５卷　这种不确定性等价于Ｋｒｉｇｉｎｇ代理模型的不确定　性，同时该模型特别适用于解决非线性问题［５］．但　是将Ｋｒｉｇｉｎｇ代理模型直接用于高维参数优化领　域却并不现实，因为参数的高维度意味着选择样　例点要多，而样例点的增多会增加Ｋｒｉｇｉｎｇ建模　的计算时间．而且，高维参数之间复杂的相互作用　也会使得各维度对目标函数的影响被削弱，表现　为目标函数值不会随着优化次数的增多而有明显　何取样技术，关键是如何保证所选样例点在所有　参数空间均匀分布．常用的采样技术有拉丁超立　方取样嘲、极大熵取样　、均匀取样　等．　Ｋｒｉｇｉｎｇ代理模型通常表示为如下形式［１　：　＾厂（ｚ）一五十ｒＴ（ｚ）Ｒ一　（，一１五）　五＝１ＴＲ　ｆ／１　Ｒ　１　（１）　式中：，（ｚ）是使用Ｋｒｉｇｉｎｇ模型计算出来的预测　的下降．本文针对含有昂贵函数计算的高维参数　值；五是Ｋｒｉｇｉｎｇ中值；Ｒ是　×　矩阵，它在（　，　）　估计问题，在Ｋｒｉｇｉｎｇ优化框架下，使用一般期望　提高（ＧＥＩ）［５　加点准则在期望提高（ＥＩ）Ｌ６　函数的　多个峰值搜索时，对每个维度参数独立优化以克　服各维参数之间的相互影响及由此带来的维度灾　难；同时基于已构建的Ｋｒｉｇｉｎｇ模型信息提出一　种新的动态坐标扰动策略，并应用该策略微扰样　例点中目标值较小点的部分坐标以得到更好的样　例点．考虑到Ｋｒｉｇｉｎｇ建模时间会随着样例点数　目的增多而有所增加，因此使用李征［７　提出的区　域分割法以节省建模时间．　１　算法描述　１．１基于Ｋｒｉｇｉｎｇ的优化算法　一般的基于Ｋｒｉｇｉｎｇ的优化算法流程如图１　所示．　／产生初始样例点并、　汁算对应目标函数值　一＋　根据样例点构建代理模型　ｌ　基于已建立模型和加点准则　搜索新样例点并计算目标值　ｌ　将新的样例点加入样例点集合　目标函数最小值　即是优化结果　图１　基于Ｋｒｉｇｉｎｇ的优化算法流程图　Ｆｉｇ．１　Ｔｈｅ　ｆｌｏｗ　ｃｈａｒｔ　ｏｆ　Ｋｒｉｇｉｎｇ—ｂａｓｅｄ　ｏｐｔｉｍｉｚａｔｉｏｎ　ａｌｇｏｒｉｔｈｍ　在该流程中，初始样例点的生成可以基于任　处的元素为是（　（　），ｚ（　）），其中ｋ是核函数；ｒ是　一个ｎ维向量，它的第ｉ个元素是ｋ（　，ｚ（　））；ｆ一　（厂（　（１））　（ｚ（２））…厂（ｚ（　））），其中厂（ｚ（　））　表示点　（　）处的响应值．　加点准则就是如何选择新的样例点的准则，　该准则一般会作为选点过程的目标函数而存在．　Ｋｒｉｇｉｎｇ是一种基于高斯过程的模型，因此可以估　计出模型的不确定性．这一特征有助于确定在设　计空间的哪些区域增加新样例点以提高模型的精　度．常用的加点准则有期望提高准则，该加点准则　不仅给出了可能提高的信息而且给出了这种提高　尺度的度量，该准则如下：　ｆ（　ｉ　一　（ｚ））　（（　ｉ　一　（ｚ））／　Ｉ　Ｅ（　（ｚ））一ｊＩ　　ｓｎ　（ｚ））；　ｚ　－￣　ｓ－Ｓｎ（　＞０　ｚ　（（　一多（ｚ）　／（２）　Ｌ０；　ｓ　＝０　式中：　（・）是标准分布函数，　（・）是可能密度函　数，Ｙ　ｉ　是样例点中的最小目标函数值，　（　）是在　点的预测值，Ｓ　（ｚ）是在Ｘ点的均方误差．式（２）　的第一部分表示目标函数值小且估计精确的区　域，在该区域进行搜索即是在当前最小目标函数　值点附近进行搜索，是一种局部搜索；式（２）的第　二部分表示高度不确定区域，在此部分的搜索被　认为是一种全局搜索．Ｅ１最大加点准则就是搜索　这样的点：要么预测值比当前最小目标函数值小　的点，要么预测值有较大不确定性的点．可见，期　望提高搜索能自动平衡局部与全局搜索两种趋　势，因此ＥＩ最大化常常作为选择新样例点的目标　函数．　１９９８年Ｊｏｎｅｓ等［１胡指出，由于Ｋｒｉｇｉｎｇ的常　用工具箱ＤＡＣＥ在其代码实现时低估了方差，加　之初始建立的Ｋｒｉｇｉｎｇ模型通常不精确，可能会　使期望提高（ＥＩ）最大化搜索徘徊在已经探索过的　局部极值区域．因此需要一种在优化开始就能进　

第２期　王　红等：混合Ｋｒｉｇｉｎｇ代理模型的高维参数估计优化算法　２１７　行更广泛全局探索的优化算法，一般期望提高　（ＧＥＩ）准则应运而生．该准则为期望提高加上了　一严格的递减函数达到从全局向局部的过渡，而本　文提出的动态扰动策略充分利用了已建立的　Ｋｒｉｇｉｎｇ代理模型，将模型中描述参数相关性的０　作为选择扰动坐标的标准．０越大说明该变量越　个指数权，其定义如下　：　）一Ｓｇ奎（一　㈥　Ｔ　一Ｏ　、　，　，０、　重要，即该维度的一个微小变动就会对相关函数　有大的影响，因而对函数目标值也有大的影响．在　模型不精确情况下，具有大０的参数较多，随着模　型精度的不断提高，大　对应的参数不断减少，从　Ｔｏ一　（ｚ），丁１一一　（ｚ）　＝一ｚ　（　）＋（走一１）　一２　同ＥＩ公式定义一样，　（・）是标准分布函数，　而　（・）是可能密度函数．　表示在　点的期望提　高值，被定义为“一—Ｙｍ１．－－—ｙ（Ｘ）　．式（３）中ｇ因子　起到在局部搜索和全局搜索之间平衡的作用：大　的ｇ值暗示搜索会在更全局的区域进行，而小的　ｇ值则表示该优化算法会探索当前最优值的附近　区域．　基于Ｋｒｉｇｉｎｇ的优化算法通常采用的收敛准　则为：在下一个待加点处期望提高的绝对值小于　一个足够小的数（如１　）或是达到预先设定的最　大迭代次数．　１．２混合Ｋｒｉｇｉｎｇ代理模型的高维参数估计优　化算法　本文提出的优化算法是在Ｋｒｉｇｉｎｇ的优化算　法框架下提出的改进，这种改进主要包括如下３　点：（１）以ＧＥＩ为加点原则（即ＧＥＩ最大为目标函　数），针对ＧＥｌ定义设定多个ｇ值，在一次迭代中　同时兼顾局部与全局搜索；（２）单参数独立优化克服　维度灾难并提高收敛速度，使用序列二次规划方法　针对每维参数单独优化；（３）基于已建立的Ｋｒｉｇｉｎｇ　代理模型提出新的动态坐标扰动策略．对所有样　例点的目标函数值升序排列，选取前　个点，根　据本文提出的动态坐标扰动策略对其坐标进行扰　动．此时流程图１中的第三部分变为图２所示．图　２中的　在算法中取４，即ｇ分别设为｛０．２５，　０．５Ｏ，０．７５，１），一轮完毕后ｇ—ｇ／２，　设为２．　动态坐标扰动策略的提出基于这样一种思　想：最优值应该在当前具有最好目标值的样例点　附近（当前最好目标值不是最优值时）．因此，对当　前最好样例点的部分坐标进行微扰既保证了新点　不会离原来点太远，又为其探索多个方向提供了　可能．虽然扰动最好样例点的所有坐标会带来更　大的探索空间，但也会使得扰动点偏离当前最优　点更远，从而浪费后续的迭代次数．本文提出的动　态扰动策略是在ＤＹＣＯＲＳ［１钉策略启发下设计　的．这两种策略的主要区别在于ＤＹＣＯＲＳ采用　而达到扰动坐标数目的逐步递减．动态坐标扰动　过程如图３所示，其中￡一１０３．　选取　值　ｇ；　１．选取初始值　２．针对每维参数，执行序列二次　规划优化算法　３．按ＧＥＩ值升序排列，选取其中　的前　个，存放至　…中　。　＝ｒ　１ｕ…ｕ　～，删除其中　距离过近的点以及和已有样例　集中距离过近的点　一　将其合并到初始样例集中　●一…一……　‘一‘。。。。。。。。’　’　’Ｊ　动态坐标扰动　；　图２修订基于Ｋｒｉｇｉｎｇ优化算法第三部分　Ｆｉｇ．２　Ｔｈｅ　ｔｈｉｒｄ　ｍｏｄｉｆｉｅｄ　ｐａｒｔ　ｏｆ　Ｋｒｉｇｉｎｇ－ｂａｓｅｄ　ｏｐｔｉｍｉｚａｔｉｏｎ　ａｌｇｏｒｉｔｈｍ　ｌ选取样例集中目标函数ｌｌ　最小的ｍ个点　Ｉ　　●　●　●　第　第，个点　第　１　１．确定待扰动坐标　个　Ｉｏｒ＝｛ｉ：Ｋｒｉｇｉｎｇ．　ｆ）　）　个　占　２．产生扰动值　点　生成　个［０，１】随机数Ｒ，，堤　元素个数　３．更新　ｘ　Ｒ１其．中ｉＥＩ　ｊ∈ｔ　４．越界处理　如果　，大于上界　ｃｗ尸　‘　’　）　。ｒａｎｄ（）　如果　小于下界　Ｉ＝　ｉ＇Ｘｎｅｗｌ￣∞　‘ｒａｎｄ（）　＋　ｌ　＋　●　如果　的目标值小于　的　目标值，将碎灏为　图３　动态坐标扰动算法　Ｆｉｇ．３　Ｔｈｅ　ａｌｇｏｒｉｔｈｍ　ｏｆ　ｄｙｎａｍｉｃ　ｃｏｏｒｄｉｎａｔｅ　ｄｉｓｔｕｒｂａｎｃｅ　

大连理工大学学报　第５５卷　考虑到Ｋｒｉｇｉｎｇ建模时间会随着样本数目的　增多而延长，本文采用李征提出的区域分割法即　基于主成分分析方法对样本进行空间划分，在多　个子空间并行建模以节省计算时间，具体区间划　分方法参考文献Ｅ７－１．引入并行化后的改进优化算　法流程如图４所示．　产生初始样例点并　汁算对应目标函数值　将样例区域划分为若干个Ｑ　…例点并计算目标值如图２、３Ｎ示…………………＿……－Ｊ：　　更新样例集　Ｎ　收敛？　、、　／　ｌＹ　目标函数最小值　就是优化结果　图４　引入并行化后的改进优化算法流程图　Ｆｉｇ．４　Ｔｈｅ　ｆｌｏｗ　ｃｈａｒｔ　ｏｆ　ｐａｒａｌｌｅｌ　ｉｍｐｒｏｖｅｄ　ｏｐｔｉｍｉｚａｔｉｏｎ　ａｌｇｏｒｉｔｈｍ　２　计算结果　２．１算例介绍　为了检测本文提出算法的有效性，将该算法　应用于人类白细胞代谢网络的参数估计问题．人　类白细胞代谢网络使用１３个米氏方程表示的酶　促反应来描述其动力学特征，米氏方程使用常微　分方程描述，为了估计该网络的参数常常需要进　行积分计算．Ｖｏｌｔ等　幻认为，对于带有积分计算　的优化问题，积分所耗费的时间占整个优化时间　的９５　以上，因此是一种带有昂贵计算的优化问　题．　该模型中总计有４１个参数不能从实验中获　取，必须依赖于优化算法进行估计．根据这４１个　参数在代谢过程中承担的角色和它们的取值范　围，可以将其分为８类『２］，如表１所示，其中参数　的最大变动范围跨越６个数量级，最小的跨越１　个数量级．因此该问题的参数估计不仅是一个含有　昂贵计算的高维参数估计问题，还是一个参数变动　范围大的参数估计问题．由于米氏方程的高度非　线性，此问题还同时具有高度非线性特征．　表１　待估计参数信息　Ｔａｂ．１　Ｔｈｅ　ｉｎ［ｏｒｍａｔｉｏｎ　ｏｆ　ｐａｒａｍｅｔｅｒｓ　ｔｏ　ｂｅ　ｅｓｔｉｍａｔｅｄ　２．２计算条件设定及结果说明　针对人类白细胞代谢网络的参数特征，在初　始样例点生成时采用对数拉丁超立方取样和均匀　取样相结合的方式．因为初始样例构建的模型一　定不准确，所以初始样例的数目应该尽量少，在节　省计算时间的同时为后续样例保留机会．本文初　始为该网络生成４组样例，每组样例４００个．每组　样例中目标函数最小值分别为１．６３０　０×１０　、　１．５２４　１×１０　、１．３３７　２×１０　、１．４６６　３×１０　．本文　算法的收敛准则定义为两条．其中第一条如下所　示：　ｍａｘ　Ｅ（Ｊ（　））≤ｅ（ｙ　一Ｙ　ｉ　）；ｅ＜１　（４）　（　）一ｌ　ｅｄｉ　一ｙ　ｌ／孑（　）＜３　（　）是标准差．第二条是迭代次数少于２１　次，以此体现的是资源受限优化．该算例的积分计　算使用Ｓｕｎｄｉａｌｓ工具箱，软件的开发平台是　Ｖｉｓｕａｌ　Ｃ＋十６．０，运行环境是Ｉｎｔｅｌ（Ｒ）Ｃｏｒｅ　（ＴＭ）４　ＣＰＵ　２．８　ＧＨｚ．　为了证明该算法的有效性，特别是单参数优　化和动态坐标扰动策略的有效性，首先给出人类白　细胞代谢网络参数估计在４种优化策略作用下的　结果比较，其中４种优化策略分别是：（１）所有坐标　同时优化没有动态坐标扰动（ＡＯＮＤ）；（２）所有坐　标同时优化有动态坐标扰动（ＡＯｗＤ）；（３）单坐　标分别优化没有动态坐标扰动（ＳＯＮＤ）；（４）单坐　标分别优化有动态坐标扰动（ＳＯｗＤ）．４种策略　的优化过程如图５所示，其中ＡＯＮＤ和ＡＯＷＤ　对应左侧坐标，ＳＯＮＤ和ＳＯＷＤ对应右侧坐标．　从图５可以看出，所有带有扰动的迭代过程　都呈现出递减的趋势，这主要是因为动态扰动都　是在数据集中具有最小目标值的样例点上扰动完　成的，且只有当扰动后的Ｅｌ标值小于原目标值才　会发生替换，但因为在某些点扰动不会带来目标　函数值的减小，因此这些曲线并不表现为单调递　

第２期　王　红等：混合Ｋｒｉｇｉｎｇ代理模型的高维参数估计优化算法　２１９　３７．５　３２．５　２７．５　２２－５　１７．５　１２－５　７．５　２．５　（ａ）数据集１　５２．５　４７．５　４２．５　３７．５　３２ｌ５　２７．５　２２．５　１７．５　１２．５　７．５　２．５　（ｂ）数据集２　３７　３２　２７　２２　１７　１２　７　２　（ｃ）数据集３　５２．５　４７．５　４２．５　３７．５　３２．５　鱼２７．５　２２．５　１７．５　１２．５　７．５　２．５　（ｄ）数据集４　图５　４种策略优化结果比较　Ｆｉｇ．５　Ｃｏｍｐａｒｉｓｏｎ　ｏｆ　ｏｐｔｉｍｉｚａｔｉｏｎ　ｒｅｓｕｌｔｓ　ｂｙ　ｆｏｕｒ　ｓｔｒａｔｅｇｉｅｓ　减趋势．同时还可以看出单维优化效果要明显好　于多维同时优化效果，这主要归因于多维同时优　化时彼此之间复杂的相互作用，可能抵消单维独　立优化对目标值的影响．　为了比较不同加点准则对优化结果的影响，　使用相同的４组初始样例集，分别以基于ＥＩ最大　和ＧＥＩ最大作为选择新样例点的目标函数，在　Ｋｒｉｇｉｎｇ框架下执行ＳＯＮＤ策略，执行结果如表２　所示．　表２　ＥＩ和ＧＥＩ两种加点准则下得到的最　优目标函数值比较　Ｔａｂ．２　Ｔｈｅ　ｃｏｍｐａｒｉｓｏｎ　ｏｆ　ｏｐｔｉｍａｌ　ｏｂｊｅｃｔｉｖｅ　ｖａｌｕｅ　ｆｏｒ　ＥＩ　ａｎｄ　ＧＥＩ　ｓａｍｐｌｉｎｇ　ｆｉ】１　ｃｒｉｔｅｒｉｏｎ　由表２可以看出，基于ＧＥＩ加点优化得到的　最优目标函数值普遍优于基于ＥＩ加点优化得到　的最优目标函数值．　图６给出了不同处理器数目对４个数据集优　化过程的影响．由图６可以看出，优化结果会随着　处理器数目的增加而变好，这是因为随着处理器数　目的增加，样例空间区域划分的范围变小，建模精　确度提高．但这并不意味着不断增加处理器的数目　就会使得优化结果持续变好，因为处理器的数目对　应着样例区间的划分，区间划分得太细会造成该区　域样例点的过分稀疏从而影响建模的精度和优化　的结果．由图６也可看出当处理器数目不同时，同　一数据集优化过程选择的新样例点会有交叉．　为了显示本文算法的有效性，将该算法（４个　处理器２０次迭代４组集合中最优值）和其他３个　可用于此类问题的参数优化算法进行比较，参与　比较的算法为　ＴＳ—ＶＦＢＲＨ［１引、ＭＣＡ［２］、　ＳＳＭＧＯＬ４］．优化结果如表３所示，由表可以看出，　本文算法在较少时间内得到了和３个算法中最好　算法接近的目标函数值．这些优化算法估计得到　的参数值和实验数据拟合的效果如图７所示．　基于Ｋｒｉｇｉｎｇ代理模型的优化算法有一项重　要的评价指标就是计算Ｋｒｉｇｉｎｇ代理模型的近似　误差．这种近似误差可以作为衡量参数估计结果　不确定性的标准．一般可以使用两种误差定义来　估计［１　］．第一种是平均相对误差，定义如下：　１　一　“　，Ｐ“　一ＩＩ（　一　／ｙ　０（５）　，ｌ　１　其中　是检测样例点的个数，　。和　分别是在　

２２０　大连理工大（ａ）数据集１　ｏｎ　一　（ｂ）数据集２　（ｃ）数据集３　（ｄ）数据集４　图６　不同处理器数目对优化结果影响　Ｆｉｇ．６　Ｅｆｆｅｃｔ　ｏｆ　ｄｉｆｆｅｒｅｎｔ　ｎｕｍｂｅｒ　ｏｆ　ｐｒｏｃｅｓｓｏｒｓ　ｏｎ　ｏｐｔｉｍｉｚａｔｉｏｎ　ｒｅｓｕｌｔｓ　表３　不同优化算法的比较　Ｔａｂ．３　Ｃｏｍｐａｒｉｓｏｎ　ｏｆ　ｄｉｆｆｅｒｅｎｔ　ｏｐｔｉｍｉｚａｔｉｏｎ　ａｌｇｏｒｉｔｈｍｓ　学学报　第５５卷　ｇ　量　ｔ／ｍｉｎ　（ａ）ｌｔｂ４一ｎｏＡＡ　二　０　ｇ　ｇ　ｔ／ｍｉｎ　（ｂ）１ｔｂ４　ＡＡ　二　。　吕　吕　Ｕ　ｔ／ｍｉｎ　（ｃ）２０一ＯＨ—ＬＴＩＭ—ｎｏＡＡ　二　。　基　量　ｔ／ｍｉｎ　（ｄ）２０一ＯＨ—ＬＴＢ４一ＡＡ　图７　不同算法与实验数据拟合效果比较　Ｆｉｇ．７　Ｅｆｆｅｃｔ　ｃｏｍｐａｒｉｓｏｎ　ｏｆ　ｄｉｆｆｅｒｅｎｔ　ａｌｇｏｒｉｔｈｍｓ　ｆｉｔｔｉｎｇ　ｔｈｅ　ｅｘｐｅｒｉｍｅｎｔａｌ　ｄａｔａ　测试点ｉ的预测值和计算值．第二种是均方误差，　定义如下：　一　（６）　

第２期　王　红等：混合Ｋｒｉｇｉｎｇ代理模型的高维参数估计优化算法　由于本文算法具有参数维度高，参数变化范　优值的邻近区域随机取样计算近似误差均小于　围大这两个特点，在有限的计算资源条件下（固定　３　，说明此时模型是准确的．而全局取样计算误　的迭代次数），要求构建的Ｋｒｉｇｉｎｇ模型在所有参　差的最小误差也是大于４Ｏ　的，说明建立的模型　数、所有维度的整个变化范围都具有高精度是不　在全局范围内精度不高，这主要归咎于参数维度　现实的，因此本文在对模型精度进行估计时采用　过高，变化范围过大，在有限样例个数和有限的迭　两种策略：（１）在最优值的邻近区域随机取样计算　代次数下得不到全局范围内高精度的模型．这也　近似误差；（２）在所有参数的整个变化范围随机取　符合本文提出这个算法的初衷，即在有限的计算　样（全局取样）计算近似误差．两种策略下都分别　资源条件下，找到全局近似最优解．　取２Ｏ个点进行估计，比较结果如表４所示．在最　表４　Ｋｒｉｇｉｎｇ模型的近似误差　Ｔａｂ．４　Ａｐｐｒｏｘｉｍａｔｉｏｎ　ｅｒｒｏｒｓ　ｏｆ　Ｋｒｉｇｉｎｇ　ｍｏｄｅｌ　３　结　语　ｏｐｔｉｍｉｚａｔｉｏｎ［Ｊ］．Ｊｏｕｒｎａｌ　ｏｆ　Ｇｌｏｂａｌ　Ｏｐｔｉｍｉｚａｔｉｏｎ，　２００７，３７（３）：４８１－５０３．　本文针对带有昂贵计算的高维参数估计优化　［５　３　Ｐｏｎｗｅｉｓｅｒ　Ｗ，Ｗａｇｎｅｒ　Ｔ，Ｖｉｎｃｚｅ　Ｍ．Ｃｌｕｓｔｅｒｅｄ　问题，提出了一种基于Ｋｒｉｇｉｎｇ代理模型同时引　ｍｕｌｔｉｐｌｅ　ｇｅｎｅｒａｌｉｚｅｄ　ｅｘｐｅｃｔｅｄ　ｉｍｐｒｏｖｅｍｅｎｔ：Ａ　ｎｏｖｅｌ　入单参数优化、动态坐标扰动，及多ＧＥＩ加点的　ｉｎｆｉｌｌ　ｓａｍｐｌｉｎｇ　ｃｒｉｔｅｒｉｏｎ　ｆｏｒ　ｓｕｒｒｏｇａｔｅ　ｍｏｄｅｌｓ［ｃ］／／　混合优化算法．为了检测该算法的有效性，将该算　２００８　ＩＥＥＥ　Ｃｏｎｇｒｅｓｓ　ｏｎ　Ｅｖｏｌｕｔｉｏｎａｒｙ　Ｃｏｍｐｕｔａｔｉｏｎ，　法应用于一个带有４１维参数的人类白细胞代谢　ＣＥＣ　２００８．Ｐｉｓｅａｔａｗａｙ：ＩＥＥＥ　Ｃｏｍｐｕｔｅｒ　Ｓｏｃｉｅｔｙ，　网络的参数估计问题，结果表明，在有限的计算资　２００８：３５１５－３５２２．　源下该算法能在较少的时间内得到和其他算法具　［６３　Ｓｃｈｏｎｌａｕ　Ｍ，Ｗｅｌｃｈ　Ｗ　Ｊ，Ｊｏｎｅｓ　Ｄ　Ｒ．Ｇｌｏｂａｌ　ｖｅｒｓｕｓ　有可比性的优化结果，而且估计的参数和实验数　ｌｏｃａｌ　ｓｅａｒｃｈ　ｉｎ　ｃｏｎｓｔｒａｉｎｅｄ　ｏｐｔｉｍｉｚａｔｉｏｎ　ｏｆ　ｃｏｍｐｕｔｅｒ　据拟合效果较好．下一步的工作是改进加点准则，　ｍｏｄｅｌｓ口］．Ｌｅｃｔｕｒｅ　Ｎｏｔｅｓ－Ｍｏｎｏｇｒａｐｈ　Ｓｅｒｉｅｓ，１９９８，　３４：１１—２５．　使得新增加的点具有最大的信息量．　［７］　李　征．高聚物成型工艺的系统优化设计及其并行　参考文献：　计算［Ｄ］．大连：大连理工大学，２０１３．　ＬＩ　Ｚｈｅｎｇ．Ｔｈｅ　ｓｙｓｔｅｍ－ｂａｓｅｄ　ｏｐｔｉｍｉｚａｔｉｏｎ　ｏｆ　ｔｈｅ　Ｅ１］Ｃｏｎｎ　Ａ　Ｒ，　Ｓｃｈｅｉｎｂｅｒｇ　Ｋ，　Ｖｉｃｅｎｔｅ　Ｌ　Ｎ．　ｉｎｊｅｃｔｉｏｎ　ｍｏｌｄｉｎｇ　ｐｒｏｃｅｓｓ　ａｎｄ　ｉｔｓ　ｐａｒａｌｌｅｌ　ｃｏｍｐｕｔｉｎｇ　Ｉｎｔｒｏｄｕｃｔｉｏｎ　ｔｏ　Ｄｅｒｉｖａｔｉｖｅ－Ｆｒｅｅ　Ｏｐｔｉｍｉｚａｔｉｏｎ［Ｍ］．　［Ｄ］．Ｄａｌｉａｎ：Ｄａｌｉａｎ　Ｕｎｉｖｅｒｓｉｔｙ　ｏｆ　Ｔｅｃｈｎｏｌｏｇｙ，　Ｐｈｉｌａｄｅｌｐｈｉａ：Ｓｏｃｉｅｔｙ　ｆｏｒ　Ｉｎｄｕｓｔｒｉａｌ　ａｎｄ　Ａｐｐｌｉｅｄ　２０１３．（ｉｎ　Ｃｈｉｎｅｓｅ）　Ｍａｔｈｅｍａｔｉｃｓ，２００９．　［８３　ＭｅＫａｙ　Ｍ　Ｄ，Ｂｅｃｋｍａｎ　Ｒ　Ｊ，Ｃｏｎｏｖｅｒ　Ｗ　Ｊ．　［２３　ＹＡＮＧ　Ｋｕｎ，ＢＡＩ　Ｈｏｎｇ—ｊｕｎ，ＯＵＹＡＮＧ　Ｑｉ，ｅｔ　ａ１．　Ｃｏｍｐａｒｉｓｏｎ　ｏｆ　ｔｈｒｅｅ　ｍｅｔｈｏｄｓ　ｆｏｒ　ｓｅｌｅｃｔｉｎｇ　ｖａｌｕｅｓ　ｏｆ　Ｆｉｎｄｉｎｇ　ｍｕｌｔｉｐｌｅ　ｔａｒｇｅｔ　ｏｐｔｉｍａｌ　ｉｎｔｅｒｖｅｎｔｉｏｎ　ｉｎ　ｉｎｐｕｔ　ｖａｒｉａｂｌｅｓ　ｉｎ　ｔｈｅ　ａｎａｌｙｓｉｓ　ｏｆ　ｏｕｔｐｕｔ　ｆｒｏｍ　ａ　ｄｉｓｅａｓｅ－ｒｅｌａｔｅｄ　ｍｏｌｅｃｕｌａｒ　ｎｅｔｗｏｒｋ［Ｊ］．Ｍｏｌｅｃｕｌａｒ　ｃｏｍｐｕｔｅｒ　ｃｏｄｅ［Ｊ］．Ｔｅｃｈｎｏｍｅｔｒｉｅｓ，２０００，４２（１）：　Ｓｙｓｔｅｍｓ　Ｂｉｏｌｏｇｙ，２００８，４：２２８．　５５—６１．　［３］　Ａｕｌｉａｃ　Ｃ，Ｆｒｏｕｉｎ　Ｖ，Ｇｉｄｒｏｌ　Ｘ，ｅｔ　ａ１．Ｅｖｏｌｕｔｉｏｎａｒｙ　［９］Ｓｈｅｗｒｙ　Ｍ　Ｃ，Ｗｙｎｎ　Ｈ　Ｐ．Ｍａｘｉｍｕｍ　ｅｎｔｒｏｐｙ　ａｐｐｒｏａｃｈｅｓ　ｆｏｒ　ｔｈｅ　ｒｅｖｅｒｓｅ－ｅｎｇｉｎｅｅｒｉｎｇ　ｏｆ　ｇｅｎｅ　ｓａｍｐｌｉｎｇ［Ｊ］．Ｊｏｕｒｎａｌ　ｏｆ　Ａｐｐｌｉｅｄ　Ｓｔａｔｉｓｔｉｃｓ，１９８７，　ｒｅｇｕｌａｔｏｒｙ　ｎｅｔｗｏｒｋｓ：Ａ　ｓｔｕｄｙ　ｏｎ　ａ　ｂｉｏｌｏｇｉｃａｌｌｙ　１４（２）：１６５－１７０．　ｒｅａｌｉｓｔｉｃ　ｄａｔａｓｅｔ［Ｊ］．ＢＭＣ　Ｂｉｏｉｎｆｏｒｍａｔｉｃｓ，２００８，９：　［１Ｏ］ＦＡＮＧ　Ｋａｉ—ｔａｉ，Ｌｉｎ　Ｄ　Ｋ　Ｊ，Ｗｉｎｋｅｒ　Ｐ，ｅｌ　ａ１．　９１．　Ｕｎｉｆｏｒｍ　ｄｅｓｉｇｎ：Ｔｈｅｏｒｙ　ａｎｄ　ａｐｐｌｉｃａｔｉｏｎ［Ｊ］．　［４］　Ｅｇｅａ　Ｊ　Ａ，Ｒｏｄｒｉｇｕｅｚ—Ｆｅｒｎａｎｄｅｚ　Ｍ，Ｂａｎｇａ　Ｊ　Ｒ，ｅｔ　Ｔｅｅｈｎｏｍｅｔｒｉｃｓ，２０００，４２（３）：２３７－２４８．　ａ１．　Ｓｃａｔｔｅｒ　ｓｅａｒｃｈ　ｆｏｒ　ｃｈｅｍｉｃａｌ　ａｎｄ　ｂｉｏｐｒｏｃｅｓｓ　［１１］Ｓｈｉｍｏｙａｍａ　Ｋ，Ｊ　ｅｏｎｇ　Ｓ，Ｏｂａｙａｓｈｉ　Ｓ．Ｋｒｉｇｉｎｇ—　

２２２　大连理工大学学报　第５５卷　ｓｕｒｒｏｇａｔｅ—ｂａｓｅｄ　ｏｐｔｉｍｉｚａｔｉｏｎ　ｃｏｎｓｉｄｅｒｉｎｇ　ｅｘｐｅｃｔｅｄ　ｈｙｐｅｒｖｏｌｕｍｅ　ｉｍｐｒｏｖｅｍｅｎｔ　ｉｎ　ｎｏｎ—　ｃｏｎｓｔｒａｉｎｅｄ　ｍａｎｙ—ｒ　４５（５）：５２９—５５５．　［１４］Ｖｏｉｔ　Ｅ　Ｏ，Ａｌｍｅｉｄａ　ｊ．Ｄｅｃｏｕｐｌｉｎｇ　ｄｙｎａｍｉｃａｌ　ｓｙｓｔｅｍｓ　ｆｏｒ　ｐａｔｈｗａｙ　ｉｄｅｎｔｉｆｉｃａｔｉｏｎ　ｆｒｏｍ　ｍｅｔａｂｏｌｉｃ　ｏｂｊｅｃｔｉｖｅ　ｔｅｓｔ　ｐｒｏｂｌｅｍｓ［ｃ］／／２０１３　１ＥＥＥ　Ｃｏｎｇｒｅｓｓ　ｏｎ　Ｅｖｏｌｕｔｉｏｎａｒｙ　Ｃｏｍｐｕｔａｔｉｏｎ，　ＣＥＣ　２０１３．　Ｗａｓｈｉｎｇｔｏｎ　Ｄ　Ｃ：ＩＥＥＥ　Ｃｏｍｐｕｔｅｒ　Ｓｏｃｉｅｔｙ，２０１３：　６５８—６６５．　ｐｒｏｆｉｌｅｓ［Ｊ］．Ｂｉｏｉｎｆｏｒｍａｔｉｃｓ，２００４，２０（１１）：１６７０一　ｌ６８１．　［１５］ＷＡＮＧ　Ｈｏｎｇ，　ＷＡＮＧ　Ｘｉ　ｃｈｅｎｇ．Ｐａｒａｍｅｔｅｒ　ｅｓｔｉｍａｔｉｏｎ　ｆｏｒ　ｍｅｔａｂｏｌｉｃ　ｎｅｔｗｏｒｋｓ　ｗｉｔｈ　ｔｗｏ　ｓｔａｇｅ　Ｂｒｅｇｍａｎ　ｒｅｇｕｌａｒｉｚａｔｉｏｎ　ｈｏｍｏｔｏｐｙ　ｉｎｖｅｒｓｉｏｎ　［１２］Ｊｏｎｅｓ　Ｄ　Ｒ，Ｓｃｈｏｎｌａｕ　Ｍ，Ｗｅｌｃｈ　Ｗ　Ｊ．Ｅｆｆｉｃｉｅｎｔ　ｇｌｏｂａｌ　ｏｐｔｉｍｉｚａｔｉｏｎ　ｏｆ　ｅｘｐｅｎｓｉｖｅ　ｂｌａｃｋ—ｂｏｘ　ｆｕｎｃｔｉｏｎｓ　［Ｊ］．Ｊｏｕｒｎａｌ　ｏｆ　Ｇｌｏｂａｌ　Ｏｐｔｉｍｉｚａｔｉｏｎ，１９９８，１３（４）：　４５５－４９２．　ａｌｇｏｒｉｔｈｍ口］．Ｊｏｕｒｎａｌ　ｏｆ　Ｔｈｅｏｒｅｔｉｃａｌ　Ｂｉｏｌｏｇｙ，２０　１４，　３４３：１９９—２０７．　［１３］Ｒｅｇｉｓ　Ｒ　Ｇ，Ｓｈｏｅｍａｋｅｒ　Ｃ　Ａ．Ｃｏｍｂｉｎｉｎｇ　ｒａｄｉａｌ　ｂａｓｉｓ　ｆｕｎｃｔｉｏｎ　ｓｕｒｒｏｇａｔｅｓ　ａｎｄ　ｄｙｎａｍｉｃ　ｃｏｏｒｄｉｎａｔｅ　ｓｅａｒｃｈ　ｉｎ　ｈｉｇｈ—ｄｉｍｅｎｓｉｏｎａｌ　ｅｘｐｅｎｓｉｖｅ　ｂｌａｃｋ—ｂｏｘ　Ｅ１６３　ＨＡＮ　Ｚｈｏｎｇ—ｈｕａ，ＺＨＡＮＧ　Ｋｅ－ｓｈｉ．ｓｕｒｒｏｇａｔｅ＿ｂａｓｅｄ　ｏｐｔｉｍｉｚａｔｉｏｎ［Ｍ］／／Ｒｅａｌ－Ｗｏｒｌｄ　Ａｐｐｌｉｃａｔｉｏｎｓ　ｏｆ　Ｇｅｎｅｔｉｃ　Ａｌｇｏｒｉｔｈｍｓ．　Ｎｅｗ　Ｙｏｒｋ：　Ｓｐｒｉｎｇｅｒ　Ｉｎｔｅｒｎａｔｉｏｎａｌ　Ｐｕｂｌｉｓｈｉｎｇ，２０１２：３４３—３６２．　ｏｐｔｉｍｉｚａｔｉｏｎ［Ｊ］．Ｅｎｇｉｎｅｅｒｉｎｇ　Ｏｐｔｉｍｉｚａｔｉｏｎ，２０１３，　Ｈｙｂｒｉｄ　Ｋｒｉｇｉｎｇ　ｓｕｒｒｏｇａｔｅ　ｍｏｄｅｌ　ｏｐｔｉｍｉｚａｔｉｏｎ　ａｌｇｏｒｉｔｈｍ　ｆｏｒ　ｈｉｇｈ—ｄｉｍｅｎｓｉｏｎ　ｐａｒａｍｅｔｅｒ　ｅｓｔｉｍａｔｉｏｎ　ＷＡＮＧ　Ｈｏｎｇ　，匝　二鲴　。，Ｌ　Ｋｅ—ｑｉｕ　１　Ｓｃｈｏｏｌ　ｏｆ　Ｃｏｍｐｕｔｅｒ　Ｓｃｉｅｎｃｅ　ａｎｄ　Ｔｅｃｈｎｏｌｏｇｙ，Ｄａｌｉａｎ　Ｕｎｉｖｅｒｓｉｔｙ　ｏｆ　Ｔｅｃｈｎｏｌｏｇｙ，Ｄａｌｉａｎ　１１６０２４，Ｃｈｉｎａ；　２．Ｄｅｐａｒｔｍｅｎｔ　ｏｆ　Ｃｏｍｐｕｔｅｒ　Ｓｃｉｅｎｃｅ，Ｄａｌｉａｎ　Ｎｅｕｓｏｆｔ　Ｕｎｉｖｅｒｓｉｔｙ　ｏｆ　Ｉｎｆｏｒｍａｔｉｏｎ，Ｄａｌｉａｎ　１１６０２３，Ｃｈｉｎａ；　３．Ｓｔａｔｅ　Ｋｅｙ　Ｌａｂｏｒａｔｏｒｙ　ｏｆ　Ｓｔｒｕｃｔｕｒａｌ　Ａｎａｌｙｓｉｓ　ｆｏｒ　Ｉｎｄｕｓｔｒｉａｌ　Ｅｑｕｉｐｍｅｎｔ，Ｄａｌｉａｎ　Ｕｎｉｖｅｒｓｉｔｙ　ｏｆ　Ｔｅｃｈｎｏｌｏｇｙ，　ＤａＩｉａｎ　１１６０２４，Ｃｈｉｎａ）　Ａｂｓｔｒａｃｔ：Ｋｒｉｇｉｎｇ　ｓｕｒｒｏｇａｔｅ—ｂａｓｅｄ　ｍｏｄｅｌ　ｏｐｔｉｍｉｚａｔｉｏｎ　ａｌｇｏｒｉｔｈｍ　ｉｓ　ａｎ　ｅｆｆｅｃｔｉｖｅ　ａｌｇｏｒｉｔｈｍ　ｉｎ　ｓｏｌｖｉｎｇ　ｏｐｔｉｍｉｚａｔｉｏｎ　ｐｒｏｂｌｅｍｓ　ｗｉｔｈ　ｅｘｐｅｎｓｉｖｅ　ｃｏｍｐｕｔａｔｉｏｎ．Ｈｏｗｅｖｅｒ。ｉｔ　ｉｓ　ｎｏｔ　ｆｅａｓｉｂｌｅ　ｔｏ　ｄｅａｌ　ｗｉｔｈ　ｔｈｅ　ｐａｒａｍｅｔｅｒ　ｅｓｔｉｍａｔｉｏｎ　ｏｆ　ｈｉｇｈ—ｄｉｍｅｎｓｉｏｎ．Ａｉｍｉｎｇ　ａｔ　ｔｈｉｓ　ｐｒｏｂｌｅｍ，ａ　ｎｅｗ　ｏｐｔｉｍｉｚａｔｉｏｎ　ａｌｇｏｒｉｔｈｍ，ｉ．ｅ．　ｈｙｂｒｉｄ　Ｋｒｉｇｉｎｇ　ｓｕｒｒｏｇａｔｅ　ｍｏｄｅｌ　ａｎｄ　ｏｔｈｅｒ　ｏｐｔｉｍｉｚａｔｉｏｎ　ｔｅｃｈｎｏｌｏｇｉｅｓ　ｆｏｒ　ｈｉｇｈ—ｄｉｍｅｎｓｉｏｎ　ｐａｒａｍｅｔｅｒ　ｅｓｔｉｍａｔｉｏｎ　ｉｓ　ｐｒｏｐｏｓｅｄ．Ｉｎ　ｔｈｉｓ　ａｌｇｏｒｉｔｈｍ，ｓｉｎｇｌｅ　ｐａｒａｍｅｔｅｒ　ｅｓｔｉｍａｔｉｏｎ　ｉｓ　ａｄｏｐｔｅｄ　ｆｏｒ　Ｋｒｉｇｉｎｇ　ｍｏｄｅｌ　ｉｎｆｉｌｌ　ｓａｍｐｌｉｎｇ　ｔｏ　ｃｏｎｑｕｅｒ　ｔｈｅ　ｃｕｒｓｅ　ｏｆ　ｄｉｍｅｎｓｉｏｎａｌｉｔｙ　ａｎｄ　ｉｍｐｒｏｖｅ　ｔｈｅ　ｃｏｎｖｅｒｇｅｎｃｅ　ｒａｔｅ．Ｍｅａｎｗｈｉｌｅ，　ｂａｓｅｄ　ｏｎ　ｔｈｅ　ｉｎｆｏｒｍａｔｉｏｎ　ｏｆ　ｔｈｅ　ｂｕｉｌｔ　Ｋｒｉｇｉｎｇ　ｓｕｒｒｏｇａｔｅ　ｍｏｄｅｌ　ａ　ｎｅｗ　ｄｙｎａｍｉｃ　ｃｏｏｒｄｉｎａｔｅ　ｄｉｓｔｕｒｂａｎｃｅ　ｓｔｒａｔｅｇｙ　ｉｓ　ｐｒｅｓｅｎｔｅｄ　ａｎｄ　ｕｓｅｄ　ｆｏｒ　ｈｉｇｈ—ｄｉｍｅｎｓｉｏｎ　ｐａｒａｍｅｔｅｒ　ｅｓｔｉｍａｔｉｏｎ　ｔｏ　ｒｅｆｉｎｅ　ｏｂｊｅｃｔｉｖｅ　ｖａｌｕｅｓ．Ｔｏ　ａｖｏｉｄ　ｍｉｓｓｉｎｇ　ｔｈｅ　ｇｌｏｂａｌ　ｏｐｔｉｍａｌ　ｖａｌｕｅ，ｍｕｌｔｉ—ｍｏｄａｌ　ｓｅａｒｃｈｉｎｇ　ｂａｓｅｄ　ｏｎ　ｓａｍｐｌｉｎｇ　ｆｉｌｌ　ｃｒｉｔｅｒｉｏｎ．ｉ．ｅ．　ｇｅｎｅｒａｌｉｚｅｄ　ｅｘｐｅｃｔｅｄ　ｉｍｐｒｏｖｅｍｅｎｔ　ｉｓ　ｉｎｔｒｏｄｕｃｅｄ．Ｉｔｓ　ｅｆｆｅｃｔｉｖｅｎｅｓｓ　ｉｓ　ｖｅｒｉｆｉｅｄ　ｂｙ　ｅｓｔｉｍａｔｉｎｇ　ｐａｒａｍｅｔｅｒｓ　ｏｆ　ａ　ｈｕｍａｎ　ｐｏｌｙｍｏｒｐｈｏｎｕｃｌｅａｒ　ｌｅｕｋｏｃｙｔｅ　ｍｅｔａｂｏｌｉｃ　ｎｅｔｗｏｒｋ　ｗｉｔｈ　４　１　ｄｉｍｅｎｓｉｏｎ　ｐａｒａｍｅｔｅｒｓ．Ｔｈｅ　ｅｘｐｅｒｉｍｅｎｔａｌ　ｒｅｓｕｌｔｓ　ｓｈｏｗ　ｔｈａｔ　ｔｈｅ　ａｌｇｏｒｉｔｈｍ　ｃａｎ　ｐｒｏｄｕｃｅ　ｂｅｔｔｅｒ　ｐａｒａｍｅｔｅｒｓ　ｅｓｔｉｍａｔｉｏｎ　ｒｅｓｕｌｔｓ　ａｇｒｅｅｉｎｇ　ｗｉｔｈ　ｅｘｐｅｒｉｍｅｎｔａ１　ｄａｔａ　ａｎｄ　ｓｍａｌ１　ｏｂｊｅｃｔｉｖｅ　ｖａｌｕｅｓ　ｕｎｄｅｒ　ｌｉｍｉｔｅｄ　ｎｕｍｂｅｒ　ｏｆ　ｉｔｅｒａｔｉｏｎｓ．　Ｋｅｙ　ｗｏｒｄｓ：Ｋｒｉｇｉｎｇ　ｓｕｒｒｏｇａｔｅ　ｍｏｄｅｌ；ｐａｒａｍｅｔｅｒ　ｅｓｔｉｍａｔｉｏｎ　ｏｆ　ｈｉｇｈ—ｄｉｍｅｎｓｉｏｎ；ｌｉｍｉｔｅｄ　ｃｏｍｐｕｔｉｎｇ　ｒｅｓｏｕｒｃｅ；ｇｅｎｅｒａｌｉｚｅｄ　ｅｘｐｅｃｔｅｄ　ｉｍｐｒｏｖｅｍｅｎｔ