抽象性
论文展示实验性研究,旨在比较著名美术家的实际性能,解决动态系统上下文中的参数估计问题计量学产生高质量近似值全局解决有限小维非线性编程问题,从对参数估计问题应用顺序数字直接法中产生问题使用统计假设测试确定算术性能在平均目标函数值和平均CPU时间方面的显著差异此外,最优获取的解决方案通过性能剖面图相对比较数值对比文献中的其他结果显示测试美术有效实现高质量解决方案并减少计算努力
开工导 言
本文探讨在动态系统模型中查找一组参数的问题,该模型校准模型,以便它能以最优方式复制现有实验数据一号..通过最小化目标函数实现,该函数测量适配性优美性目标函数提供模型预测状态值和观察值(定时分数)平方程之和,但受普通微分方程系统约束,最小化动态模型定义ODE系统模拟时差过程文献中将此问题称为动态模型参数估计过程解决该问题对系统生物医学至关重要,对制药和生物技术产业都产生巨大影响2..问题在化学工程领域也很常见3并广泛用于描述物理现象4..DMBPE问题可能涉及非线性差值方程,并可能存在多重局部解决办法可使用高效全局优化法和适当规范技术解决不精密问题[5..问题比代数模型更难解决非线性动态行为使得分析方法相当复杂,即使不是不可能,对大多数实生现象来说也是如此。数值直接方法因此是解决DMBPE问题的良好替代方法象任何参数估计问题一样,主要优势是预知全局最小值最知名方法,如Levenberg-Marquart梯度下降法和Nelder-Mead法,这些方法广泛用于参数估计问题,它们是局部优化方法,无法保证与全局解决方案接轨光靠初始值可以开发指定搜索区,但当初始值远非所需求解时,全局求解难解GO算法大致可划分为两类:精确算法和推理法6..
sörensen和Glover7metaheuristic定义如下:框架提供一套指南或策略开发启发式优化算法本词首次出现在Glover出版物中8..methuristics近似方法或huristics设计,用比经典算法少计算力和时间寻找好解决办法启发论设计解决特定问题,metheuristics即通用算法,可用于解决几乎任何优化问题Metheuristics评价一套优化问题潜在解决方案并进行一系列操作以寻找不同并有希望更好的解决方案视操作方式而定,metheurist可归为局部搜索、建设性或基于人口的metheurist细节参考阅读器7..
多数美术家使用随机程序使用人工智能工具模拟自然行为,它们的性能不取决于问题需要解决的属性。它们是替代方法 寻找优近似最优解决GO问题此外,它们无衍生物易实现九九..元论可以相对高效地定位全球解决方案的近邻,尽管有限迭代无法保证全球最优性精确GO方法可保证某些问题全局最优性,但所需计算努力往往随问题大小而成倍增加10,11..
前meaheuristics使用,主要是那些使用基于自然进化和动物群行为隐喻解决DMBPE某些问题者显示,当考虑实战实验数据和噪声人工数据时,他们能够提供高质量解决方案。中15混合美术算法介绍进化运算法,即变换和交叉转入飞算法差分演化方法的两个变式-三角式和修改版-已在[16,17..作者 in2开发基于散射搜索方法的新程序略微不同的 ss版本使用FminconMatlab求解器(Matlab注册 MathWorks公司)12解决三大已知DMBPE问题,包括化学分解 宾宁市后一问题由FA解析解决13..GO精确方法也用于解决DMBPE问题其中包括空间分支和绑定算法计算局部离散DMBPE问题全局解法18号中位数 BB方法获取全局解决方案 完全离散DMBPE问题精度10并基于区间分析法和局部离散DMBPE19号..中14确定式外部近似法用于重拟DMBPE问题为有限NLP
估计动态模型参数问题很重要,本项研究的贡献是实施并实际比较五大简单易行集成集成阶段解决有限非线性编程问题时产生的非线性编程问题未知参数是NLP问题决策变量
所选美术极受欢迎并用于解决各种现实应用选择中包括FA20码和谐搜索算法21号DE算法22号人工养蜂算法23号和指令搜索算法24码..本地强化阶段,Hooke-Jeves本地搜索25码与所有metheuristics实现本地搜索增强可更快聚合并提供高质量解决方案本研究进行实用比较的目的是分析每一名算术师在所获取解决方案质量方面的性能测试5位metheuristics,从文献中选择9位DMBPE问题4,10,13,19号,26产生12例 因不同的实验数据问题在附录中描述
剩余纸张展开如下段内2解决DMBPE问题和顺序数字直接法3介绍所选metheuristics段内4内含所有数值实验结果,结论摘要解析解析5.
二叉顺序直接方法解决DMBPE问题
解决DMBPE问题时使用顺序数字直接法关于完整性问题DMBPE读作如下查找 中位数 去哪儿 表示目标函数依赖 矢量 决策变量(需要估计的参数); 向量(长度) 状态变量依赖 (独立变量)并 表示矢量衍生 与 . 表示可用实验数据数 ; , , 表示实验观察值; 系统一阶ODE 向量初始值向量变量 , 脱机并 并 表示矢量上下界参数 并 分别为独立变量初始值和终值 .
解决问题一号间接法和直接法27号..间接方法使用Pontryagin最小原理的一阶必备条件重拟问题为二点边界值问题后一问题难解决,特别是问题包含状态变量约束时难解决
直接方法优化一号)直接执行类型方法分解问题并应用NLP技术处理由此产生的有限维优化问题有两种直接方法内顺序直接法DMBPE问题通过决策变量离散归纳成小维优化问题优化仅以决策变量空间执行假设一组决策变量值,ODE系统精确集成(全时段)使用特定数值集成公式(带差错控制机制强制实现状态变量精度),以便目标函数值可评价3..ode对NLP求解器的每一次迭代都满意方法称相继性,因为最小化方差和解决ODE过程以顺序方式完成这种方法可能导致慢归并过程,因为ODE系统每次需要客观函数值时会一次又一次解决内并发直接法近似ODE系统代之以计算优化全空间分解决定和状态变量实现,这可能导致超维有限NLP问题与平等约束(从ODE系统离散产生),特别是如果需要微分网格获取高集成精度因此,解决有限问题需要高效NLP求解
我们使用顺序直接法,ODE系统由Matlab函数数值集成ode15s.默认标量相对容错设置 并所有向量绝对差错容 .顺序分解NLP问题再用随机测代法解决下一节将进一步阐述这一点。
3级随机元学
计算全局最优解决NLP问题的方法可用随机或确定性方法随机GO方法能够在短时CPU提供近最优解法,尽管它可能不是全局最优解法对比之下,确定式GO方法为全局最优解法下降提供区间,尽管需要大量计算法14..stortatimeathistics学,如FA、HS、DE、ABC和DTS等随机生成数,包括概率分布生成数,以定义一套搜索区解决方案,并移动这些解决方案到希望更好的位置它们确保概率接近全局解决办法,而确定性方法则往往保证无药求同全球搜索技术使用探索开发程序,旨在使搜索多样化,以便找到全球最优解决办法并强化搜索,从而在有希望的搜索空间区域计算出优近似值
多数随机计量算法按启发源分类为自然启发算法已知群情算法属于范围更广的算法,称为生物启发算法,这些算法是自然启发算法子类28码..最受欢迎的是基于群情算法,FA和ABC算法是两个例子另一方面,HS不是生物启发算法,它有音乐启发DE算法虽然不基于生物行为,但由于关键字“演化”可归为生物启发算法,但非群情智能基础28码..归根结底,DTS算法不是自然启发算法,但它有使用过去信息记录内存的特殊性多数meaheuristics定义一套近似解决办法,即每次迭代,并生成新试用解决办法,这些解决办法可被接受为下一迭代的解决方法,如果检测到比当前套解决办法有某些改进的话。
我们使用符号 表示 点数组 点数或问题解法一号)集 定义问题约束
3.1.FA
FA是一种生物启发性美术算法,它能与优化问题全局解决方案相融合启发它的是夜间飞虫闪动行为20码,29..构建FA的主要规则如下:(i) 所有消防虫都单性化, 意指任何飞虫都可吸引到任何其他更亮者fily亮度取自编码目标函数吸引力直接与亮度成比例,但随距离下降
表2一号列表中最相关术语使用基础FA起始点,搜索空间的飞虫位置随机生成并用计算相应的客观函数值来评价分数 并按上移顺序排列分数也就是说 是最明亮的萤火虫 二流最明亮之类经典FA 高山市 向更亮的火虫移动 详解如下: 第二学期右侧2归因吸引,而第三学期归随机化 , 指距离为零时的相容参数 数均匀分布 ,并 向量目标缩放集 .参数显示 关键值加速算法并发 并可以取集中的任何值 .何时 ,吸引力趋向最小常量值 .加速并发并同时防止过早并发 值沿迭代进程缓慢下降if组件 fily最后位置落到集外 中转边界
3.2HS算法
HS算法开发解决GO问题,类比音乐即兴进程,音乐播放者即兴播送乐器投投投法以求更好的和谐21号,30码..每一次迭代 ,HS基本算法提供一套求解向量,并存式协调内存中提供,从中辨识出最佳和最坏求解方法,即客观函数值表22HS算法中最相关术语列表
HM内含 求解向量在整个迭代过程内保留第一,HM解决方案随机生成 , , .并评价最优协和 ,和最劣等的 ,目标函数值识别后世每次迭代新和谐即兴即新矢量 生成时使用三位即兴运算符何时HM运算符使用中分量 联想 从概率高的HM中选择 ;换句话说随机选择运算符使用时组件随机生成 : For 中位 随机数统一分布 .终于槽调整运算符后加概率应用 变化式迭代计数器 ,只精细组件 制作者HM运算符,详解如下: 去哪儿 距离带宽也依赖 [31号..归根结底 受边框检查并投向边界最后阶段,if HM更新,因为新协和包含在HM中,替代最差协和
3cm3DE算法
DE基于生物的算法 依赖三大策略变异,交叉交叉并选择区定义 下次迭代求解/点22号..最重要的术语和参数显示于表3.
初始点群 , 随机生成 .最常用变异策略定义变异点 , ,详解如下: 均选随机索引 , ,并 从集 互异 是一个实参数 控制差分变异放大 .索引类 , ,并 并选择与索引不同 . 称基点
变异向量组件与构件混合 向量生成试点 .战略指为交叉交叉可描述如下: For 中位 表示随机数统一生成 并目标执行组件混合 点数计算 并 ,随机选择索引 目标确保 获取至少一个组件 .归根结底 投向边界 if they fell out接二连三选择区战略比较每个试点 带 目标函数值和最佳函数为下一迭代群选上文描述的变量称为DE/Rand/1/bin,其中“Rand”指向量变异,“1”指差向量数,而“bin”指交叉系基于独立的二元实验22号..DE/Best/1/bin使用最优点基点定义变异点和DE/Rand-Best/1/bin使用两种差分 去哪儿 当前群中最优点32码..
3.4.ABC算法
ABC算法是一种优化算法 基于蜂群智能行为23号..人工蜜蜂群 包括受雇蜜蜂、旁观者蜜蜂和童子军蜜蜂上半群由雇用蜜蜂组成 下半群组成旁观者食物源位置表示优化问题可能的解决方案,食物源中花蜜量提供解决方案质量食物源数 ,算作等于受雇蜜蜂数表格显示ABC算法中最重要的术语和参数4.
初始阶段一组食物源位置由蜜蜂随机选择即位置随机生成搜索空间 ,花蜜量按适配值确定使用蜜蜂阶段新候选食物位置,即变异解决方案产生如下: For 中位 校对:Portnoy 和) 从集随机选择索引 并 和 随机数统一生成 .if变异构件 外侧 转边界后变种解法 比较对象 贪心选择法选择优美花蜜,即如前文描述的更适配法九九)if当前解决方案 保留(表示没有改进)测试台增加
而在旁观蜜蜂阶段 食物源按概率值随机选择 取决于其适配性 由评价 变异解析法由前文显示的所选老解析法产生8贪心选择在当前时间中间应用 和变异最后,在Scout蜜蜂阶段,如果未改进解决办法试算法大都超过预设值,即称限值,即该解决办法被放弃代之以随机生成搜索空间位置 [三十三..
3.5DTS算法
标签搜索算法介绍持续优化34号能够引导本地opima搜索并探索新区域实现全球最优逐点迭代程序维护最近运动列表,用Tabu链表表示,以避免前所访问过解决过程
DTS方法开发24码混合TS直接搜索法方法由三大搜索程序组成:探索、多样化和强化主循环由探索和多样化搜索程序组成探索搜索目标探索搜索空间 并使用直接搜索方法稳定搜索, 特别是在局部最小值附近循环受TL和另外四种TS内存元素阻塞:多级标签链表、balbu区域、半tabu区域以及访问区域链表VRL工作多样化工具并用于引导搜索面向搜索空间中未访问区域DTS算法中最重要的术语和参数列在表5.
探索过程期间,DTS使用自适应模式搜索策略生成目标函数近似下降方向 当前近似值第一 基于近似 , 并行坐标轴模式方向构建 试点 , 生成,沿此方向并带给定步长正因如此,ADD 获取方式 二二局部试点 并 后生成 双步长度以探索区域 [24码..多样化程序旨在随机生成新试点 前所访问区域外VRL包含访问区域中心以及访问频率if最短距离 区域中心按频率加权超出预定义区域半径 ,点被接受换句话说,产生一个新的试点最佳实验求解方法之一离全球最小值足够近,或其值没有因特定数迭代而改变时,DTS算法留下探索和多样化搜索程序并引用强化程序HJ局部搜索用于计算仍然接近全球最小值的解决方案(见下一节)。
3.6.Hooke-Jeves局部搜索
模式搜索法使用特定数点模式引导最小化器至少 点必须由模式提供 数变量基于当前近似值,HJ方法使用模式搜索策略定义实验求解法,与当前点相比提高目标函数值25码..取当前近似表示 ,去哪儿 表示迭代进程迭代计数器取试点 ,沿搜索方向生成(从当前点启动)并有一定步数 详解如下: 去哪儿 从有限集选择搜索方向 正遍历方向 .最常用集包含 坐标方向定义为正负单元坐标向量 .本集最重要的属性是,至少坐标方向之一是向下向目标 ,时间 非静止点 .搜索失败生成优于试点 ,迭代调用失败步数大小 半曲化,以进行精密搜索 .if 下降到给定停止容度 算法终止和流 被视为近似最小化 .然而,当每次迭代结束时目标函数值下降后,迭代调用成功率, 未变换 .
公平比较和提高所产生解决方案的质量,我们建议实施HJ强化阶段并使用所有上述美术基于metheurist提供的最后解决方案,HJ局部搜索算法被引用并允许运行 迭代HJ局部搜索函数评价数加进metheuristic函数评价 ,生成总评价数运行
4级数值实验
本节旨在展示并分析数字结果的统计意义,当metheuristics用于解决DMBPE问题时,顺序直接方法上下文动态系统模型编译Matlab编程语言并计算直接法与FA、HS、DE、ABC和DTS代码相继应用计算测试用计算机进行,内存2.2GHz核心i7-2670QM和8GB参数值测试算法设置6.其它值已经测试,特别是参数 FA、DE和ABC中和参数 HS中使用,但计算努力减慢后使用似乎足够
九大案例研究问题选择分析描述的随机算法性能比较时会考虑解决方案质量和在临界数函数评价后实现解决方案所花时间问题和实验数据可见附录
表27显示显示 公元前St.D.标准偏差解析 平均时间秒数对这些实验而言,每种算法完全随条件终止 中测试三大值 : , ,并 .目标在于分析获取解决方案的质量目标值0值越低 越好
分析结果统计意义时使用Matlab函数油炸人执行非参数统计测试多比Friedman测试旨在判定单变量平均值的重大差异,例如 或 ,不同层次对应五大计量学并依存变量(对应匹配组,此处取12例)35码..无效假设测试结果平均排名没有统计上的差异等一等 位数计算 数组在此我们注意到Friedman分布统计学中表示 ,接近普通 分布式 增量精确分布 特殊案例获取 并 读者引用35码并引用36号))结于[35码数组中大时(四级或四级以上大于5级)Friedman意义统计学可参照可用文件测试 表...36号,它争论说,"平时 近似对常用组合极不准确 并 .........统计学中推荐36号,37号并依赖 ,并同时 并 : 依次分布 分布式 并 自由度
应用时 For , 和值 12.229带 并 , 分布按 四十四度自由分配值5% 关键值 a 2.59(用线性插值计算 并 )自 足够证据拒绝无效假设 中值无重大差分即观察五大分布 值具有统计意义可进行对称比较以确定中值排名大相径庭matlab函数mltcoma应用中 。95%置信区间估计显示图1(a)测试中每个案例分布式 区间脱节则大相径庭,区间重叠则大相径庭因此,我们的结论是DE生成的平均级与ABC大相径庭对其他对比较,均值排名没有显著差异
(a) 公尺
(b) 公尺
测试应用到 For , 并 超出值 ,表示无效假设拒绝值为5%,我们的结论是分布式 值有统计上的重大差分图1(b)显示95%置信区间估计值中值ABC与DE和DTS大相径庭
类似分析 并 ,时间 .获取统计 带 并 带 ..因此,我们可以得出结论,有足够的证据拒绝无效假设,即平均级无重大差分分配 ,临界值5%从图2(a)中值排名 ABC和DTS与DE平均级大相径庭面向 分布式分析,我们得出结论 没有足够的证据拒绝假设 平均级无重大差图2(b)显示95%置信区间的相应估计值,并注意所有配对都有间隔重叠
(a) 公尺
(b) 公尺
时统计分析扩展至分布 并 值为 统计 16.34 和10.64 ),并二选一因此,我们有证据拒绝无效假设 值比值5%图3(a)显示95%置信区间的相应估计值(ABC和DTS平均级数与DE大不相同)。最远分布 值无关,我们得出结论 有足够的证据拒绝假设 中值无重大差分从图3(b)中值DE和DTS值为1% 判断错误概率较小 关键值 is3.79(用线性插值计算 并 )没有证据拒绝无效假设
(a) 公尺
(b) 公尺
现表显示8最优解法 由每个metheuristic获取 并需要时间实现此值 ,三维值 .基于度量 并 ,图形化程序可视化5位计量师产生结果间性能差异,相对称12例,即性能剖面38号..每一块报告(垂直轴上) 问题百分数解决 水平轴上最优结果性能简介五大分布 传值 图中显示4(a).图4(b)匹配度 .
(a) 公尺
(b) 公尺
百分比越高越好更高值 表示metheuristic实现最小 值(或最小值) )大都
算术DE最成功 因为它最有可能实现最小 值时 .从绘图中,DE胜出概率为0.5,因为它产生最小 12例中的6例紧随其后的是概率为0.25(prob_w)的HS,prob_w=0.17的DTS和prob_w=0.08的FA微信上的差异 小到累积分布图打包 .从图4(b),有可能得出最快速计量学为ABC,因为最小值概率 时间秒数为0.58
类似数字5(a)并5(b)内含性能剖面图五分布 并 ,相邻时间 .从左侧图中,我们可以推断DE最成功,因为它prob_w=0.58,FAprob_w=0.25(12例中3例实现最佳结果),HSprob_w=0.17,ABC和DTSrob_w=0.08远至 可得出结论说,最有可能要求最小时间的算术为ABC后排DE
(a) 公尺
(b) 公尺
最后图解6(a)并6(b)显示性能剖析度 并 ,相邻时间 .从这些比较中,我们可以得出结论DE最成功达到最小 ,rob_w=0.5, 后为HS和ABCprob_w=0.25, 后为metheuristics FA和DTSprob_w=0.08时剖面 分析后可以推断美术DE比其他快,但有些问题比FAHS快
(a) 公尺
(b) 公尺
表单九九-19号内含对比结果11例所得结果例如VOL_A不用于比较,因为实验数据为本研究生成九九-19号显示最优和平均 值(从10次运行计算)以及平均CPU时间函数评价 并 ,互斥一排表总显示结果取自产生最低值的算术 最小函数评价表格标题中识别出此值 。高超局部搜索增强metheuristics 考量和 函数评价为HJ搜索所要求 。表中,“-”表示信息不见引用论文和“n.a.”表示“不适用”。比较使用论文上报结果2,4,10,12-14,16-19号,26..结果进16基础三角版DE17修改版DE实现作者 in12使用修改版metheurist散射搜索sm表显示结果使用函数Fmincon从MatlabSSM使用百分百法和千分法来惩罚不可行解决办法中19号顺序方法以区间法实现NLP优化中所得之解法 全局解决方案全局解决方案通过正交同位法生成26..本策略在多启动方法100次运行后在Matlab代码Dynopt内实施无法直接比较CPU时间, 因为计算平台不同 。
总的来说,经过所有数值比较后,可以得出结论,所选美术加固本地强化阶段能有效实现高质量解决方案并减少计算努力并发显示相接直接法加选美术极优选方法与精度法和文献中提供的其他美术相竞争
5级结论
本文分析五大美术家解决动态系统模型参数估计问题时的性能顺序数字直接法应用到DMBPE问题并直接优化使用数值集成公式解决ODE系统使用九大DMBPE问题和各种实验数据无差错随机加差数据,在比较实验中共使用12例计量经济学生成的解决方案从质量角度分析,在数函数评价后停止算法并使用统计假设测试比较统计测试显示平均获取求解法和平均CPU时间被认为大相径庭,临界值5%以性能剖析分析美术最优解题图形比较允许函数评价的不同数后,我们可以得出结论DE最有可能提供最小值目标函数 多半紧随其后的是HSFA、ABC和DTS计量学在此序列中最无效因此,我们推荐阅读者支持高质量解决方案归DE和HSmetheuristicsABC和DE泛称算法最少, 意指,对于有限计算预算, 我们推荐选择其中之一最后,从与其他文献结果的比较看,包括相继并发直接法和随机并发全局优化法,我们表示相继直接法与上述推荐美术之一相加是解决DMBPE问题的良好替代方法。提供高质量解决方案并减少计算努力
附录
DMBPE问题
Pinene优先级动画αPin网路).系统五维参数13万事通 For ,并有初始条件 , , , 并 .上下界参数 , .表中提供实验数据20码.
Bellman问题贝勒).ode有一个依存变量和两个参数(见7.4节[10))测试版使用指数变换 For 中,初始条件 .下下上下界参数松散 , 可考虑定义实例BEL_A.第二次实验使用紧下上界 并 提供实例BEL_B.实验数据使用生成 并 并 微量随机误差加法10中文本不变21号)
催化油破解CAT系统).ODE有两个依存变量和三大参数(见6.3节[19号中文本第7.310: For ,并有初始条件 并 .上下界参数 , 和表内实验数据22号20分数生成 : 0.025, 0.05, 0.075, 0.1, 0.125, 0.10, 0.175, 0.20, 0.225, 0.250, 0.300, 0.350, 0.400, 0.450, 0.550, 0.550, 0.550, 0.850, 0.950 , 并 微量随机误差加法10..
一阶不可逆数列响应IRR1).系统ODE有两个依存变量和两个参数19号和7.1节中10)给 : For ,并有初始条件 .上下界参数 , 和表内实验数据23号生成使用 并 , 无添加错误10..
一阶不可逆数列响应IRR2).前例ODE系统有不同的初始条件、不同的上界和不同的时段26: For ,并有初始条件 .上下界参数 , .实验数据使用时分生成 并 并 无添加错误26中文本不变24码)
一阶反序数列响应REV).系统三ODE四大参数10: For ,并有初始条件 , 并 .上下界参数 , 并 , .两组数据使用生成 并 , , 并 [10..第一组无附加错误(见表)。25码并产生实例表示REV_A.第二组表显示26通过添加少量随机差错获取10并产生表示实例REV_B.
理论动因模型由三反应描述并基于三参数Tero1).系统五ODE依赖三大参数26: For ,并有初始条件 , , , 并 .上下界参数 , .只集中组件 == )测量数据组件 单次22倍分数显示于表27号中提供26..
理论动因模型基于二参数TheeO2).系统有5个依存变量和2个参数(见例3中[26: For ,并有初始条件 , , , 并 .上下界参数 , .表显示实验数据28码中生成 并 并 带小差错并可用26..唯一集中组件 == 和) == )测量
Lotka-Volterra选手-Prey模型VOL系统).由ODE系统组成,有两个依存变量和两个参数(见6.4节[19号和7.6节中10: For ,并有初始条件 并 上下界参数 , .表内实验数据29生成使用 并 并 微量随机误差按正则分布 ,产生实例VOL_A.第二组实验数据显示于表30码中提供10并经过测试,与下文表示实例相对应VOL_B.
利益冲突
撰文者声明,本论文的发布不存在利益冲突问题。
感知感知
作者感谢CIDEM/EMS/0615/2016项目下葡萄牙科技开发基金会资助研发单元和ECPETE项目UID/CEC/00319/2013和UID/MAT/00013/2013