CN100454314C - 多目的最优化装置、多目的最优化方法及多目的最优化程序 - Google Patents

Abstract

多目的进化型算法部，在将个体参数的组赋予给适应度推定部的搜索履历存贮装置的同时，也赋予给最优化对象。最优化对象根据个体参数的组，输出适应度的采样值的组。搜索履历存贮装置，将个体参数的组和采样值的组作为搜索履历来存贮。适应度推定模块，根据搜索履历存贮装置中存贮的搜索履历，算出真的适应度的推定值的组，将推定值的组赋予给多目的进化型算法部。多目的进化型算法部，根据多个组的推定值，按照遗传性算法，求出佩瑞多最优个体集合。

Description

多目的最优化装置、多目的最优化方法及多目的最优化程序

技术领域

本发明涉及对最优化对象的参数进行最优化的多目的最优化装置、多目的最优化方法及多目的最优化程序。

背景技术

一直以来，存在称为多目的最优化问题的问题类。例如考虑最小化一种产品的成本、最大化性能这样的问题时，这就成了2个目的函数的多目的最优化的问题。该情况下，成本及性能就成了2个目的函数。一般地，因为产生降低成本时性能就变差，提高性能时成本就变高这样的平衡(trade-off)关系，所以多目的最优化的解不只一个。

图36表示发动机的最优化中适用多目的最优化问题的例子的图。在发动机的燃料费用以及扭矩的最优化中适用多目的最优化问题的情况下，燃料费和扭矩是2个目的函数f₁、f₂。此时，通过调整燃料喷射量、点火时间等的参数，最优化目的函数f₁、f₂的值。

解A中，燃料费与解B相比要好，而扭矩与解B相比要差。这样，因为发动机的燃料费和发动机的扭矩具有平衡的关系，存在多个最优解。使用者可以从多个最优解中选择与目的相适合的解。例如，适用于运动跑车的摩托车中使用的发动机选择解A，适用于长途旅行的摩托车中使用的发动机选择解B。

一般地，多目的最优化问题是这样定义的，对于N个参数，将M个目的函数的值在各参数的限制条件的范围内最小化的问题。最大化目的函数值的情况下为，在目的函数添加负号变换成为最小化目的函数值的问题。

这样的多目的最优化问题，一般的不是只有单一的最优解，具有被称为佩瑞多(pareto)最优解的概念所定义的最优解集合。在此，佩瑞多最优解是指明，为改善一个目的函数的值，不得不使至少1个其它的目的函数的值变差的解，按照下面来定义(例如参照文献1)。

[定义1]关于p个的目的函数f_k(k＝1，…，p)的2个解x1，x2∈F，当f_k(x1)≤f_k(x2) $(\∀k=1,\·\·\·,p)$ ∧f_k(x1)＜f_k(x2) $(\∃k=1,\·\·\·,p)$ 的时候，称为x1优于x2。这里，F是解的集合。

[定义2]当一个解x0比其它所有的解x∈F都优越的时候，x0是最优解。

[定义3]当比解x0优越的解x∈F不存在的时候，x0是佩瑞多最优解(或非劣解)。

求出佩瑞多最优解，就是求出有关目的函数的平衡的最优解的集合。

图37是为用于说明佩瑞多最优解的图。图37示出了2个目的函数f1、f2的例子。对解a的目的函数f₁的值f₁(a)比对解b的目的函数f₁的值f₁(b)小，对解a的目的函数f₂的值f₂(a)比对解b的目的函数f₂的值f₂(b)也小，因此，解a比解b优越。

同样，解a比解c、d优越。比解a优越的解不存在。同样，比解e、f优越的解也不存在。所以，解a、e、f是佩瑞多最优解。

而解g是弱佩瑞多最优解。弱佩瑞多最优解是指，只比一个目的函数的佩瑞多最优解不优越的佩瑞多最优解。弱佩瑞多最优解不是合理的解，是本来不必要求出的解。

多目的最优化问题的解法有多个提案。最近受注目的方法是多目的进化型算法(MOEAs：Multiple Objective Evolutionary Algorithm)。该方法的最大特征是利用进化型算法的多点搜索一次求出佩瑞多最优解集合。得到的佩瑞多最优解集合，利用于有意决定从其中搜索与目的相符合的解，或者从佩瑞多最优解集合(佩瑞多边界)的形状获得信息等。

适用于多目的最优化问题中的作为进化型算法的遗传性算法(GA：Genetic Algorithm)的研究正广泛地进行。遗传性算法是模仿生物的适应进化的计算手法。遗传性算法中，候补的解称作个体。另外，目的函数称为适应函数，适应度函数的值称为适应度。

该遗传性算法，以自然进化中所见的过程(染色体的选择、交叉以及突然变异)作为线索，是由J.Holland提出的算法。设计变量被认为是遗传基因，随机地产生初期设计的个体集合，评价各个体的适应度。适应度好的个体作为亲本被选择的可能性越高地选择亲本。然后，根据交叉(遗传基因的交换)以及突然变异(遗传基因的随机变化)生成子孙。进而，根据评价、选择、交叉以及突然变异来反复世代交替，搜索最优解。

具体地，有下面的提案，Fonseca等的MOGA(Multiple Objective GeneticAlgorithm：例如参照文献1)、Deb等的NSGA-II(Non-Dominated SortingGenetic Algorithm-II：例如参照文献2)、Zitzler等的SPEA2(Strength ParetoEvolutionary Algorithm 2：例如参照文献3)等。特别地，NSGA-II和SPEA2众所周知为优秀的多目的进化型算法。

多目的进化型算法，作为实际的应用，用于超音速客机的机翼形状的求解问题、车体或发动机等的参数最优化等。

另外，为了伴有不确定性的适应度函数的最优化，佐野、喜多等提出了(例如参照文献4)利用搜索履历推定真的适应度的MFEGA(Memory-based FitnessEstimation Genetic Algorithm)。这里MFEGA，将过去得到的个体的适应度的采样值作为搜索履历而保存，参照搜索履历来推定真的适应度。MFEGA被告知为，对于具有不确定性的问题，与多次采样同一个体的适应度的方法以及通常的遗传性算法相比，具有优秀的搜索性能。

然而，文献1～文献3中提案的遗传性算法，任意一个都是如不包含基准点问题或者概率要素的理想模型那样的，适用于执行多次都可以得到同样的解的模拟中。如实际的系统或者包含概率要素的模拟那样，个体的适应度伴有噪音的问题、所谓的具有不确定性的问题中，还没有适用上述的遗传性算法的例子的报告。作为其理由举出下面的两点。

第1，可以举出由于最优化对象伴有噪音，每一个体的评价中从最优化对象得到的个体的适应度变化，进化不能良好地进行的情况。亦即，由于噪音造成的适应度恶化，本来应该可以得到好的适应度的个体被淘汰。或者，由于噪音使适应度提高，本来应该得到差的适应度的个体却存留下来。由于发生这样的现象，不能进行个体正常的进化。

第2，可以举出得到的佩瑞多最优解集合的形状是不明了的情况。亦即，因为得到的适应度伴有噪音，例如2个目的最优化问题中将适应度在适应度空间的平面上测绘的时候，佩瑞多边界就不会形成。因此，难于利用于有意决定现有的遗传性算法或者信息的获得中。

作为多目的最优化所必要的实际系统以及包含概率要素的模拟，可以举出例如利用交通流模拟的信号切换规则的最优化，以及电动机的控制参数的最优化。信号切换规则的最优化，目的是很好地切换两条干线道路的交叉点及其附近的信号，哪一条道路也不会出现堵塞。电动机的控制参数的最优化，目的是使电动机的立即响应性的提高以及过冲量的减少兼顾。

但是，因为交通流模拟的情况下，通行车辆的速度以及台数随机导入，电动机的情况下，传感器的测定误差等，所以即使利用同一个体(亦即规则和控制参数)算出适应度，也变成得到其每次不同的适应度。因此，就产生上述的两个问题。

这样的伴有不确定性的问题，不只对于多目的最优化，也对于单目的最优化，都是非常困难的问题。进化型计算方法中，提出了统计地处理噪音的几个方法的方案。最一般的方法是对个体进行多次采样的方法。这个方法中，如果采用次数为n，则噪音的分散就能够降低到n^-0.5。然而，该方法对于花费时间的实际系统或者大规模模拟的最优化，由于评价时间变成n倍，所以不是优选的。

另外，文献4中所提出的MFEGA，虽然对于单目的最优化问题发挥优秀的搜索性能，但对多目的最优化的问题的应用还没有充分地研究。

(文献1)C.M.fonseca，p.J.Fleming：genetic algorithms for multiobjectiveoptimization：formulation，discussion and generalization，of the 5th internationalconference on genetic algorithms，pp.416-423(1993)

(文献2)K.Deb，S.Agrawal，A.Pratab，and T.Meyarivan：A Fast ElitistNon-Dominated Sorting Genetic Algorithm for Multi-objective Optimization：NSGA-II，KanGAL report 20001，Indian Institute of Technology，Kanpur，India(2000)

(文献3)E.Zitzler，M.Laumanns，L.Thiele：SPEA2：Improving thePerformance of the Strength Pareto Evolutionary Algorithm，Technical Report 103，Computer Engineering and Communication Networks Lab(TIK)，Swiss FederalInstitute of Technology(ETH)Zurich(2001)

(文献4)佐野，喜多：探索履歴を利用した遺伝的アルゴリズムによる不確実関数の最適化，電学論C 122卷6号，PP-1001-1008(2002)

(文献5)K.Ikeda，H.Kita，and S.Kobayashi：Failuer of Pareto-Based MOEAs，Does Non-Dominated Really Mean Near to Optimal？Congress on EvolutionaryComputation，pp.957-962(2001).

(文献6)M.D.Berg，et.al.：Computational Geometry：Algorithms andApplications，Springer-Verlag(1997)

(文献7)今井浩、今井桂子，計算幾何学，情報数学講座12，共立出版(1994)

(文献8)E.Zitzler，K.Deb，L，Thiele：Comparison of MultiobjectiveEvolutionary Algorithms：Empirical Results，Evolutionary Computation 8(2)，pp.173-195(2000)

发明内容

本发明的目的是，提供即使在最优化对象伴有不确定性的情况下，能够在短时间得到具有多样性的合适的佩瑞多最优个体的多目的最优化装置、多目的最优化方法以及多目的最优化程序。

(1)

根据本发明一种情况的多目的最优化装置，其向最优化对象赋予个体参数的组，从前述最优化对象接受与对应多个目的的多个适应度函数有关的适应度的采样值的组，该多目的最优化装置包括：

存贮部，其存贮个体的参数的组以及从前述最优化对象输出的适应度的采样值的组；

推定部；和

演算部；

前述推定部，对与前述存贮部中存贮的各个体对应的采样值的组进行加权，求出加权的多个组的采样值的线性和，由此求出与作为处理对象所要关注的关注个体对应的“真”适应值的推定值的组，各个体的权重是包含参数空间上的关注个体与所述各个体之间的距离的函数，

前述演算部，对于前述多个适应度函数的每一个，比较与评价用个体集合的多个个体对应的推定值的优劣，进行对于前述多个适应度函数的每一个的比较结果加权，根据对于前述多个适应度函数加权的多个比较结果的线性和，进行前述评价用个体集合的多个个体的级别赋予，

根据表示在适应度函数空间上前述评价用个体集合的最上位级别的个体的分布的稀疏程度的分布指标，生成新个体；

将生成的新个体的参数的组赋予给前述最优化对象和前述存贮部，同时根据由前述推定部求出的多个组的推定值，按照多目的进化型算法，对所述评价用个体集合进行评价，由此求出佩瑞多最优个体集合。

该多目的最优化装置中，个体的参数的组和从最优化对象输出的适应度的采样值的组保存在存贮部。根据与存贮部中存贮的多个个体对应的多个组的采样值，通过推定部，求出与关注个体对应的“真”适应值的推定值的组。根据推定值，通过演算部生成新个体，生成的个体的参数的组供给到最优化对象和存贮部。另外，根据求出的多个组的推定值，按照多目的进化型算法，通过演算部进行评价用个体集合的评价。由此，求出佩瑞多最优个体集合。

该情况下，对与存贮部中保存的各个个体对应的采样值的组进行加权，通过求出加权的多个组的采样值的线性和，求出与关注个体对应的适应度的推定值的组。

各个体的权重因为是包含参数空间上的关注个体与该个体的距离的函数，所以可得到与“真”适应值之间的误差十分小的推定值。因此，即使在从最优化对象输出的采样值具有不确定性的情况下，也可以得到合适的佩瑞多最优个体集合。

此外，对于多个适应度函数的每一个进行与评价用个体集合的多个个体对应的推定值的优劣的比较，进行对多个适应度函数的每一个的比较结果的加权。然后，基于对于多个适应度函数加权的多个的比较结果的线性和，进行评价用个体集合的多个个体级别赋予。

这样，可以淘汰弱佩瑞多最优个体。另外，对于由最优化对象的不确定性使适应度的采样值包含噪音的情况下，可以防止弱佩瑞多最优个体判定为佩瑞多最优个体和个体。因此，即使在最优化对象具有不确定性的情况下，也可以求出考虑多个适应度之间的关系的合理的佩瑞多最优个体。

进而，在适应度函数空间上的最上位级别的个体的分布，根据表示稀疏程度的分布指标生成新个体。由此，可以在适应度函数空间上的广泛的范围中没有偏离地，容易地生成个体。这样，能够在短时间内得到具有多样性的佩瑞多最优个体。

(2)

推定部，将存贮部里存贮的多个个体设为h₁，将与关注个体x对应的采样值的组设为F(x)，将在参数空间上从关注个体远离距离d₁的个体所对应的采样值的组为F(h₁)，k′为系数，l＝1，…，H，n为自然数的情况下，

$f^{\′}\left(x\right)=\frac{F\left(x\right)+\underset{l=2}{\overset{H}{\mathrm{\Σ}}}\frac{1}{k^{\′}{d}_1^n+1}F\left(h_1\right)}{1+\underset{l=2}{\overset{H}{\mathrm{\Σ}}}\frac{1}{k^{\′}{d}_1^n+1}}...\left(10\right)$

根据上式表示的推定式，也可以算出与关注个体x对应的“真”适应值的推定值的组f′(x)。

在此，考虑参数空间上的关注个体与其他个体间的距离，能够得到与“真”适应值误差更小的推定值。

(3)

n也可以是1。此时，在推定值的算出中，参数空间上的远离关注个体的其它个体的影响变小。因此，可以得到与“真”适应值误差十分小的推定值。

(4)

n也可以是3。此时，在推定值的算出中，参数空间上的远离关注个体的其它个体的影响大幅度变小。因此，可以得到与“真”适应值误差更加十分小的推定值。

(5)

演算部，将对于与p个目的对应的p个的适应度函数之中一个适应度函数的个体x1和x2所对应的适应度的推定值设为f_k(x1)和f_k(x2)，将对于p个适应度函数中其它适应度函数的个体x1和x2所对应的适应度的推定值设为f_j(x1)和f_j(x2)，将k和j设为1，…，p，k与j不同，α_kj为权重，下式(8)表示的g_k(x1，x2)是关于k＝1，…，p的全部满足g_k(x1，x2)≤0，并且关于k＝1，…，p中的至少1个满足g_k(x1，x2)＜0的关系，在此情况下，也可以判定为个体x1比x2优越。

$g_k(x_1,x_2)=f_k\left(x_1\right)-f_k\left(x_2\right)+\underset{j\≠k}{\overset{1...p}{\mathrm{\Σ}}}{\mathrm{\α}}_{\mathrm{kj}}(f_j\left(x_1\right)-f_j\left(x_2\right))...\left(8\right)$

(6)

在多个目的是2个或其以上的m目的的情况下，分布指标值是m个目的所对应的适应度函数空间上的关注个体邻接的m个个体形成的单体的大小，演算部也可以根据单体的大小选择稀疏程度最高的个体，利用所选择的个体生成新个体。

此时，在适应度函数空间上的最上位级别的个体的分布中，可根据分布指标，在个体稀疏的区域内容易地生成个体。因此，就可以容易地得到多样性高的佩瑞多最优个体。

(7)

在多个目的是2个目的的情况下，单体的大小可以用在适应度函数空间上连接与关注个体邻接的2个个体的直线的长度来表示，在多个目的是3个或其以上目的的情况下，单体的大小可以用在适应度函数空间上与关注个体邻接的3个个体作为顶点的三角形的面积来表示，在多个目的是4个目的的情况下，单体的大小可以用在适应度函数空间上与关注个体邻接的4个个体作为顶点的三角锥的体积来表示。

此时，对于最上位级别的个体的分布，可对应于目的数来容易地判定个体稀疏区域。

(8)

在多个目的是4个或其以上的m个目的的情况下，单体的大小也可以用在适应度函数空间上与关注个体邻接的m个个体形成的单体的底的m-1维(次元)面积×高度/m来表示。

此时，对于最上位级别的个体的分布，可对应于目的数来容易地判定个体稀疏区域。

(9)

在多个目的是3个或其以上目的的情况下，单体也可以利用德劳内(Delaunay)三角形分割法来形成。此时，可以容易地算出是作为分布指标的单体的大小。

(10)

演算部，在生成的新个体与评价用个体集合的个体不同的情况下，将新个体也可以用评价用个体集合的下位级别的个体来替换。

此时，在佩瑞多最优个体的搜索初期，能够缓慢地使差的个体减少，在佩瑞多最优个体的搜索后期，能够维持佩瑞多最优个体的多样性。

(11)

演算部，在生成的新个体与评价用个体集合的个体重复的情况下，也可以向新个体赋予最下位级别。

此时，在佩瑞多最优个体的搜索初期，能够缓慢地使差的个体减少，在佩瑞多最优个体的搜索后期，能够维持佩瑞多个体的多样性。

(12)

演算部也可以按每一个对评价用个体集合的各个个体进行评价。此时，因为不进行个体的再次评价，所以即使在如实际系统或大规模模拟那样的1个个体的评价上需要时间的情况下，也可以缩短最优化时间。

(13)

推定部，在存贮部里存贮的采样值的组的量达到规定的存贮容量的情况下，也可以结束从最优化对象输出的采样值的组的存贮。

此时，利用存贮部里存贮的规定量的采样值的组，求出适应度的推定值的组。由此，也可以缩短最优化的时间。

(14)

演算部也可以根据由推定部求出的推定值的组来表示佩瑞多最优个体。

此时，因为使用者能够在视觉上认识佩瑞多最优个体，所以可以容易地进行各种有意的决策。

(15)

演算部，作为多目的进化型算法也可以利用遗传性算法，来对评价用个体集合的个体进行评价。

此时，根据遗传性算法进行世代交替，由此可以容易地得到最优的佩瑞多最优个体。

(16)

最优化对象可以包含用于评价仪器的多个性能的评价系统，参数组可以包含用于评价系统的控制用参数的组，多个适应度函数可以是通过评价系统的评价而得到的多个性能，适应度的组可以是多个的性能的值。

此时，对评价系统赋予控制用参数的组。通过评价系统根据控制用参数的组来评价仪器的性能，输出与多个性能对应的采样值的组。根据该多目的最优化装置，即使评价系统伴有不确定性，但也可以在短时间内获得作为佩瑞多最优个体的具有多样性的合适的控制用参数的组的集合。

(17)

仪器也可以是发动机。此时，对评价系统赋予发动机控制用参数的组。通过评价系统根据控制用参数的组来评价发动机的性能，输出与多个性能对应的采样值的组。根据该多目的最优化装置，即便评价系统伴有不确定性，但也可以在短时间内获得作为佩瑞多最优个体的具有多样性的合适的发动机控制用参数的组的集合。

(18)

仪器也可以是电动机，此时，对评价系统赋予电动机控制用参数的组。通过评价系统根据控制用参数的组来评价电动机的性能，输出与多个性能对应的采样值的组。根据该多目的最优化装置，即便评价系统伴有不确定性，但也可以在短时间内获得作为佩瑞多最优个体的具有多样性的合适的电动机控制用参数的组的集合。

(19)

评价系统也可以是根据参数的组来控制仪器的同时、将由仪器的动作产生的多个性能的值作为采样值输出的仪器评价装置。

此时，对仪器评价装置赋予控制用参数的组。通过仪器评价装置根据控制用参数的组来评价仪器的性能，输出与多个性能对应的采样值的组。根据该多目的最优化装置，即使仪器评价装置伴有不确定性，但也可以在短时间内获得作为佩瑞多最优个体的具有多样性的合适的控制用参数的组的集合。

(20)

评价系统也可以是通过根据参数的组模拟仪器的动作来评价多个性能，将被评价的多个性能的值的组作为采样值的组而输出的仪器模拟器。

此时，对仪器模拟赋予控制用参数的组。通过由仪器模拟器根据控制用参数的组模拟仪器的动作来评价多个性能，输出与被评价的多个性能对应的采样值的组。根据该多目的最优化装置，即使仪器模拟伴有不确定性，但也可以在短时间内获得作为佩瑞多最优个体的具有多样性的合适的控制用参数的组的集合。

(21)

按照本发明其它情况的多目的最优化方法，其向最优化对象赋予个体的参数的组，根据与对应从最优化对象输出的多个目的的多个适应度函数有关的适应度的采样值的组，对参数进行最优化的多目的最优化方法，该方法包含：

在存贮部中存贮个体的参数的组以及从前述最优化对象输出的适应度的采样值的组的步骤；

根据与前述存贮部中存贮的多个个体对应的多个组的采样值，求出与推定值的组的步骤；

求出佩瑞多最优个体集合的步骤；其中：

求出推定值的组的前述步骤包含下述子步骤，即对与前述存贮部中存贮的每一个体对应的采样值的组进行加权，求出加权的多个组的采样值的线性和，由此求出与作为处理对象所要关注的关注个体对应的“真”适应值的推定值的组，各个体的权重是包含在参数空间上的关注个体与所述各个体之间距离的函数；

求出佩瑞多最优个体集合的前述步骤包含下述三个子步骤：

对于前述多个适应度函数的每一个，比较与评价用个体集合的多个个体对应的推定值的优劣，进行对前述多个适应度函数的每一个的比较结果加权，根据对前述多个适应度函数加权的多个比较结果的线性和，进行前述评价用个体集合的多个个体的级别赋予的子步骤；

根据表示在适应度函数空间上前述评价用个体集合的最上位级别的个体的分布的稀疏程度的分布指标，生成新个体的子步骤；和

将生成的个体的参数的组赋予给前述最优化对象和前述存贮部，同时，根据由求出推定值的组的前述步骤所求出的多个组的推定值，按照多目的进化型算法来评价所述评价用个体集合，由此求出佩瑞多最优个体集合的子步骤。

此多目的最优化方法中，个体的参数的组和从最优化对象输出的适应度的采样值的组存贮在存贮部。根据与存贮部中存贮的多个的个体对应的多个组的采样值，来求出与关注个体对应的“真”适应值的推定值的组。根据推定值生成新个体，将生成的个体的参数组赋予到最优化对象和存贮部。另外，根据求出的多个组的推定值，按照多目的进化型算法来对评价用个体集合进行评价。由此，求出佩瑞多最优个体集合。

这种情况下，对与存贮部中存贮的各个个体对应的采样值的组进行加权，通过求出加权的多个组的采样值的线性和，来求出与关注个体对应的适应度的推定值的组。

各个体的权重因为是包含参数空间上的关注个体与该个体的距离的函数，所以可以得到与“真”适应值之间的误差十分小的推定值。因此，即使在从最优化对象输出的采样值具有不确定性的情况下，也可以得到合适的佩瑞多最优个体集合。

此外，对于多个适应度函数的每一个，进行与评价用个体集合的多个个体对应的推定值的优劣的比较，进行对于多个适应度函数的每一个的比较结果加权。然后，根据对多个的适应度函数加权的多个比较结果的线性和，来进行评价用个体集合的多个个体级别赋予。

这样，可以淘汰弱佩瑞多最优个体。另外，在由最优优化对象的不确定性产生的适应度的采样值包含噪音的情况下，可以防止弱佩瑞多最优个体被判定为佩瑞多最优个体和个体。因此，即使在最优化对象具有不确定性的情况下，也可以考虑多个的适应度之间的关系而求出合理的佩瑞多最优个体。

进而，在适应度函数空间上的最上位级别的个体的分布中，根据表示稀疏程度的分布指标来生成新个体。由此，在适应度函数空间上的广泛的范围中没有偏离地可容易地生成个体。这样，能够在短时间内获得具有多样性的佩瑞多最优个体。

(22)

根据本发明进一步的其它情况的多目的最优化程序，其可通过计算机来执行，该计算机向最优化对象赋予个体的参数的组，根据与对应从最优化对象输出的多个目的的多个适应度函数有关的适应度的采样值的组，对参数进行最优化，该多目的最优化程序在计算机中执行下述处理：在存贮部中存贮个体的参数的组以及从最优化对象输出的适应度的采样值的组的处理；根据与存贮部中存贮的多个个体对应的多个组的采样值，求出与关注个体对应的“真”适应值的推定值的组的处理；根据求出的推定值生成新个体，将生成的个体的参数的组赋予给最优化对象和存贮部，同时，根据求出的多个组的推定值，按照多目的进化型算法来评价评价用个体集合，由此求出佩瑞多最优个体集合的处理；其中，求出推定值的组的处理包含下述处理，即对与存贮部中存贮的各个体对应的采样值的组进行加权，求出加权的多个组的采样值的线性和，由此求出与关注个体对应的适应度的推定值的组，各个体的权重是包含在参数空间上的关注个体和与该个体之间的距离的函数，求出佩瑞多最优个体的处理包含下述处理：对于多个适应度函数的每一个，比较与评价用个体集合的多个个体对应的推定值的优劣，对多个适应度函数的每一个的比较结果进行加权，根据对多个适应度函数加权的多个比较结果的线性和，进行评价用个体集合的多个个体的级别赋予的处理；根据表示在适应度函数空间上评价用个体集合的最上位级别的个体的分布的稀疏程度的分布指标，生成新个体的处理。

在该多目的最优化程序中，个体的参数的组和从最优化对象输出的适应度的采样值的组存贮在存贮部。根据与存贮部中保存的多个的个体对应的多个组的采样值，来求出与关注个体对应的“真”适应值的推定值的组。根据推定值来生成新个体，生成的个体的参数组赋予到最优化对象和存贮部。另外，根据求出的多个组的推定值，按照多目的进化型算法，对评价用个体集合进行评价。由此，求出佩瑞多最优个体集合。

这种情况下，对与存贮部中保存的各个个体对应的采样值的组进行加权，求出加权的多个组的采样值的线性和，由此求出与关注个体对应的适应度的推定值的组。

各个个体的权重因为是包含参数空间上的关注个体与该个体的距离的函数，所以可以得到与“真”适应值之间的误差十分小的推定值。因此，即使在从最优化对象输出的采样值具有不确定性的情况下，也可以得到合适的佩瑞多最优个体集合。

此外，对于多个适应度函数的每一个进行与评价用个体集合的多个个体对应的推定值的优劣的比较，对关于多个适应度函数的每一个的比较结果进行加权。然后，根据对多个适应度函数加权的多个比较结果的线性和，来进行对评价用个体集合的多个个体的级别赋予。

这样，可以淘汰弱佩瑞多最优个体。另外，在由最优化对象的不确定性产生的适应度的采样值包含噪音的情况下，可以防止弱佩瑞多最优个体被判定为佩瑞多最优个体和个体。因此，即使在最优化对象具有不确定性的情况下，也可以求出考虑多个的适应度之间的关系的合理的佩瑞多最优个体。

进而，在适应度函数空间上的最上位级别的个体的分布中，根据表示稀疏程度的分布指标来生成新个体。由此，可以在适应度函数空间上的广泛的范围中没有偏离地容易地生成个体。这样，能够在短时间内获得具有多样性的佩瑞多最优个体。

附图说明

图1是表示与本发明的第1实施方式相关的多目的最优化装置的功能构成的框图。

图2是表示图1的多目的最优化装置的硬件构成的框图。

图3是表示最优化对象构成的一个例子的框图。

图4是表示HC浓度、NOx浓度以及CO浓度和空燃比之间的关系的图。

图5是表示图1的多目的最优化装置的全体处理的流程图。

图6是表示图1的多目的最优化装置的全体处理的流程图。

图7是表示由初始化生成的亲本个体集合的模式图。

图8是用于说明α优越战略的模式图。

图9是用于说明由α优劣战略个体的优劣比较的模式图。

图10是用于说明佩瑞多分级的图。

图11是用于说明混乱度排序的模式图。

图12是表示由多目的进化型算法部的混乱度排序处理的流程图。

图13是用于说明由适应度推定部的适应度推定模块的推定值的算出的模式图。

图14是表示伴有按照正态分布的噪音的采样值的模式图。

图15是表示不确定的适应度函数的模型的模式图。

图16是表示由适应度推定部的适应度推定模块的推定值的算出处理的流程图。

图17是用于说明从特定的亲本个体的选择到世代交替的方法的模式图。

图18是用于说明子个体集合的生成处理的模式图。

图19表示由多目的进化型算法部的特定的亲本个体的选择处理的流程图。

图20是表示由UNDX的子个体的生成处理的模式图。

图21是表示根据搜索履历存贮装置中存贮的搜索履历的个体的搜索的模式图。

图22是用于说明从亲本个体的选择到世代交替的方法的模式图。

图23是表示由多目的进化型算法部的亲本个体的选择处理的流程图。

图24是表示扩展到m目的最优化问题的分布指标的图。

图25是表示将多目的最优化装置适用于发动机模拟器的例子的框图。

图26是表示将多目的最优化装置适用于电动机评价装置的例子的框图。

图27是表示将多目的最优化装置适用于电动机模拟器的例子的框图。

图28是表示比较例1和实施例1的多目的最优化的条件的图。

图29是表示在比较例1和实施例1中第50个世代中得到的佩瑞多最优个体集合的图。

图30是表示比较例2和实施例2的多目的最优化的条件的图。

图31是表示比较例2和实施例2中得到的佩瑞多最优个体集合的图。

图32是表示实施例3的多目的最优化的条件的图。

图33是表示实施例3中得到的采样值以及推定值的图。

图34是将实施例3中得到的最终世代的佩瑞多最优个体的推定值表示在适应度函数空间上的图。

图35是将实施例3中得到的最终世代的佩瑞多最优个体的参数表示在参数空间上的图。

图36是表示将多目的最优化问题适用于发动机的最优化中的例子的图。

图37是用于说明佩瑞多最优解的图。

具体实施方式

(1)第1实施方式

首先，基于图1说明本发明的第1实施方式的多目的最优化装置。

(a)多目的最优化装置的机能上的构成

图1是表示与本发明的第1实施方式相关的多目的最优化装置的功能构成的框图。

图1的多目的最优化装置，作为多目的进化型算法利用多目的遗传性算法(GA)来算出多目的最优化问题的佩瑞多最优个体集合。该最优化装置1，与最优化对象6连接。

最优化对象6是评价仪器性能的评价系统。评价系统是评价实际系统的评价装置或者是包含概率要素的模拟器。实际系统，例如是发动机或电动机，评价装置，例如是发动机评价装置或电动机评价装置。另外，模拟器例如是发动机模拟器或电动机模拟器。本实施方式中，最优化对象6是发动机评价装置。

多目的最优化装置1包含多目的进化型算法部2、适应度推定部3、输出接口4以及输入接口5。适应度推定部3包含适应度推定模块30和搜索履历存贮装置31。

多目的进化型算法部2和适应度推定部3的适应度推定模块30，可通过后述的CPU101(图2)执行多目的最优化程序来实现。搜索履历存贮装置31，由后述的外部存贮装置106(图2)构成。

使用者10，在多目的进化型算法部2中设定多个适应度函数(目的函数)。本实施方式中，作为多个适应度函数，可设定燃料费、扭矩、发动机的排气中含有的CO(一氧化碳)、HC(碳化氢)、NOx(氮元素的氧化物)等的成分的浓度等之中的多个。

在此，作为平衡关系，可以列举扭矩与燃料费、扭矩与CO浓度、扭矩与HC浓度、燃料费与NOx浓度、CO浓度与NOx浓度、HC浓度与NOx浓度等。

另外，作为多目的遗传性算法的个体，是多目的最优化问题的解的候补，具有多个参数的组以及多个适应度。参数是可调整的值，在遗传性算法中被称为遗传基因。作为参数，可列举燃料喷射量、燃料喷射时间、点火时间、节流阀开度等。适应度是适应度函数值。以下，多目的遗传性算法的个体只简单称为个体。

多目的进化型算法部2，接受由后述的适应度推定模块30算出的真的适应度的推定值，将个体的参数的组赋予给适应度推定部3的搜索履历存贮装置31的同时，经由输出接口4赋予给最优化对象6。

最优化对象6，根据从多目的最优化装置1给予的个体参数的组，来输出适应度的采样值的组。从最优化对象6输出的各采样值如后述的那样，包含真的适应度以及噪音成分。对于采样值的详细在后面记述。

从最优化对象6输出的各采样值的组，经由输入接口5输入到适应度推定部3的搜索履历存贮装置31。搜索履历存贮装置31中，将个体的参数的组以及采样值的组作为搜索履历来存贮。以下，搜索履历中所含有的个体的参数以及采样值的各组被称为履历数据。

适应度推定模块30，根据搜索履历存贮装置31中存贮的搜索履历的履历数据，来算出真的适应度的推定值，将推定值的组赋予给多目的进化型算法部2。以下，真的适应度的推定值只简单称作适应度的推定值或推定值。

多目的进化型算法部2，根据多个组的推定值，按照遗传性算法产生多个个体并进行多点搜索，用佩瑞多最优性来评价适应度函数，由此同时求出佩瑞多最优个体集合。此外，多目的进化型算法部2将求出的佩瑞多最优个体集合提示给使用者。

这样，多目的进化型算法部2和适应度推定部3通过协调工作来进行个体参数的最优化。

对于多目的进化型算法部2和适应度推定部3的详细动作，在后面记述。

(b)多目的最优化装置的硬件构成

图2是表示图1的多目的最优化装置1的硬件构成的框图。

多目的最优化装置1包含CPU(中央计算处理装置)101、ROM(只读存贮器)102、RAM(随机访问存贮器)103、输入装置104、显示装置105、外部存贮装置106、记录媒体驱动装置107以及输入输出接口108。

输入装置104由键盘、鼠标等构成，用于输入各种指令和各种数据。ROM102中存贮系统程序。记录媒体驱动装置107由CD(压缩盘)驱动器、DVD(数字多功能盘)驱动器、软盘驱动器等组成，对CD、DVD、软盘等的记录媒体109进行数据的读写。

记录媒体109中，记录有多目的最优化程序。外部存贮装置106由硬盘装置等组成，经由记录媒体驱动装置107，存贮从记录媒体109读入的多目的最优化程序以及各种数据。CPU101将外部存贮装置106中存贮的多目的最优化程序在RAM103上执行。

显示装置105由液晶显示板、CRT(阴极射线管)等组成，显示佩瑞多最优个体集合等的各种图像。输入输出接口108包含图1的输出接口4以及输入接口5。在该输入输出接口108中以无线通信或有线通信来连接最优化对象6。输入输出接口108将从最优化对象6输出的采样值的组传送到外部存贮装置106，同时将由多目的最优化程序生成的个体的参数的组赋予给最优化对象6。

另外，作为存贮多目的最优化程序的记录媒体109，可以使用ROM等的半导体存贮器、硬盘等各种记录媒体。此外，也可以通过通信电路等的通信媒体将多目的最优化程序下载到外部存贮装置106中，在RAM103上执行。

这里，记录媒体109如果是能够在计算机中读取的记录媒体，包含电子读取方式、磁气读取方式、光学读取方式或其它所有读取方式的记录媒体。例如除上述的CD、DVD以及软盘以外，可以使用CDV(压缩磁盘视频)等的光学读取方式的记录媒体、RAM、ROM等的半导体记录媒体、硬盘等的磁记录媒体、MO(光磁盘)等的磁气存贮型/光学读取方式记录媒体。

(c)最优化对象的构成

图3是表示最优化对象6的构成的一个例子的框图。图3的最优化对象6是发动机评价装置。

最优化对象6包含发动机61、ECU(发动机控制单元)62、排出气体分析计63、控制器64、节流阀单元65以及发电机66。

ECU62从多目的最优化装置1接受经由串行通信来的参数的组。本例中，参数的组是点火时间以及燃料喷射时间。ECU62根据参数的组来控制发动机61的点火时间和燃料喷射时间。从发动机61向控制器64赋予转数、空燃比等的发动机信息。

控制器64根据发动机信息控制节流阀单元65及发电机66。节流阀单元65通过调整发动机61的吸入空气量来控制发动机61的输出扭矩。发电机66控制负荷扭矩。

排出气体分析计63分析来自发动机61的排出气体中的成分，将HC浓度及NOx浓度作为采样值的组通过串行通信向多目的最优化装置1输出。

图4是表示HC浓度、NOx浓度以及CO浓度和空燃比之间的关系的图。

如果燃料完全燃烧，则排出气体中含有二氧化碳和水。但是，如果运转状态变化，则燃烧状态也变化，排出气体中含有CO、HC和NOx。

如图4所示，空燃比小的时候，HC浓度和NOx的浓度变低。NOx浓度在空燃比稍稍小于理论空燃比(14.7)的时候变得最大，在此以外的区域中减小。在理论空燃比附近，HC浓度和NOx浓度具有平衡关系，CO浓度和NOx浓度具有平衡关系。

图3的最优化对象6从多目的最优化装置1接受作为个体参数的组的点火时间和燃料喷射时间，作为采样值的组输出HC浓度和NOx浓度。

(d)多目的最优化装置的全体处理

图5及图6是表示图1的多目的最优化装置1的全体处理的流程图。

如图5所示，如果开始最优化处理，多目的进化型算法部2作为初始个体集合在各参数的规定的范围内随机地生成亲本个体集合P，由此初始化亲本个体集合P，将生成的亲本个体集合P的各个体的参数的组依次赋予给最优化对象6(步骤S1)。由此，从最优化对象6依次输出适应度的采样值的组。

另外，在作为事先知识所知的佩瑞多最优个体存在的情况下，也可以将该佩瑞多最优个体作为初始个体集合的一部分来使用。这样一来，能够期待提高佩瑞多最优个体的搜索的收敛性。

适应度推定部3的搜索履历存贮装置31从最优化对象6获得与亲本个体集合P的各个体对应的采样值的组，亲本个体集合P的参数的组以及采样值的组作为搜索履历来存贮(步骤S2)。

接下来，适应度推定部3的适应度推定模块30，根据与搜索履历存贮装置31内存贮的多个个体对应的采样值的组，来算出亲本个体集合P的各个体的适应度的推定值的组(步骤S3)。对适应度的推定值的算出方法在后面记述。

然后，多目的进化型算法部2，根据适应度的推定值的组的优劣比较和佩瑞多分级，由此亲本个体集合P分割成按照每一级别的个体集合(步骤S4)。对佩瑞多分级在后面记述。

接着，多目的进化型算法部2对亲本个体集合P的各级别的个体集合进行混乱度排序(步骤S5)。这样，各级别的个体按照混乱度(混乱距离)的大的顺序进行排列。对混乱度排序在后面记述。然后，选择具有更上位级别的更大混乱度的规定数的个体，消除其它个体。

进而，多目的进化型算法部2从亲本个体集合P的最上位级别(级别1)的个体集合选择特定的3个亲本个体，同时通过实施交叉操作3个亲本个体，生成子个体集合C，将生成的子个体集合C的各个体的参数的组依次赋予给最优化对象6(步骤S6)。由此，从最优化对象6依次输出适应度的采样值的组。

这里，交叉操作，是指通过使个体的遗传基因交叉配合来生成新个体。对特定亲本个体的选择方法在后面记述。

适应度推定部3的搜索履历存贮装置31获得与从最优化对象6输出的子个体集合C的各个体对应的适应度的采样值的组，将与各个体对应的参数的组以及采样值的组作为搜索履历来存贮(步骤S7)。

接着，多目的进化型算法部2由子个体集合C和亲本个体集合P来生成个体集合F(步骤S8)。

适应度推定部3的适应度推定模块30根据搜索履历存贮装置31内存贮的多个组的采样值，来算出与个体集合F的各个体对应的适应度的推定值的组(步骤S9)。

多目的进化型算法部2，根据适应度的推定值的组的优劣比较和佩瑞多分级，由此将个体集合F分割成按照每一级别的个体集合，在子个体集合C中，向与亲本个体集合P的个体重复的个体赋予最下位级别(步骤S10)。

然后，多目的进化型算法部2对个体集合F的各级别的个体集合进行混乱度排序并生成新的亲本个体集合P(步骤S11)。由此，各级别的个体按照混乱度(混乱距离)的大的顺序进行排列。对混乱度排序在后面记述。然后，选择具有更上位级别的更大混乱度的规定数的个体，其它个体被消除。

之后，多目的进化型算法部2判定世代数是否达到规定的结束条件(步骤S12)。

此处的世代由从个体集合选择亲本个体的选择步骤、和由交叉操作生成新的子个体的交叉步骤、以及交替亲本个体与子个体的世代交替步骤。在判定世代数还没有达到结束条件时，转移到步骤S6。在判定世代数已经达到结束条件时，多目的进化型算法部2将在步骤S11中生成的亲本个体集合P作为佩瑞多最优个体集合提示给使用者，结束处理。

(e)多目的最优化装置的各处理的具体例子

图7～图12是表示多目的最优化装置1的各处理的具体例子的模式图。

图7～图12中，示出了2个参数x1、x2以及2个适应度函数f1、f2的例子。在图3的最优化对象6的情况下，参数x1、x2是点火时间以及燃料喷射时间，适应度函数f1、f2是HC浓度和NOx浓度。

(e-1)亲本个体集合的初始化

图7是表示由初始化生成的亲本个体集合的模式图，(a)表示在适应度函数空间上的亲本个体集合，(b)是表示参数空间上的亲本个体的集合。在初始化中，如图7所示，在适应度函数空间及参数空间上随机生成多个个体。

(e-2)个体的评价方法

在多目的最优化问题中，因为个体具有与多个适应度函数对应的适应度，不能以单纯的值的大小来比较个体的优劣。本实施方式中，利用以下说明的优劣比较、佩瑞多分级以及混乱度排序来评价个体。

(e-2-1)优劣比较

说明图5的步骤S4以及图6的步骤S10中的优劣比较。该优劣比较中，利用下面所述的α优越策略(α-domination strategy)。另外，有关α优越策略的详细，例如在文献5中有记载。

图8是用于说明α优越策略的模式图。在此一般地，α优越如下定义。

对某一p个的目的度函数f_k(k＝1，…，p)的2个解x1、x2∈F，具有下式(8)表示的g_k(x1，x2)满足下面的关系时，解x1比解x2α优越。g_k(x1，x2)≤0 $(\∀k=1,\·\·\·,p)$ ∧g_k(x1，x2)＜0 $(\∃k=1,\·\·\·,p)$

$g_k(x_1,x_2)=f_k\left(x_1\right)-f_k\left(x_2\right)+\underset{j\≠k}{\overset{1...p}{\mathrm{\Σ}}}{\mathrm{\α}}_{\mathrm{kj}}(f_j\left(x_1\right)-f_j\left(x_2\right))...\left(8\right)$

上式中，f_k(x1)以及f_j(x1)是分别与解x1对应的目的度函数f_k以及f_j的值，f_k(x2)以及f_j(x2)是分别与解x2对应的目的度函数f_k以及f_j的值。多目的遗传性算法中，解x1以及解x2相当于个体，目的函数f_k和f_j相当于适应度函数。

这里，图8中，关注个体I3。根据一般的优越比较，通过从个体I3开始与适应度函数f₁平行地延长的直线L11和从个体I3开始与适应度函数f₂平行地延长的直线L12，来确定个体I3比其它个体优越的区域。亦即个体I3与在比直线L11更靠上且比直线L12更靠右的区域里存在的其它个体I6、I7、I8相比优越。个体I2、I4没有个体I3优越。

个体I2，对适应度函数f₁来说虽然比个体I3稍稍优越，而对适应度函数f₂来说比个体I3相当差。个体I4，对适应度函数f₂来说虽然比个体I3稍稍优越，而对适应度函数f₁来说比个体I3相当差。如这样的个体I2、I4的适应度具有不确定性(例如噪音)的情况下，个体I2、I4有可能比个体I3优越。

对于此，根据α优越策略，通过从个体I3向适应度函数f₁的轴接近的方式倾斜的直线L1、以及从个体I3向适应度函数f₂的轴接近的方式倾斜的直线L2，来确定个体I3比其它个体优越的区域。亦即，个体I3与比直线L1更靠上侧且比直线L2更靠右的区域里存在的个体I2、I4、I6、I7、I8相比优越。根据α优越策略，个体I2、I4从佩瑞多最优个体中被排除。

本实施方式中，通过α优越策略根据多个适应度的推定值的加权线性和，进行个体的优劣比较。根据α优越策略，如果一个个体的1个适应度变差1，则其它适应度也变差α。亦即，在优劣比较中，1个适应度的优劣会给其它适应度的优劣带来影响。因此，如下面的那样，可以求出考虑多个适应度之间的关系的合理的解。

弱佩瑞多个体是多个的适应度之中至少1个不比其它个体优越(亦即至少一个适应度与某个佩瑞多最优解相等)的解。这样的弱佩瑞多最优个体，对于一个适应度函数具有最优解，但对剩下的适应度函数比佩瑞多最优个体差。因此，弱佩瑞多最优个体不能说是合理的解，是本来不必要求出的解。所以，通过导入α优越策略，能够淘汰弱佩瑞多最优个体。

另外，适应度伴有不确定性的情况下，产生弱佩瑞多最优个体因为不确定性而成为佩瑞多最优个体的现象。如果弱佩瑞多最优个体因为不确定性而被判定为佩瑞多最优个体，则会变成一直不会被淘汰而存在于个体集合中，就成为佩瑞多最优个体的搜索停止的原因。因此，通过导入α优越策略，变得可以淘汰这样的被判定为佩瑞多最优个体的弱佩瑞多最优个体。

图9是用于说明根据α优劣策略的个体优劣比较的模式图。

图9中，个体I3比个体I2、I4、I5、I6、I7优越，个体I6比个体I8优越，个体I7比个体I8优越。没有比个体I1、I3、I5优越的个体。所以，个体I1、I3、I5是佩瑞多最优个体。

(e-2-2)佩瑞多分级

下面，说明图5的步骤S4和图6的步骤S10的佩瑞多分级。图10是用于说明佩瑞多分级的图。佩瑞多分级中，根据各个体的级别赋予来求出佩瑞多最优个体。

比pi个的个体优越的个体xi的级别r(xi)按下式给出。

r(xi)＝1+pi

这里，级别1是最上位级别，在此之上的数值的级别，数值越大越是下位的级别。

图10中，个体I1、I3、I5比其它个体优越。因此，个体I1、I3、I5的级别是1。个体I2、I4比1个个体I3差。因此个体I2、I4的级别是2。同样地，个体I6的级别是6，个体I7的级别是5，个体I8的级别是8。

(e-2-3)混乱度排序

下面，说明图5的步骤S5及图6的步骤S11中的混乱度排序。图11是用于说明混乱度排序的模式图。

混乱度排序中，对于同一级别的各注目个体，假定连接与其邻接的2个个体的连接线为对角线的长方形，用长方形的长和宽的边长的合计来表示混乱(混乱距离)。混乱度的值越小的注目个体存在于混乱区域内。同一级别的两端的个体赋予最大的混乱度。

图11中，个体I3的混乱度是用与其邻接的个体I1、I5形成的长方形s1的长和宽的边长的合计来表示的。个体I1的混乱度是用与其邻接的个体I9、I13形成的长方形s2的长和宽的边长的合计来表示的。个体I5的混乱度是用与其邻接的个体I3、I10形成的长方形s3的长和宽的边长的合计来表示的。

图12是表示由多目的进化型算法部2的混乱度排序处理的流程图。

首先，多目的进化型算法部2按照每一适应度函数排序个体集合，按照每一个适应度函数调查在同一级别内与各个注目个体邻接的2个个体(步骤S31)。

然后，多目的进化型算法部2按照每一个适应度函数算出与各注目个体邻接的2个个体间的数学距离，将对各注目个体的多个适应度函数中的数学距离的合计作为混乱度而算出(步骤S32)。这里，作为数学距离利用欧几里得(Euclid)距离。

此后，多目的进化型算法部2，将各级别的个体集合的个体按照混乱度的值大的顺序来排序(步骤S33)。

(e-3)由搜索履历的推定值的算出

下面，说明图5的步骤S3和图6的步骤S9中的推定值的算出。

图13是用于说明由适应度推定部3的适应度推定模块30的推定值的算出的模式图。

图1的搜索履历存贮装置31中，从多目的进化型算法部2赋予的个体的参数的组以及从最优化对象6输出的适应度的采样值的组，作为搜索履历HS而依次被存贮。图13中，按照每一个个体，参数x₁、x₂的组以及采样值F₁、F₂的组作为搜索履历HS而被存贮。

适应度推定模块30根据搜索履历HS，作为推定值，算出与各个体对应的真的适应度值。与各个体对应的参数的组以及推定值的组作为推定结果E存贮于图1的搜索履历存贮装置31内。

如图13所示，搜索履历存贮装置31中，按照每一个个体，参数x₁、x₂的组和推定值f₁′，f₂′的组作为推定结果E而被存贮。

另外，适应度推定模块30，根据各个体的参数的组和推定值的组，可以在图2的显示装置105的画面上示出适应度函数空间和参数空间上的佩瑞多最优个体集合。

图13中，在由适应度函数f₁，f₂组成的适应度函数空间上和由参数x₁，x₂组成的参数空间上示出佩瑞多最优个体集合。佩瑞多最优个体集合所形成的边界称为佩瑞多边界。

这样的，利用搜索履历存贮装置31中存贮的搜索履历HS来推定个体的适应度的方法称为基于存贮器的适应度推定法(Memory-based FitnessEstimated Method：MFEM)(参照文献5)。

算出注目个体的推定值时，一般注目个体和搜索履历HS的个体是不同的搜索点。另外，由于假定为不确定的环境，所以即使对最优化对象6赋予相同的参数，也会输出不同的采样值的组。因此，为了要从搜索履历HS的采样值的组算出注目个体的推定值的组，有必要在适应度函数的性质中设置某种假定。MFEM中，考虑到适应度函数与注目个体的数学距离对应地随机变动而将不确定环境模型化了。

注目个体设为x，该注目个体x的真适应度设为f(x)。考虑参数空间中从注目个体x只远离距离d的个体h的适应度f(h)。适应度f(h)的期望值是f(x)，适应度f(h)的分散按照与距离d成比例地增大的正态分布的模型在下式(1)表示。

f(h)～N(f(x)，kd)…(1)

上式(1)中，k是决定由距离的权重的正的常数，N(f(x)，kd)表示平均值为f(x)且分散为kd的正态分布的概率密度函数。

在此，真的适应度f(x)上，附加按照平均值0以及分散σ_E ²并且与个体的位置无关的正态分布的噪音δ。此时，与个体x对应的采样值F(x)按下式定义。

F(x)＝f(x)+δ…(2)

图14是表示伴有按照正态分布的噪音δ的采样值的模式图。在此，采样值F(x)，是对于适应度函数f₁的采样值F₁(x)和对于适应度函数f₂的采样值F₂(x)的组，真的适应度f(x)，是对于适应度函数f₁的真的适应度f₁(x)和对于适应度函数f₂的真的适应度f₂(x)的组。此外，噪音δ，是对于适应度函数f₁的噪音δ₁和对于适应度函数f₂的噪音δ₂的组。噪音δi(i＝1，2)用下式表示。

δi～N(0，σ_Ei ²)(i＝1，2)

上式中，N(0，σ_Ei ²)表示平均值0以及分散σ_E ²的正态分布的概率密度函数。

适应度推定部3，求出使采样值F(x)的期望值最小的佩瑞多最优个体集合。此时，与个体h对应的采样值F(h)模型化为下式(3.1)和(3.2)。

F(h)～N(f(x)，kd+σ_E ²) …(3.1)

d＝|h-x |              …(3.2)

上式(3.1)中，N(f(x)，kd+σ_E ²)表示平均为f(x)并且分散为kd+σ_E ²的正态分布的概率密度函数。

图15表示不确定适应度函数的模型的模式图。该模型中，假定越远离注目个体x则采样值F(h)越大地不规则地变化。

根据该模型利用搜索履历HS的最优法，算出真的适应度f(x)的推定值。

如果考虑搜索履历HS中存贮的个体h₁(l＝1，…，H)、个体h₁的采样值F(h₁)以及从注目个体x到个体h₁的距离d₁(l＝1，…，H)，则得到采样值F(h₁)，…，F(h_H)的概率可以按下式表示。

$\underset{l=1}{\overset{H}{\mathrm{\Π}}}p\left(F(h_1,d_1)\right)...\left(4\right)$

这里，p(F(h₁)，d₁)是表示得到采样值F(h₁)的概率的概率密度函数，可以按下式表示。

$p(F\left(h_1\right),d_1)=\frac{1}{\sqrt{2\mathrm{\π}(k^{\′}{d}_1+1){\mathrm{\σ}}_E^2}}\exp (-\frac{1}{2}\frac{{(F\left(h_1\right)-f\left(x\right))}^2}{(k^{\′}{d}_1+1){\mathrm{\σ}}_E^2})...\left(5\right)$

这里， $k^{\′}=k/{\mathrm{\σ}}_E^2.$ 本实施方式中，常数k′是事先由实验得到的。文献4中，提出了搜索中推定常数k′的方法。也可以用提出的方法来求出常数k′。

将上述式(4)和(5)考虑为真的适应度f(x)的优越度，利用最优法。由此，真的适应度f(x)的推定值f′(x)，如下式(6)所示，可以用通过包含距离d₁的函数加权的权重平均的式子来表示。

$f^{\′}\left(x\right)=\frac{F\left(x\right)+\underset{l=2}{\overset{H}{\mathrm{\Σ}}}\frac{1}{k^{\′}{d}_1+1}F\left(h_1\right)}{1+\underset{l=2}{\overset{H}{\mathrm{\Σ}}}\frac{1}{k^{\′}{d}_1+1}}...\left(6\right)$

图16是表示由适应度推定部3的适应度推定模块30的推定值的算出处理的流程图。

首先，适应度推定模块30确认多目的进化型算法部2中亲本个体集合P被初始化的情况(步骤S41)。然后，适应度推定模块30全部清空搜索履历存贮装置31的搜索履历HS(步骤S42)。

其后，适应度推定模块30，将从最优化对象6输出的采样值的组作为搜索履历HS存贮在搜索履历存贮装置31中(步骤43)。然后，适应度推定模块30，根据搜索履历存贮装置31的搜索履历HS，利用上式(6)算出与各个体对应的真的适应度的推定值的组(步骤S44)。

适应度推定模块30判定多目的进化型算法部2的处理是否结束(步骤S45)。

在多目的进化型算法部2的处理没有结束的情况下，返回到步骤S43，并重复步骤S43～S45的处理。在多目的进化型算法部2的处理结束了的情况下，结束推定值的算出处理。

(e-4)从亲本个体的选择到世代交替的方法

下面，说明图6的从步骤S6的特定的亲本个体的选择到步骤S11的世代交替的方法。图17是用于说明从特定的亲本个体的选择到世代交替的方法的模式图。

如图17(a)所示，通过佩瑞多分级，亲本个体集合P被赋予级别。如图17(b)中所示，对于亲本个体集合P的级别1的个体集合，作为分布指标算出在适应度空间上邻接的各2个个体间的欧几里得距离。本实施方式中，适应度函数空间由2个适应度函数f₁和f₂组成。

欧几里得距离成为最大的2个个体Ia、Ib之中任一个的个体作为第1亲本个体Ia，以概率1/2下随机地被选择。进而，从亲本个体集合P中以随机选择方式来选择第2亲本个体Ic以及第3亲本个体Id。

本实施方式中，分布指标的欧几里得距离L，如图17(f)所示，如果邻接的2个个体为x和y，则可以由下式求出。

L＝[{f₁(x)-f₁(y)}²+{f₂(x)-f₂(y)}²]^1/2…(7)

接下来，如图17(c)所示，从第1、第2及第3亲本个体Ia、Ic、Id生成子个体集合C。进而，如图17(d)所示，从子个体集合C和亲本个体集合P生成个体集合F，对个体集合F进行利用上述的α优越策略的佩瑞多分级。此时，在子个体集合C中存在与亲本个体集合P中含有的个体重复的个体的情况下，该个体被赋予最下位级别。

然后，如图17(e)所示，对个体集合F进行混乱度排序，根据个体的级别以及各级别内的混乱度选择规定数的个体，消除剩下的个体。这样，生成新的亲本个体集合P。如这样，进行世代交替。

图18是用于说明子个体集合C的生成处理的模式图。图18(a)表示参数空间上的亲本个体集合P，图18(b)表示参数空间上的子个体集合C。在子个体集合C的个体I21的参数x₁、x₂与亲本个体集合P的个体I11的参数x₁、x₂一致的情况下，对个体I21赋予最下位级别。同样，在子个体集合C的个体I22的参数x₁，x₂与亲本个体集合P的个体I12的参数x₁，x₂一致的情况下，对个体I22赋予最下位级别。

另外，特定的亲本个体的选择方法，不限于本实施方式，从级别1的个体集合中欧几里得距离L成为最大的2个个体被选择为第1和第2亲本个体，第3亲本个体从亲本个体集合P中随机地被选择，也可以通过轮盘赌选择或淘汰选择等方法来选择。

图19表示由多目的进化型算法部2的特定的亲本个体的选择处理的流程图。

首先，多目的进化型算法部2，将从亲本个体集合P中选出的级别1的个体集合按照适应度函数来排序(步骤S51)。

然后，多目的进化型算法部2算出级别1的个体集合中邻接的两个个体之间的欧几里得距离(步骤S52)。

进而，多目的进化型算法部2，作为第1亲本个体，以概率1/2来随机地选择赋予最大的欧几里得距离的2个个体之中的1个个体，从亲本个体集合P中以随机选择方式选择第2亲本个体和第3亲本个体(步骤S53)。

本实施方式中，从第1、第2和第3亲本个体通过交叉操作来生成子个体。作为交叉操作，例如可以利用UNDX(单峰性正态分布交叉：Unimodal NormalDistribution Crossover)。

图20表示利用UNDX的子个体的生成处理的模式图。UNDX中，根据第1亲本个体P1、第2亲本个体P2和第3亲本个体P3的位置关系，按照规定的正态分布随机数，生成子个体C1。此时，因为按照连接第1亲本个体P1和第2亲本个体P2的轴AX的周边的正态分布来生成子个体C1，所以子个体C1不会在远离第1～第3亲本个体P1～P3的位置上生成。

(f)第1实施方式的效果

与本实施方式相关的多目的最优化装置1中，根据上式(6)，对与存贮在搜索履历存贮装置31内的各个体对应的采样值的组进行加权，利用加权的多个组的采样值的线性和，求出与注目个体对应的适应度的推定值的组。

各个体的权重是包含参数空间上的注目个体和与该个体之间距离的函数，能够得到与真的适应度值误差十分小的推定值。因此，即使在从最优化对象输出的采样值具有不确定性的情况下，也可以得到合适的佩瑞多最优个体集合。

此外，通过α优越策略，对多个适应度函数的每一个，进行与个体集合的多个个体对应的推定值的优劣比较，对多个适应度函数的每一个的比较结果都加权。然后，根据对多个适应度函数加权的多个比较结果的线性和，进行个体集合的多个个体的级别赋予。由此，即使在最优化对象具有不确定性的情况下，也可以求出考虑多个适应度之间的关系的合理的佩瑞多最优个体。

进而，适应度函数空间上的最上位级别的个体的分布中，通过将邻接的个体间的距离作为分布指标来利用，在稀疏区域内能够容易地生成新个体。由此，在适应度函数空间上的广泛的区域中能够以没有偏离的分布来生成最上位级别的个体。这样，能够容易地得到具有多样性的佩瑞多最优个体。

此外，在生成的新个体与亲本个体集合的个体重复情况下，对新的子个体赋予给最下位级别。由此，在佩瑞多最优个体的搜索初期，可以使差的个体慢慢减少，在佩瑞多最优个体的搜索后期，可以维持佩瑞多最优个体的多样性。

另外，根据由适应度推定部3算出的推定值的组，佩瑞多最优个体在显示装置105的画面上显示。这样，使用者能够在视觉上认识佩瑞多最优个体，因此可以容易地进行各种决策。

(2)第2实施方式

下面，说明与本发明的第2实施方式相关的多目的最优化装置。与本实施方式相关的多目的最优化装置具有图1和图2所示的构成。另外，与本实施方式相关的多目的最优化装置的全体处理，与图5和图6表示的处理相同。

本实施方式与第1实施方式不同的是，图5的步骤S3以及图6的步骤S9中的推定值的算出方法、和图6的步骤S6中的特定的亲本个体的选择方法。

(a)推定值的算出

本实施方式中，真的适应度f(x)的推定值f′(x)由改良的推定式来算出。

$f^{\′}\left(x\right)=\frac{F\left(x\right)+\underset{l=2}{\overset{H}{\mathrm{\Σ}}}\frac{1}{k^{\′}{d}_1^3+1}F\left(h_1\right)}{1+\underset{l=2}{\overset{H}{\mathrm{\Σ}}}\frac{1}{k^{\′}{d}_1^3+1}}...\left(9\right)$

如上式(9)所示，推定值f′(x)是用在参数空间上的包含距离d₁的3次幂的函数来加权的加权平均的式子表示。

根据上式(9)，从注目个体到搜索履历HS内的个体的距离越短权重就变得越大。一方面，如果从注目个体到搜索履历HS内的个体的距离变长，由权重变得极其小。因此，远离注目个体的个体对推定值f′(x)的算出基本上不起作用。

图21是表示根据搜索履历存贮装置31中存贮的搜索履历的个体搜索的模式图。图21(a)是表示单目的最优化中的搜索初期的个体集合，图21(b)是表示多目的最优化中的搜索初期的个体集合，图21(c)是表示单目的最优化中的搜索后期的个体集合，图21(d)是表示多目的最优化中的搜索后期的个体集合。

图21(a)、(c)的纵轴表示适应度函数f，横轴表示参数x。图21(b)、(d)的纵轴表示适应度函数f₂，横轴表示适应度函数f₁。

在搜索初期，如图21(a)、(b)所示的多个个体是分散的。在搜索后期，单目的最优化中，如图21(c)所示的个体集中于某一个参数的附近，多目的最优化中，如图21(d)所示的多个个体形成佩瑞多最优个体集合。

这样，多目的最优化中，因为个体是在适应度函数空间的广泛的范围内分散，通过利用式(9)，远离注目个体的个体的贡献变得很小，由此推定值的精度变高。

(b)从特定的亲本个体的选择到世代交替的方法

图22是用于说明从亲本个体的选择到世代交替的方法的模式图。本实施方式中，示出了3个适应度函数f₁、f₂、f₃的例子。

如图22(a)所示，通过佩瑞多分级，亲本个体集合P被赋予级别。如图22(b)所示，对于亲本个体集合P的级别1的个体集合，将适应度函数空间上的邻接的各3个的个体形成的三角形的面积作为分布指标而算出。

三角形的形成利用德劳内(Delaunay Triangulation)三角形分割的方法(参照文献6)。

这里，简单说明一下德劳内三角形分割。德劳内三角形分割是作为计算机几何学(Computational Geometry)之中的重要的概念的布鲁诺伊图(VoronoiDiagram)的对偶图形。在平面(空间)上的点集合的三角形分割中，作为在种种意义上最优的三角形分割而被公知，也应用于计算机图形学中的网格生成或有限元法等中。德劳内三角形分割是使分割后的三角形的最小角成为最大的分割方法，有作为算法利用逐次添加法、分割统治法或几何变换的方法等。此外，对德劳内三角形分割的详细例如在文献7中有记载。

赋予最大三角形面积的3个个体IA、IB、IC之中的任1个个体作为第1亲本个体IA以概率1/3随机地被选择。进而，第2亲本个体ID和第3亲本个体IE从亲本个体集合P中以随机选择方式而被选择。

接下来，如图22(c)所示，从第1、第2和第3的亲本个体IA、ID、IE生成子个体集合C。进而，如图22(d)所示，从子个体集合C和亲本个体集合P生成个体集合F，对个体集合F进行利用上述α优越策略的佩瑞多分级。此时，在子个体集合C中存在与亲本个体集合P中含有的个体重复的个体的情况下，该个体被赋予最下位级别。

然后，如图22(e)所示，对个体集合F进行混乱度排序，根据个体的级别以及各级别内的顺序选择规定数的个体，消除剩下的个体。这样，生成新的亲本个体集合P。如这样，进行世代交替。

另外，特定的亲本个体的选择方法，并不限定于本实施方式，也可以将形成最大三角形面积的3个个体作为第1、第2和第3的亲本个体来选择，或者也可以将形成最大三角形面积的3个个体中的2个作为第1和第2亲本个体来选择，而且第3亲本个体从亲本个体集合P中通过随机选择、轮盘赌选择或淘汰选择等方法来选择。

另外，参数是3个以上的情况下，也可以使用扩展的多亲本交叉方法，例如UNDX-m等。

图23是表示由多目的进化型算法部2的特定的亲本个体的选择处理的流程图。

首先，多目的进化型算法部2将从亲本个体集合P中选择的级别1的个体集合在fi-fj平面上正投影(步骤S61)。这里，fi和fj是适应度函数。i，j＝1，2，3，且i≠j，它们的组合按照每一个世代变化。

接着，多目的进化型算法部2进行正投影后个体集合的德劳内三角形分割(步骤S62)。

进而，多目的进化型算法部2向德劳内三角形分割后的级别1的个体集合以适应度函数f_k的成分作为高成分来赋值，在三维空间上展开多个三角形(步骤S63)。这里，k≠i，j。

然后，多目的进化型算法部2分别算出在三维空间上展开的多个三角形的面积(步骤S64)。

形成面积最大的三角形的3个个体之中的一个个体作为第1亲本个体，以概率1/3随机地被选择，并且从亲本个体集合P中随机选择2个个体作为第2亲本个体和第3亲本个体(步骤S65)。

(c)第2实施方式的效果

与本实施方式相关的多目的最优化装置1，按上式(9)对与存贮在搜索履历存贮装置31内的各个个体对应的采样值的组进行加权，利用加权的多个组的采样值的线性和，求出与注目个体对应的适应度的推定值的组。

各个体的权重因为是包含在参数空间上的注目个体与该个体之间距离的3次幂的函数，所以在参数空间上与注目个体远离的其它个体的影响变得十分小。由此，能够得到与真的适应度值误差足够小的推定值。这样，即使在从最优化对象输出的采样值具有不确定性的情况下，也可以得到合适的佩瑞多最优个体集合。

进而，在适应度函数空间上的最上位级别的个体的分布中，通过将邻接的3个个体为顶点的三角形的面积作为分布指标来利用，能够在稀疏区域内容易地生成新个体。由此，在适应度函数空间上的广泛的区域中能够以没有偏离的分布来生成最上位级别的个体。这样，能够容易地得到具有多样性的佩瑞多最优个体。

(3)其它实施方式

(a)扩展的推定式

将上面的式(4)和式(9)一般化后，变成下面的式子。

$f^{\′}\left(x\right)=\frac{F\left(x\right)+\underset{l=2}{\overset{H}{\mathrm{\Σ}}}\frac{1}{k^{\′}{d}_1^n+1}F\left(h_1\right)}{1+\underset{l=2}{\overset{H}{\mathrm{\Σ}}}\frac{1}{k^{\′}{d}_1^n+1}}...\left(10\right)$

上式(10)中，n是任意的自然数。第1实施方式的推定式(4)表示n＝1的情况，第2实施方式的推定式(9)表示n＝3的情况。虽然n＝3是优选的，n为其它自然数也可以。

这样，注目个体的真的适应度的推定值，不利用含有噪音成分的适应度的采样值，可通过搜索履历HS中的其它个体的推定值的加权线性和来算出。由此，即使采样值具有不确定性的情况下，也可以稳定地搜索佩瑞多最优个体。

另外，因为利用包含参数空间上的注目个体与其它个体之间距离的n次幂的函数的权重，所以能够防止推定值的算出受到在广泛的范围内扩散的其它个体的大的影响。所以，能够高精度地算出推定值。

(b)亲本个体的选择

如第1实施方式中所示的那样，对2目的最优化问题，作为特定亲本个体的选择用的分布指标利用个体之间的距离。此外，如第2实施方式中所示的那样，对3目的最优化问题，作为特定亲本个体的选择用的分布指标利用3个个体形成的三角形的面积。

特定亲本个体的选择用的分布指标扩展到m目的最优化问题的情况下，分布指标是在适应度函数空间上邻接的n个个体形成的单体(simplex)的大小。M是2或其以上自然数。上述的单体，可以用德劳内三角形分割来形成。

图24是表示扩展到m目的最优化问题的分布指标的图。如图24所示，2目的的情况下，分布指标是连接邻接的2个个体之间的直线的长度，3目的的情况下，分布指标是以邻接的3个个体为顶点的三角形的面积，4目的的情况下，分布指标是以邻接的4个个体为顶点的三角锥的体积。分布指标是4维单体的大小，由底的体积×高度÷4来算出。5目的的情况下，分别指标是5维单体的大小，由底的4维面积×高度÷5来算出。(m+1)目的的情况下，分布指标是m维单体的大小，由底的(m-1)维面积×高度÷m来算出。

这样，通过根据分布指标选择特定的亲本个体，在适应度函数空间上的分布稀疏的区域内可以进行积极的个体的搜索。由此，因为可在广泛的区域上进行个体的搜索，能够高精度地算出推定值，同时可以在适应度函数空间上的广泛区域内均等地找出佩瑞多最优个体。

(c)对发动机模拟器的适应例

图25是表示多目的最优化装置适用于发动机模拟器中的例子的框图。

图25的最优化对象6a是发动机模拟器。发动机模拟器是，例如由个人计算机组成。该最优化对象6a，根据从多目的最优化装置1赋予的参数的组，进行发动机的动作的模拟，模拟结果作为适应度的采样值的组向最优化装置1输出。

本实施方式中，作为多个的适应度函数，设定燃料费、扭矩、发动机的排出气体中含有的CO(一氧化碳)、HC(碳化氢)、NOx(氮元素的氧化物)等的成分的浓度等之中的多个。

另外，作为参数，可以列举燃料喷射量、燃料喷射时间、点火时间、节流阀的开度等。

根据图25的多目的最优化装置1，通过设定适应度函数的组和参数的组，可以高效率地求出佩瑞多最优个体集合。

(d)对电动机评价装置的适应例

图26是表示多目的最优化装置适用于电动机评价装置的例子的框图。

图26的最优化对象6b是电动机评价装置。电动机评价装置由电动机、控制电路以及各种检出电路组成。该最优化对象6b，根据从多目的最优化装置1赋予的个体的参数的组，控制电动机，同时测定电动机的多个性能项目，将测定结果作为适应度的采样值的组向多目的最优化装置1输出。

作为多个适应度函数，设定加速时间、稳定时间、过冲量、消耗电流等之中的多个。

另外，作为参数，可以列举PID(比例积分微分：Proportional IntegralDerivative)增益、驱动电流等。

这里，作为平衡关系，可以列举加速时间和过冲量、加速时间和消耗电流、稳定时间和过冲量等。

根据图26的多目的最优化装置1，通过设定适应度函数的组和参数的组，可以高效率地求出佩瑞多最优个体集合。

此外，通过实时地算出佩瑞多最优个体集合，可以进行与实际环境相适应的电动机的实时控制。

(e)对电动机模拟器的适应例

图27是表示多目的最优化装置适用于电动机模拟器的例子的框图。

图27的最优化对象6c是电动机模拟器。电动机模拟器例如由个人计算机组成。该最优化对象6c，根据从多目的最优化之中1赋予的参数的组，进行电动机的动作的模拟，将模拟结果作为适应度的采样值的组向多目的最优化装置1输出。

作为多个适应度函数，设定加速时间、稳定时间、过冲量、消耗电流等之中的多个。另外，作为参数，可以列举PID增益、驱动电流等。

根据图27的多目的最优化装置1，通过设定适应度函数的组和参数的组，可以高效率地求出佩瑞多最优个体集合。

(f)多目的进化型算法的其它例子

上述实施方式中，作为多目的进化型算法虽然利用遗传性算法(GA)，但并不限定于此，代替遗传性算法，也可以利用进化策略(ES：EvolutionStrategy)等基于同样想法的计算方法。

另外，GA、ES等的计算方法被统称为进化算法(EAs：EvolutionaryAlgorithms)或进化计算(Evolutionary Computation)。

(g)对4个以上目的的适用

上述实施方式中，以2目的或3目的的最优化为例子进行了说明，但本发明也可以同样地适用于4目的或其以上的最优化。此时，设定具有平衡关系的4个以上的适应度函数。

(h)世代交替方法

上述图6的步骤S10中，也可以将子个体集合C之中不与亲本个体集合P的个体重复的个体，与亲本个体集合P的下位的个体替换，由此生成新的亲本个体集合P。

此时，在佩瑞多最优个体的搜索初期，能够缓慢地使差的个体减少，在佩瑞多最优个体的搜索后期，可以维持佩瑞多最优个体的多样性。

(i)亲本个体的再次评价

上述实施方式中，虽然进行了亲本个体的再次评价，但在实际的系统或者大规模模拟中个体的评价次数有限制的情况下，也可以只对子个体进行再次评价。这样，就可以减少评价次数。

(j)采样值的获得的限制

也可以在搜索履历存贮装置31中存贮的采样值的量达到规定的存贮容量的时刻，结束向搜索履历存贮装置31的采样值的获得。这样，以后可以根据搜索履历存贮装置31中存贮的搜索履历HS来算出推定值，根据算出的推定值来进行佩瑞多最优个体的搜索。

(k)级别赋予

上述实施方式中，虽然通过佩瑞多分级进行多个个体的级别赋予，但并不限定于此，也可以利用非优越排序等的其它方法对多个个体赋予级别。

(l)各部的实现方法

上述实施方式中，虽然由CPU101和程序来实现多目的进化型算法部2、适应度推定模块30和搜索履历存贮部31，但多目的进化型算法部2、适应度推定模块30和搜索履历存贮部31的一部分或全部也可以由电子电路等的硬件来实现。

(4)实施例1和比较例1

以下的实施例1中，由与第1实施方式相关的多目的最优化装置执行基准点问题。另外，比较例1中，除了选择算符以外，由与第1实施方式相关的多目的最优化装置同样的多目的最优化装置来执行基准点问题。

图28是表示比较例1和实施例1的多目的最优化的条件的图。图28(a)表示比较例1的多目的最优化条件，图28(b)表示实施例1的多目的最优化的条件，图28(c)表示比较例1和实施例1中执行的基准点问题。

如图28(a)所示，比较例1中，个体集合大小是100，世代数是30，评价次数是3000。其中，评价次数包含亲本个体的再次评价。此外，比较例1中，作为选择算符，使用了二元淘汰选择，作为交叉算符利用UNDX。

如图28(b)所示，实施例1中，个体集合大小是100，世代数是300，评价次数是3000。另外，实施例1中，作为选择算符，利用第1实施方式的选择方法(图17所示的特定的亲本个体的选择方法)，作为交叉算符利用UNDX。进一步，利用了图17所示的世代交替方法。

比较例1和实施例1中，常数k′(＝(k₁，k₂)是在预备实验里决定的，是k₁＝k₂＝1000。另外，实施例1的α优越策略中的α(＝(α₁₂，α₂₁)是0.1。

这里，平价次数由(世代数×子个体数+初期个体集合的个体数)求出的。

实施例1及比较例1中，作为基准点问题利用了图28(c)所示的2个问题ZDT1和ZDT2(参照文献8)。

ZDT1是佩瑞多最优解集合具有凸型的佩瑞多边界的2目的最优化问题。ZDT2是佩瑞多最优解集合具有凹型的佩瑞多边界的2目的最优化问题。这里，ZDT1和ZDT2是2变量、2目的函数的最小化问题。另外，在各个目的函数中加入适当的噪音。并且，该ZDT1、ZDT2具有弱佩瑞多最优解。

图29是表示比较例1和实施例1中的第50代中得到的佩瑞多最优个体集合的图。图29(a)表示在采样值不包含噪音的状态下由比较例1的最优化得到的佩瑞多最优个体集合，圆圈标记是真的适应度，实线是佩瑞多边界。图29(b)表示在采样值含有噪音的状态下由比较例1的最优化得到的佩瑞多最优解的集合，圆圈标记是没有噪音的真的适应度，菱形是推定值，实线是佩瑞多边界。图29(c)表示在采样值带有噪音的状态下由实施例1的最优化得到的佩瑞多最优个体集合，圆圈标记是没有噪音的真的适应度，菱形是推定值，实线是佩瑞多边界。

如果在采样值不含有噪音的状态下由比较例1进行最优化，则如图29(a)所示，真的适应度和推定值具有沿凸型及凹型的佩瑞多边界的形状。

然而，如果在采样值含有噪音的状态下由比较例1进行最优化，则如图29(b)所示可知：真的适应度和推定值都散乱地分散，存在很多没有到达佩瑞多边界的个体，进而弱佩瑞多最优个体变成佩瑞多最优个体。

与此相对，如果在采样值含有噪音的状态下由实施例1进行最优化，则如图29(c)所示可知：真的适应度和推定值都以基本上没有偏离的分布，到达了凸型或凹型的边界，进而弱佩瑞多最优个体被排除。

因此，根据与第1实施方式相关的多目的最优化装置，通过利用α优越策略，即使在具有弱佩瑞多最优解的2目的最优化问题中，能够排除弱佩瑞多最优个体的同时，高精度地算出佩瑞多最优个体集合中的推定值。由此，可以使真的适应度和推定值到达佩瑞多边界。

(5)实施例2和比较例2

以下的实施例2中，由与第2实施方式相关的多目的最优化装置执行了基准点问题。另外，比较例2中，除了选择操作以外，由与第2实施方式相关的多目的最优化装置同样的多目的最优化装置执行基准点问题。

图30是表示比较例2和实施例2的多目的最优化的条件的图。图30(a)表示比较例2的多目的最优化条件，图30(b)表示实施例2的多目的最优化的条件，图30(c)表示比较例2和实施例2中执行的基准点问题。

如图30(a)所示，比较例2中，个体集合大小是100，世代数是30，评价次数是3000。其中，评价次数包含亲本个体的再次评价。此外，比较例2中，作为选择算符，利用二元淘汰选择，作为交叉算符利用UNDX。

如图30(b)所示，实施例2中，个体集合大小为100，世代数是300，评价次数是3000。另外，实施例2中，作为选择算符，利用第2实施方式的选择方法(图22所示的特定的亲本个体的选择方法)，作为交叉算符利用UNDX。进一步，利用图22所示的世代交替方法。

比较例1和实施例1中，常数k′(＝(k₁，k₂，k₃)是在预备实验里决定的，是k₁＝k₂＝k₃＝100000。另外，实施例2的α优越策略中的α(＝(α₁₂，α₂₃＝α₃₁)是0.1。

实施例2及比较例2中，作为基准点问题利用图30(c)表示的2个问题的DTLZ2。

DTLZ2是佩瑞多最优解集合具有凹型的佩瑞多边界的3目的最优化问题。这里，DTLZ2是3变量、3目的函数的最小化问题。另外，在各个目的函数中加入适当的噪音。

图31是表示比较例2和实施例2中得到的佩瑞多最优个体集合的图。图31(a)表示在采样值不包含噪音的状态下由比较例2的最优化得到的佩瑞多最优个体集合，圆圈标记是真的适应度，实线是佩瑞多边界。图31(b)表示在采样值含有噪音的状态下由比较例2的最优化得到的佩瑞多最优解集合，圆圈标记是没有噪音的真的适应度，菱形是推定值，实线是佩瑞多边界。图31(c)表示在采样值含有噪音的状态下由实施例2的最优化得到的佩瑞多最优个体集合，圆圈标记是没有噪音的真的适应度，菱形是推定值，实线是佩瑞多边界。

如果在采样值不含有噪音的状态下由比较例1执行最优化，则如图31(a)所示，真的适应度和推定值具有沿凹型的佩瑞多边界的形状。

然而，如果在采样值含有噪音的状态下由比较例2执行最优化，则如图31(b)所示，真的适应度和推定值是散乱地分散的，存在很多没有到达佩瑞多边界的个体。

与此相对，如果在采样值含有噪音的状态下由实施例2执行最优化，则如图31(c)所示，真的适应度和推定值以基本上没有偏离的分布，到达了凹型的佩瑞多边界。

因此，根据与第2实施方式相关的多目的最优化装置，通过利用上述的特定的亲本个体的选择方法和世代交替方法，即使对于3目的最优化问题，也可以高精度地算出佩瑞多最优个体集合中的推定值。由此，可以使真的适应度和推定值到达佩瑞多边界。

(6)实施例3

以下的实施例3中，由图1的多目的最优化装置1执行图3的最优化对象6的多目的最优化。

从多目的最优化装置1作为参数，将点火时间和燃料喷射时间赋予给最优化对象6的ECU62。通过最优化对象6的控制器64控制车速和空燃比恒定，根据从多目的最优化装置1赋予的参数，由ECU62使点火时间和燃料喷射时间变化，通过排出气体分析计63分析HC浓度和NOx浓度。分析后的HC浓度和NOx浓度作为采样值输出到多目的最优化装置1。

图32是表示实施例3的多目的最优化条件的图。如图32所示，实施例3中，个体集合大小为50，子个体集合大小是10，世代数是23，评价次数为280。另外，实施例3中，作为选择算符，利用第1实施方式的选择方法(图17所示的特定的亲本个体的选择方法)，作为交叉算符利用UNDX。常数k′(＝(k₁，k₂)是100000，作为世代交替方法利用第1实施方式的方法(图17所示的世代交替方法)。

图33是表示实施例3中得到的采样值以及推定值的图。图33的纵轴是NOx浓度，横轴是HC浓度。纵轴和横轴的值是正规化后的值。圆圈标记表示第23代(280个体)的采样值，菱形标记表示最终世代的推定值。

图34是将实施例3中得到的最终世代的佩瑞多最优个体的推定值在适应度函数空间上表示的图。图34的纵轴是NOx浓度，横轴是HC浓度。纵轴和横轴的值是正规化后的值。

图35是将实施例3中得到的最终世代的佩瑞多最优个体的参数在参数空间上表示的图。图35的纵轴是燃料喷射时间，横轴是点火时间。纵轴和横轴的值是正规化后的值。

图34和图35中，容易地理解推定值和参数之间的关系，多个佩瑞多最优个体被分类成3个系列1～3。菱形标记表示系列1的佩瑞多最优个体，四角形标记表示系列2的佩瑞多最优个体，三角形标记表示系列3的佩瑞多最优个体。

系列1是HC浓度好NOx浓度差的区域，系列2是HC浓度和NOx浓度平衡的区域，系列3是HC浓度差NOx浓度好的区域。从图35可以看出，如果使喷射时间提前且点火时间的值变小，则可改善HC浓度，如果使喷射时间延迟且点火时间的值变大，则可改善NOx的浓度。

(7)权利要求项的构成要素和实施方式的各部之间的对应

上述实施方式中，搜索履历存贮装置31相当于存贮部，适应度推定模块30相当于推定部，多目的进化型算法部2相当于演算部。

Claims (20)

1.一种多目的最优化装置，其向最优化对象赋予个体参数的组，从前述最优化对象接受与对应多个目的的多个适应度函数有关的适应度的采样值的组，该多目的最优化装置包括：

存贮部，其存贮个体的参数的组以及从前述最优化对象输出的适应度的采样值的组；

推定部；和

演算部；

前述推定部，对与前述存贮部中存贮的各个体对应的采样值的组进行加权，求出加权的多个组的采样值的线性和，由此求出与作为处理对象所要关注的关注个体对应的“真”适应值的推定值的组，各个体的权重是包含参数空间上的关注个体与所述各个体之间的距离的函数，

前述演算部，对于前述多个适应度函数的每一个，比较与评价用个体集合的多个个体对应的推定值的优劣，进行对于前述多个适应度函数的每一个的比较结果加权，根据对于前述多个适应度函数加权的多个比较结果的线性和，进行前述评价用个体集合的多个个体的级别赋予，

根据表示在适应度函数空间上前述评价用个体集合的最上位级别的个体的分布的稀疏程度的分布指标，生成新个体；

将生成的新个体的参数的组赋予给前述最优化对象和前述存贮部，同时根据由前述推定部求出的多个组的推定值，按照多目的进化型算法，对所述评价用个体集合进行评价，由此求出佩瑞多最优个体集合。

2.如权利要求1所述的多目的最优化装置，其特征在于，前述推定部，将前述存贮部中存贮的多个个体设为h₁，将与关注个体x对应的采样值的组设为F(x)，将在参数空间上与关注个体远离距离d₁的个体对应的采样值的组设为F(h₁)，设k′作为预定的系数，设H为存贮部中所存贮的个体数目，l＝2，…，H，n为自然数的情况下，

$f^{\′}\left(x\right)=\frac{F\left(x\right)+\underset{l=2}{\overset{H}{\mathrm{\Σ}}}\frac{1}{k^{\′}{d}_1^n+1}F\left(h_1\right)}{1+\underset{l=2}{\overset{H}{\mathrm{\Σ}}}\frac{1}{k^{\′}{d}_1^n+1}}$

根据上式表示的推定式，算出与关注个体x对应的“真”适应值的推定值的组f′(x)。

3.如权利要求2所述的多目的最优化装置，其特征在于，前述n是1。

4.如权利要求2所述的多目的最优化装置，其特征在于，前述n是3。

5.如权利要求1所述的多目的最优化装置，其特征在于，前述演算部，将与p个目的对应的p个适应度函数之中一个适应度函数有关的与个体x1和x2对应的适应度的推定值设为f_k(x1)和f_k(x2)，将p个适应度函数之中其它适应度函数有关的与个体x1和x2对应的适应度的推定值设为f_j(x1)和f_j(x2)，设k＝1，…，p，j＝1，…，p，且k与j不同，将α_kj设为预定权重，在由式 $g_k(x_1,x_2)=f_k\left(x_1\right)-f_k\left(x_2\right)+\underset{j\≠k}{\overset{1...p}{\mathrm{\Σ}}}{\mathrm{\α}}_{\mathrm{kj}}(f_j\left(x_1\right)-f_j\left(x_2\right))$ 所表示的g_k(x1，x2)对于k＝1，…，p的全部满足g_k(x1，x2)≤0并且对于k＝1，…，p的至少1个具有g_k(x1，x2)＜0的关系的情况下，判定个体x1比x2优越。

6.如权利要求1所述的多目的最优化装置，其特征在于，

在前述多个目的是2个或其以上的m个目的的情况下，前述分布指标值是在与m个目的对应的适应度函数空间上与关注个体邻接的m个个体形成的单体的大小，

前述演算部，根据前述单体的大小来选择稀疏程度最高的个体，利用被选择的个体来生成新个体。

7.如权利要求6所述的多目的最优化装置，其特征在于，在前述多个目的是2个目的的情况下，前述单体的大小用在适应度函数空间上连接与关注个体邻接的2个个体的直线的长度来表示；在前述多个目的是3个目的的情况下，前述单体的大小用在适应度函数空间上以与关注个体邻接的3个个体作为顶点的三角形的面积来表示；在前述多个目的是4个目的的情况下，前述单体的大小用在适应度函数空间上以与关注个体邻接的4个个体作为顶点的三角锥的体积来表示。

8.如权利要求6所述的多目的最优化装置，其特征在于，在前述多个目的是4个或其以上的m个目的的情况下，前述单体的大小由在适应度函数空间上与关注个体邻接的m个个体形成的单体的底的m-1维面积×高度/m来表示。

9.如权利要求6所述的多目的最优化装置，其特征在于，在前述多个目的是3个或其以上目的的情况下，前述单体利用德劳内三角形分割法来形成。

10.如权利要求1所述的多目的最优化装置，其特征在于，前述演算部，在生成的新个体与前述评价用个体集合的个体不同的情况下，前述新个体与前述评价用个体集合的下位级别的个体来替换。

11.如权利要求1所述的多目的最优化装置，其特征在于，前述演算部，在生成的新个体与前述评价用个体集合的个体重复的情况下，向前述新个体赋予最下位级别。

12.如权利要求1所述的多目的最优化装置，其特征在于，前述演算部对前述评价用个体集合的各个体进行一次评价。

13.如权利要求1所述的多目的最优化装置，其特征在于，前述推定部在前述存贮部中存贮的采样值的组的量达到规定的存贮容量的情况下，结束从前述最优化对象输出的采样值的组的存贮。

14.如权利要求1所述的多目的最优化装置，其特征在于，前述演算部根据由前述推定部求出的推定值的组来表示前述佩瑞多最优个体。

15.如权利要求1所述的多目的最优化装置，其特征在于，前述最优化对象包含用于评价仪器的多个性能的评价系统，前述参数的组包含为前述评价系统的控制用参数的组，前述多个适应度函数是由前述评价系统的评价得到的前述多个性能，前述适应度的组是前述多个性能的值。

16.如权利要求15所述的多目的最优化装置，其特征在于前述仪器是发动机。

17.如权利要求15所述的多目的最优化装置，其特征在于前述仪器是电动机。

18.如权利要求15所述的多目的最优化装置，其特征在于，前述评价系统是根据前述参数的组控制前述仪器的同时，将由前述仪器的动作产生的多个性能的值作为采样值而输出的仪器评价装置。

19.如权利要求15所述的多目的最优化装置，其特征在于，前述评价系统是根据前述参数的组通过模拟前述仪器的动作来评价多个性能，将评价后的多个性能的值的组作为采样值的组而输出的仪器模拟器。

20.一种多目的最优化方法，其向最优化对象赋予个体的参数的组，根据与对应从最优化对象输出的多个目的的多个适应度函数有关的适应度的采样值的组，对参数进行最优化的多目的最优化方法，该方法包含：

在存贮部中存贮个体的参数的组以及从前述最优化对象输出的适应度的采样值的组的步骤；

求出推定值的组的步骤；

求出佩瑞多最优个体集合的步骤；其中：

求出推定值的组的前述步骤包含下述子步骤，即对与前述存贮部中存贮的每一个体对应的采样值的组进行加权，求出加权的多个组的采样值的线性和，由此求出与作为处理对象所要关注的关注个体对应的“真”适应值的推定值的组，各个体的权重是包含在参数空间上的关注个体与所述各个体之间距离的函数；

求出佩瑞多最优个体集合的前述步骤包含下述三个子步骤：

对于前述多个适应度函数的每一个，比较与评价用个体集合的多个个体对应的推定值的优劣，进行对前述多个适应度函数的每一个的比较结果加权，根据对前述多个适应度函数加权的多个比较结果的线性和，进行前述评价用个体集合的多个个体的级别赋予的子步骤；

根据表示在适应度函数空间上前述评价用个体集合的最上位级别的个体的分布的稀疏程度的分布指标，生成新个体的子步骤；和

将生成的个体的参数的组赋予给前述最优化对象和前述存贮部，同时，根据由求出推定值的组的前述步骤所求出的多个组的推定值，按照多目的进化型算法来评价所述评价用个体集合，由此求出佩瑞多最优个体集合的子步骤。

Images