针对现有元黑盒优化方法存在的核心瓶颈——算法结构表征能力不足、在线优化数据动态适应性弱、跨任务泛化能力有限，团队借鉴表征学习、自适应学习等人工智能理论，创新研制了“演化逐臻：优化知识自适应演化模型”。该模型旨在突破传统优化器的局限，打造一种能够学习优化经验并持续生成创新解决方案的新型智能优化器。技术亮点包括：（1）构建大规模优化经验数据集及其高效生成方法；（2）设计先进的演化模型；（3）建立全面的预训练与微调范式。通过系统性解决算法表征、动态适应与知识迁移难题，“演化逐臻”有力支撑复杂黑盒优化问题的高效求解。

一、技术亮点

优化经验数据生成。团队提出一种高效的优化经验数据生成方法，面向复杂优化任务，结合优化任务库与经典演化算法（如遗传算法、CMA-ES、粒子群优化），快速生成大规模、多样化的优化经验数据。通过构建12000个合成问题，运行三种主流算法，最终生成360万条高质量数据，覆盖多种复杂函数场景，为演化模型训练与评估提供有力支持。

图1 优化知识自适应演化模型

演化模型及其训练方法。演化模型采用注意力机制建模个体、适应度与基因关系，结合多层感知器与Dropout实现可学习、并行的演化算子。训练分为两阶段（图1）：先在优化经验数据上进行预训练，学习种群演化规律；再通过自适应优化，在目标任务上实时微调模型，最小化生成种群与精英个体的距离以持续优化。该机制支持先验知识利用与零样本场景，形成通用的学习优化训练框架。

视觉-语言模型的提示调优案例。团队将自适应演化模型应用于视觉-语言模型的黑盒提示调优（图2）。在无法访问模型结构与梯度的实际场景下，演化模型通过优化提示显著提升多个视觉分类数据集上的小样本性能，相比现有方法在精度与效率上均表现更优，为黑盒模型调优提供高效解决方案。

图2 视觉-语言模型的提示调优应用

二、成果展示

12个迁移场景基准测试上的实验结果表明所提模型大幅领先现有演化知识迁移方法（图3），验证了其利用源任务的先验知识实现目标任务性能飞跃的能力。在无先验知识的场景下，24个黑盒优化问题基准测试上的实验结果显示，仅依赖微调仍取得极具竞争力的性能（图4），且受益于并行计算，运行时间仅需几个GPU秒。在视觉-语言模型的提示调优中，成功找到了超越先进黑盒基线的最佳提示（图5），显著提升小样本分类精度。

图3 迁移场景基准测试的解精度比较

图4 黑盒优化基准测试的收敛曲线比较

图5 黑盒提示调优任务的平均测试准确率比较

随着计算能力提升，科学与工业领域的优化任务日益复杂。传统黑盒优化算法严重依赖特定问题结构，难以有效利用先验知识与自生成知识，导致可迁移性与适应性受限，削弱了实际应用中的优化效能与可信度。为此，团队聚焦优化知识自适应演化模型研究，开发了优化经验数据集、演化模型及预训练与微调方法，在建模演化计算的可迁移性、适应性与可学习性方面取得关键突破。该工作为解决大规模复杂黑盒优化任务提供了基础优化模型支撑。

文案编辑｜王超 赵嘉璇 刘旭 张丹 孙龙 黄思婧

排 版｜张卓莹