NeurIPS 2025｜CAKE：大模型驱动的贝叶斯优化新配方，让黑箱优化更智能、更高效

以下文章来源于香港中文大学深圳人工智能学院 ，作者智启未来的 香港中文大学深圳人工智能学院 . 欢迎关注香港中文大学（深圳）人工智能学院（SAI），拥抱AI，共建未来！ 在科学与工程实践中，常会遇到计算成本高、评估耗时的函数优化问题，例如复杂机器学习模型的超参数调整或新型材料的设计。贝叶斯优化（Bayesian Optimization，BO）作为针对这类 "黑箱" 问题的优化方法，已被证明具备良好效果。然而，该方法的性能很大程度上受限于其内部代理模型的选择，特别是当采 用高斯过程（Gaussian Process，GP）作为代理模型时，核函数的设定尤为关键。若核函数与问题特性不匹配，优化进程可能收敛缓慢，甚至无法得到理想的结 果。 Systems（NeurIPS 2025）接收，论文题为 "Adaptive Kernel Design for Bayesian Optimization Is a Piece of CAKE with LLMs". 该工作提出一个突破性的框架， 利用大 语言模 型（LLMs）的推理与生成能力，在优化过程中自动、动态地设计最优的高斯过程（GP）核函数。这项研究为构建更智能、高效 ...