arXiv新研究FLIWBO：用有限库输入扭曲提升贝叶斯优化的样本效率并保持收敛保证
FLIWBO-UCB在超参数优化与多智能体系统设计等基准测试中，优于原始坐标GP-UCB，并能摆脱固定核无法处理的几何失配。
AI解读：贝叶斯优化常用于调超参数或设计多智能体系统这类昂贵黑盒问题，但经典GP-UCB方法要求核固定，而固定核在原始坐标与目标几何不匹配（如对数尺度超参数）时，效率会大打折扣。本论文提出FLIWBO，从有限个平滑输入映射中按任意历史相关规则选择扭曲，在保持高概率收敛保证的前提下自适应几何，仅付出sqrt(N_eps)的库大小成本。实验显示，在合成扭曲目标、凹凸陷阱和Fashion-MNIST HPO基准上，FLIWBO-UCB比原始坐标GP-UCB表现更好，能摆脱连oracle扭曲期望改进都失败的陷阱，并恢复手工对数缩放的多数收益。对机器学习工程师而言，这意味着在默认几何错误时，不需要手动变换特征即可自动改进优化效率；但限制在于依赖有限库的选择，且识别出失败案例，效果并非万能。
arXiv预印本论文（arXiv:2609.02993）提出有限库输入扭曲贝叶斯优化（FLIWBO），在贝叶斯优化中通过从有限个平滑输入映射中选择扭曲，来修正几何失配，同时保留高概率收敛保证。
论文作者为Edvin Ketabati Augustinsson与Robert A. Bridges。研究针对高斯过程贝叶斯优化的样本效率问题：当原始坐标与实际目标几何不符，例如对数尺度超参数或局部尖峰时，输入扭曲可显著改善样本效率。
文章介绍，FLIWBO允许按任意历史相关规则从有限库中选择扭曲，以自适应输入几何加速学习，并在温和假设下保持高概率收敛保证，复杂度为库大小的平方根sqrt(N_epsilon)。
方法与基准测试结果
论文称，现有GP-UCB保证依赖固定核，无法在扭曲下保持收敛率证明；FLIWBO弥补了这一点，同时引入了明确的库大小代价。
实验部分显示，在四个重复基准上——扭曲合成目标、置信围栏陷阱以及Fashion-MNIST超参数优化——FLIWBO-UCB的表现优于原始坐标GP-UCB，尤其是在几何失配的情况下；它还能从甚至使oracle弯曲期望改进失手的陷阱中逃逸，并恢复了手工对数尺度操作的多数增益，同时领先于其他具有匹配后悔保证的测试方法。
文章还提到一个20维的多智能体系统设计研究，展示了该方法在昂贵且含噪评估下的可行性，实验代码已公开。