麻省理工学院的研究人员开发出一种新技术，能帮助生成式AI模型为高风险问题找到解决方案。
在这些场景中，一个看似合理的答案是不够的：输出结果往往还必须满足不可协商的安全、物理或任务特定要求，这些要求被称为硬约束。
研究人员开发的方法能帮助生成模型满足这些严格要求，同时不牺牲输出质量。
该技术的关键在于，在生成过程中给模型更多自由度，只在最终输出上强制执行硬约束，而不是在每一个中间步骤上都进行约束。
在涵盖机器人技术、物理过程控制和计算机视觉的多项实验中，这种新方法始终能满足所需约束，同时找到比现有技术更优的解决方案。
这种可适配的即插即用技术在部署阶段发挥作用，因此可以应用于预训练的生成模型，而无需重新训练它们。这能让此类模型在那些安全规则、物理法则或其他严格要求不容违反的应用场景中变得更加实用。
"生成式AI的价值在于它能够探索丰富的可能性空间，但现实世界为哪些可能性是可接受的设定了边界。我们的方法让我们能够保留这种生成能力，同时执行高风险或安全关键应用中不可协商的要求，"机械工程系和数据、系统与社会研究所(IDSS)阿尔弗雷德·H和珍·M·海斯职业发展副教授、信息与决策系统实验室(LIDS)首席研究员、该技术论文的资深作者纳维德·阿齐赞说。
论文的合著者包括第一作者、机械工程系和LIDS研究生李泽阳，以及IDSS和LIDS研究生卡韦·阿利姆。这项研究本周发表于《IEEE模式分析与机器智能汇刊》。
探索的自由
预训练的生成式AI模型，例如Stable Diffusion这样的扩散模型和FLUX这样的流匹配模型，现在已被广泛使用。这些强大的模型通过转换随机噪声，学习创造新数据。它们的可获得性使人们能够将其适配到广泛的应用场景中。
这些高能力模型擅长提供接近满足大多数查询的答案，但在安全关键应用中，比如在拥挤的工厂车间进行机器人路径规划，一个"接近正确"的答案可能还不够好。
例如，从一台机器到另一台机器的"接近正确"路径，仍可能导致机器人与人类同事发生碰撞。
在这类安全关键应用中，用户通常采用一种称为基于投影的采样技术，该技术在生成过程中反复强制模型的部分解决方案（称为中间样本）满足严格要求。
但对整个生成过程进行约束可能会阻碍模型达到更优的最终解。这些方法通常也只专注于满足硬约束，错失了改进解决方案其他质量的机会，比如缩短机器人轨迹的长度。
"对于约束满足而言，最终重要的是模型的最终输出，因为内部过程会被丢弃。通过不要求每个中间步骤都满足约束，我们给模型更多自由去找到最终仍然可行的高质量解决方案，"李泽阳说。
研究人员开发了一种名为HardFlow的算法，用于引导采样过程，使最终输出满足用户的硬约束，同时不过分限制模型，并保持较高质量。
精细的引导
HardFlow借助最优控制领域的工具，将硬约束采样重新表述为轨迹优化问题。这使该框架能够引导模型的采样轨迹朝向目标前进，在过程中进行细微修正，同时对最终输出执行硬约束。
"控制理论为我们提供了一个强大的框架，可以将这些修正的最优方式正式化，"阿齐赞说。
但围绕一个庞大神经网络求解轨迹优化问题并非易事。该模型可能拥有数百个相互连接、处理数据的层。
为了使问题变得易于处理，研究人员利用了流匹配模型的结构，将问题分解为一系列更小的单步子问题。随后，他们应用系统性的变换和近似方法，推导出一种高效、可扩展的算法，该算法仍能找到可行的解决方案。
"本质上，我们将轨迹优化问题转化为一种保留了原问题关键特性、但能在部署时非常高效地求解的问题，"阿齐赞补充道。
将任务重新表述为优化问题，使HardFlow能够纳入其他有助于提升最终答案质量的目标。例如，HardFlow可以为机器人找到一条无碰撞的路径，同时这条路径也是到达目标的最短距离。
"我们的框架可以同时处理这两方面，这有助于它的表现远超现有方法，"李泽阳说。
在机器人操作、迷宫导航和文本引导图像编辑等多项实验中，HardFlow实现了完美的约束满足，同时在解决方案质量指标上始终优于基线方法。
例如，它使机器人操作臂能够避开障碍物碰撞，同时找到到达目标物体的最快路径。大多数其他方法要么导致碰撞，要么找到的路径耗时明显更长。
此外，HardFlow的计算时间与大多数竞争方法相当或更低。
未来，研究人员可以将该框架扩展到AI模型本身也可以更新的场景中，从而以更具适应性的方式改进约束满足和样本质量。
Q&A
Q1：HardFlow是什么？它能解决什么问题？
A：HardFlow是麻省理工学院研究人员开发的一种算法，能帮助生成式AI模型在满足严格安全或物理约束的前提下，找到高质量的解决方案，适用于机器人路径规划等高风险场景。
Q2：HardFlow和传统的基于投影的采样方法有什么区别？
A：传统方法在生成过程的每一步都强制满足约束，容易限制模型找到更优解。HardFlow只在最终输出上执行硬约束，给模型更多自由探索空间，从而获得更高质量的结果。
Q3：HardFlow需要重新训练现有的AI模型吗？
A：不需要。HardFlow是一种即插即用的技术，可以直接应用于已经预训练好的生成模型，在部署阶段发挥作用，无需重新训练。
