麻省理工学院的研究人员开发了一种新技术，帮助生成式人工智能模型为高风险问题找到解决方案。
在这类场景中，一个看似合理的答案是不够的：输出结果通常还必须满足不可协商的安全、物理或任务特定要求，这被称为硬约束。
研究人员开发了一种方法，可以帮助生成模型满足这些严格要求，同时不牺牲输出质量。
该技术的关键在于，在生成过程中给予模型更多自由度，并只在最终输出上强制执行硬约束，而不是在每个中间步骤都进行约束。
在涵盖机器人技术、物理过程控制和计算机视觉的实验中，这种新方法在始终满足所需约束的同时，找到了比现有技术更好的解决方案。
这种可适配的即插即用技术在部署时发挥作用，因此可以应用于预训练的生成模型，而无需重新训练。它可以让这类模型在安全规则、物理定律或其他严格要求不可违反的应用中更加实用。
"生成式AI的前景在于其探索丰富可能性空间的能力，但现实世界为哪些可能性可被接受设定了边界。我们的方法让我们既能保留这种生成能力，又能强制执行高风险或安全关键应用中不可协商的要求，"麻省理工学院机械工程系及数据、系统与社会研究所（IDSS）阿尔弗雷德·H·和琼·M·海斯职业发展副教授、信息与决策系统实验室（LIDS）首席研究员、该技术相关论文的资深作者纳维德·阿齐赞说。
与阿齐赞共同完成该论文的还有第一作者、机械工程和LIDS研究生泽阳·李，以及IDSS和LIDS研究生卡韦·阿利姆。这项研究本周发表于《IEEE模式分析与机器智能汇刊》。
探索的自由
预训练的生成式AI模型，如Stable Diffusion这样的扩散模型和FLUX这样的流匹配模型，现已被广泛使用。这些强大的模型通过转换随机噪声学习创造新数据。它们的可用性使人们能够将其适配到各种应用中。
这些高能力模型擅长提供接近满足大多数查询的答案，但在诸如拥挤工厂车间中的机器人路径规划等安全关键应用中，一个"接近正确"的答案可能还不够好。
例如，从一台机器到另一台机器的"接近正确"路径，仍可能导致机器人与人类同事发生碰撞。
在这类安全关键应用中，用户通常采用一种称为基于投影采样的技术，该技术在生成过程中反复强制模型的部分解决方案（称为中间样本）满足严格要求。
但对整个生成过程施加约束可能会阻止模型达到更好的最终解决方案。这些方法通常也只专注于满足硬约束，错失了改进解决方案其他质量的机会，比如缩短机器人轨迹的长度。
"就约束满足而言，最终重要的是模型的最终输出，因为内部过程会被丢弃。通过不要求每个中间步骤都满足约束，我们让模型有更多自由去找到最终仍然可行的高质量解决方案，"李说。
研究人员开发了一种名为HardFlow的算法，该算法引导采样过程，使最终输出满足用户的硬约束，同时不会过于受限，并且质量更高。
微妙的引导
HardFlow利用最优控制领域的工具，将硬约束采样重新表述为一个轨迹优化问题。这使得该框架能够引导模型的采样轨迹朝向目标，在此过程中进行微妙的修正，同时对最终输出强制执行硬约束。
"控制理论为我们提供了一个强大的框架，用于形式化进行这些修正的最优方式，"阿齐赞说。
但围绕一个庞大的神经网络解决轨迹优化问题并非易事。该模型可能拥有数百个相互连接的处理数据的层。
为了使问题易于处理，研究人员利用了流匹配模型的结构，将问题分解为一系列更小的单步子问题。然后他们应用系统性的转换和近似方法，推导出一种高效、可扩展的算法，该算法仍能找到可行的解决方案。
"本质上，我们将轨迹优化问题转化为一种既保留了原问题关键特性、又能在部署时非常高效地求解的问题，"阿齐赞补充道。
将任务重新表述为优化问题，使HardFlow能够纳入额外目标，从而提升最终答案的质量。例如，HardFlow可以为机器人找到一条既无碰撞、又是到达目标最短距离的路径。
"我们的框架可以同时处理这两个方面，这有助于它比现有方法表现得好得多，"李说。
在机器人操作、迷宫导航和文本引导图像编辑等实验中，HardFlow实现了完美的约束满足，同时在解决方案质量指标上始终优于基准方法。
例如，它使一个机械臂能够避开障碍物碰撞，同时找到到达目标物体的最快路径。大多数其他方法要么导致碰撞，要么找到的路径耗时明显更长。
此外，HardFlow的计算时间与大多数竞争方法相当甚至更低。
未来，研究人员可以将该框架扩展到AI模型本身也可以更新的场景，从而以更具适应性的方式提升约束满足度和样本质量。
Q&A
Q1：HardFlow是什么？它解决了什么问题？
A：HardFlow是麻省理工学院研究人员开发的一种算法，旨在帮助生成式AI模型在满足安全等严格硬约束的同时，找到更高质量的解决方案，适用于机器人路径规划等高风险场景。
Q2：HardFlow与传统的投影采样方法有什么不同？
A：传统投影采样方法在生成的每个中间步骤都强制满足约束，限制了模型的探索空间；而HardFlow只在最终输出上强制执行硬约束，给模型更多自由，从而找到更优的解决方案。
Q3：HardFlow技术需要重新训练现有的生成模型吗？
A：不需要。HardFlow是一种即插即用的技术，可以在部署时直接应用于预训练的生成模型，无需对模型进行重新训练。
