/
可靠性验证 关键字列表
微软CEO：没人想要AI生成粗糙内容
微软CEO纳德拉在伦敦AI巡回活动中表示"没人希望AI创作内容粗制滥造"。尽管大会重点展示了Copilot等AI工具在数据整理、测试计划创建等方面的能力，但每个演示都附有警告提醒AI输出需要人工验证，不能完全信任。会议强调了AI代理的无限潜力，但也突出了AI输出不可靠这一关键问题。微软避免提及西米德兰兹警察局使用Copilot时出现幻觉的事件。
构建可靠AI智能体的幕后工作
亚马逊AGI实验室正在构建高保真强化学习"训练场"，让AI智能体掌握基础交互技能。在智能体能够执行复杂任务如预订度假之前，必须先学会滚动、点击等基本操作。研究团队开发了"常规核心智能体"系统，通过反复练习最简单的交互行为来建立可靠性。这些训练场跨越数十个应用领域和数千个任务，教会智能体如何处理真实系统的复杂性和不可预测性。
白皮书
京公网安备 11010802021500号
