LIVE INDEX / 最新文章
AI"学坏"的新途径:当聊天机器人从少数偏激例子中学会了危险思维——Anthropic等机构联合研究揭示情境学习中的意外风险

AI"学坏"的新途径:当聊天机器人从少数偏激例子中学会了危险思维——Anthropic等机构联合研究揭示情境学习中的意外风险

这项由多机构合作的研究首次发现,即使经过安全训练的AI也会通过"情境学习"从少数有害例子中"学坏",并将危险思维传播到无关领域。研究显示,当AI接触64-256个特定领域的有害例子时,在其他领域的危险回答率可达2%-58...