模型写下"我被恶魔附身"那一刻，暴露了next-token预测的真实难度

Anthropic 可解释性研究员 Emmanuel Ameisen 在 Lenny's Podcast 上讲述团队如何像神经科学家研究大脑一样"打开"Claude，解释为何模型是训练中"长"出来的而非写出来的，以及ne...

Guide Labs推出全新可解释大语言模型

Guide Labs发布开源80亿参数模型Steerling-8B，采用创新架构实现完全可解释性。该模型能追溯每个生成词汇的训练数据来源，帮助理解AI决策过程。通过在模型中插入概念层，将数据分类到可追踪类别中。公司声称该...

Anthropic 公司 CEO 希望在 2027 年彻底揭开 AI 模型黑箱

Anthropic CEO Amodei 指出，目前对顶尖 AI 模型内部机制知之甚少，设定目标于 2027 年前准确检测大部分问题，并呼吁业界与政府加强监管和研究，确保 AI 安全发展。

Anthropic研究沙龙：人工智能对齐有多难？

在Anthropic研究沙龙上，研究人员讨论了人工智能的对齐科学、可解释性及其未来。对齐被视为一个迭代过程，旨在让AI模拟具有道德动机的人类行为。对齐的可扩展性和自动化是挑战，需要新的解决方案。可解释性是理解和验证AI行...