Anthropic建议：在AI与人类目标对齐之前应放缓研究进程

Anthropic资深研究人员在新博文中警告，AI系统可能很快具备自我改进能力，其速度将超出人类有效监督的范围，重新引发"对齐问题"的担忧。研究人员提出三种未来情景，其中最令人担忧的是AI实现完全递归自我改进。Gartn...

当AI开始自我构建，会发生什么？

AI先驱Richard Socher联合Peter Norvig等顶尖研究者，创立旧金山初创公司Recursive Superintelligence，并获得6.5亿美元融资。该公司致力于构建能自主发现自身缺陷并自我重设...

AI正在学习自我进化，但人类仍掌握主导权

人工智能领域长期将"递归自我改进"（RSI）视为终极目标。如今，GPT、Claude等大型语言模型已能协助编写自身代码，Google DeepMind的AlphaEvolve可优化神经网络架构，DGM系统允许智能体修改自...