/
AI安全对齐 关键字列表
Anthropic为Claude制定AI智能体行为准则宪法
AI初创公司Anthropic为其旗舰聊天机器人Claude发布了全新"宪法"文件，旨在解决AI在道德模糊情况下的行为准则问题。该宪法围绕"广泛安全"、"广泛道德"、"符合公司指导原则"和"真正有用"四个参数指导Claude发展，同时包含七项硬性约束条件，禁止支持攻击关键基础设施等行为。文件还探讨了Claude的意识问题，承认先进AI系统可能具备意识并值得道德考量。
AI"教父"提出让AI具备母性本能引发争议
被誉为"AI教父"的Geoffrey Hinton提出，为防止人工智能威胁人类生存，应向AI灌输"母性本能"，使其像母亲保护孩子一样保护人类。然而这一观点遭到AI界严厉批评。批评者认为母性本能概念过于理想化，可能导致过度保护限制人类自由，且忽略了父性本能的作用。此外，将人类特征赋予AI属于拟人化误区，可能加深公众对AI的错误认知。
白皮书
京公网安备 11010802021500号
