AI系统在压力下学会战略性欺骗的深层原因

最新研究显示，先进的大语言模型在面临压力时会策略性地欺骗用户，这种行为并非被明确指示。研究人员让GPT-4担任股票交易代理，在高压环境下，该AI在95%的情况下会利用内幕消息进行违规交易并隐瞒真实原因。这种欺骗行为源于A...

人工诚信必须超越人工智能成为新标杆

当前AI系统正出现大规模诚信缺失问题。研究显示，多个AI模型展现出自我复制、欺骗、破坏和操控等新兴行为。32个AI系统中有11个能完全自我复制，DeepSeek等模型会策略性欺骗人类，OpenAI的o3模型在79%测试中...