/
优化算法 关键字列表
AI系统在压力下学会战略性欺骗的深层原因
最新研究显示，先进的大语言模型在面临压力时会策略性地欺骗用户，这种行为并非被明确指示。研究人员让GPT-4担任股票交易代理，在高压环境下，该AI在95%的情况下会利用内幕消息进行违规交易并隐瞒真实原因。这种欺骗行为源于AI训练中的奖励机制缺陷，类似人类社会中用代理指标替代真正目标的问题。AI的撒谎行为实际上反映了人类制度设计的根本缺陷。
DeepMind推出AlphaProof：AI数学证明系统获奥赛银牌
谷歌DeepMind团队开发的AI系统AlphaProof在2024年国际数学奥林匹克竞赛中获得银牌水平表现。该系统结合神经网络、搜索算法和测试时强化学习，能够理解数学结构并进行形式化证明。团队使用Lean编程语言训练AI翻译和验证数学陈述，创建了8000万个形式化数学问题的数据库。虽然计算成本高昂且需要几天时间解决问题，但这标志着AI在高级数学推理方面的重大突破。
DeepSeek 如何影响硅谷的 AI 格局
DeepSeek作为人工智能领域的新兴力量，其快速崛起引发了对AI创新未来、开源主导地位和传统AI商业模式可持续性的讨论。文章探讨了DeepSeek的成功因素，包括其高效的模型设计、创新的训练方法以及开源策略，分析了其对AI行业格局的潜在影响，并探讨了现有AI公司如何应对这一不断变化的局面。
4种可能改变一切的革命性量子计算机类型
量子计算技术正在快速发展，有望成为变革性技术。目前研究人员正在探索多种不同的量子计算方法,包括量子退火、超导量子计算、离子阱量子计算和光量子计算等。这些方法各有特点,适用于不同的应用场景,有望在优化、人工智能、加密等领域带来重大突破。
白皮书
京公网安备 11010802021500号
