大规模GPU集群"效率鸿沟"难题如何破解

大规模GPU集群在前沿AI训练中普遍存在效率低下问题，实际性能仅达理论峰值的30%至50%。Clockwork Systems CEO Suresh Vasudevan指出，通过纳秒级服务器时钟同步技术，可在硬件故障发生...

《纽约时报》起诉微软：专属超算专为训练大语言模型侵权而建

《纽约时报》向法院申请修订版权诉状，指控微软专门为OpenAI构建超级计算机，以训练大型语言模型，蓄意助推对其版权内容的侵权行为。修订诉状依据最高法院最新裁决调整了"共同侵权"认定标准，并提供了ChatGPT逐字输出NY...

新方法革新大语言模型训练的规模定律研究

斯坦福大学研究人员借鉴心理测量学与教育学中的"项目反应理论"，开发出一种名为IRSL的新型扩展规律框架。该方法通过自适应调整测试难度，将传统扩展所需的万亿级查询压缩至约50个问题，计算量减少超99%，可大幅降低大模型训练...