企业推理场景需要多样化AI加速器
HPC和AI基础设施先驱David Driggers指出,企业推理场景不存在"一刀切"的加速器方案。随着混合专家模型和多模态推理的发展,不同加速器在处理音频、视频、文本等任务时各有优势。企业需根据超低延迟、能效、单tok...
HPC和AI基础设施先驱David Driggers指出,企业推理场景不存在"一刀切"的加速器方案。随着混合专家模型和多模态推理的发展,不同加速器在处理音频、视频、文本等任务时各有优势。企业需根据超低延迟、能效、单tok...
AMD发布强劲一季度业绩,总营收达103亿美元,同比增长38%,净利润近乎翻倍至14亿美元。数据中心营收增至58亿美元,同比增长57%,成为公司主要增长引擎。Meta计划部署高达6GW的AMD Instinct GPU,...
德国制药巨头勃林格殷格翰宣布,将在英国伦敦知识区核心地带设立全新AI与机器学习中心,预计10年内投资1.5亿英镑,并于2027年底前配置首批50名AI专家。该中心将专注于人工智能、机器学习、人类遗传学及计算生物学,助力公...
SK电信支持的AI芯片初创公司Rebellions在IPO前融资轮中筹集4000万美元,用于支持其全球扩张计划。该公司推出新的机架级计算平台RebelRack和RebelPods,面向企业和主权云市场。其Rebel100...
生成式AI的兴起推动了本地AI工作站的需求,但传统PC难以胜任。Tenstorrent的QuietBox 2配备四个定制Blackhole AI加速器和384GB内存,可运行OpenAI GPT-OSS-120B等大模型...
微软宣布其美国中央数据中心率先部署新型AI推理加速器Maia 200。该产品采用台积电3nm工艺,配备FP8/FP4张量核心和216GB HBM3e高速内存,数据传输速度达7TB/秒。相比竞品,Maia 200的FP4性...
高通凭借在智能手机ARM处理器领域的领先地位,正重新进入服务器市场并扩展AI加速器产品线。与沙特Humain AI公司达成合作协议,开发AI 200和AI 250加速器,预计在能效方面优于英伟达GPU。基于Hexagon...
IBM在techExchange2025开发者大会上宣布与Anthropic建立合作伙伴关系,将Claude模型集成到Watsonx平台。同时发布自研Spyre AI加速器,将于10月28日开始向System z大机出货...
近日英特尔在美国菲尼克斯举行的Vision 2024活动上推出了第三代Gaudi AI加速器,英特尔在钱德勒附近拥有大型代工厂,唯一的问题是英特尔可以生产多少个Gaudi 3加速器,价格是多少,什么时候可以发货?
NVIDIA RTX 2000 Ada的推出为AI加速带来了高性价比的解决方案,展现了NVIDIA在推动技术进步和赋能未来工作方式方面的前瞻性。
结合自身多年来为移动AI应用开发芯片及软件平台解决方案的经验,高通公司自然不会错失这个将AI加速器技术引入其他智能边缘设备乃至云端的好机会。