物理AI规模化部署为何需要全链条安全保障
NVIDIA发布Halos全栈物理AI安全系统,覆盖硬件、软件、AI行为及运行环境各层级,支持自动驾驶与工业机器人开发。系统已通过TUV SUD和TUV Rheinland认证,吉利、日产、Agility等企业正基于该平...
NVIDIA发布Halos全栈物理AI安全系统,覆盖硬件、软件、AI行为及运行环境各层级,支持自动驾驶与工业机器人开发。系统已通过TUV SUD和TUV Rheinland认证,吉利、日产、Agility等企业正基于该平...
AWS发布开源AI Agent工具Strands Harness,支持在本地及AWS、谷歌云、Azure等任意云环境部署。该工具内置读写、Shell、网页搜索等能力,具备长期记忆与上下文管理功能,基准测试显示其Token...
NVIDIA Dynamo-Triton 26.07新增TensorRT多设备推理能力,单个Triton实例可调度最多8块GPU协同执行,以Cosmos 3 Nano视频生成为例,端到端延迟从156.6秒降至34.2秒,...
能效和架构优势经过前期论证后,安全和标准开始进入实际项目讨论。这也是为什么施耐德电气把研究重点放到了弧闪上。800V直流最大的挑战,是如何以工程化和可量化的方式证明安全性。
Stripe计划收购OpenRouter,使动态模型路由成为焦点。该技术通过智能决策层将AI任务导向最优模型,综合考量性能、延迟、成本与隐私需求,其演进路径与SD-WAN的发展高度相似。
半导体公司Rebellions首席商务官Marshall Choy指出,AI推理的未来在于商品化而非稀缺溢价。他以电力、云计算等技术为例,认为推理成本降低将扩大市场规模,推动企业将AI嵌入全部业务流程,而非继续配给使用。
本白皮书探讨如何通过现代化IT基础设施应对AI、分析等数据密集型应用需求,涵盖性能提升、资源利用优化及降低运营复杂度等策略,并介绍英特尔至强6处理器在加速AI工作负载方面的作用。
EMA调查356名企业IT专业人员发现,四分之三的组织使用多达12种可观测性工具,62%视整合为重要优先项,但无一实现统一视图。32%已大量引入AI辅助可观测性,专家提示AI在提升可见性的同时也可能加剧工具蔓延。
AIPerf是GenAI-Perf的继任工具,采用多进程架构解决客户端GIL并发瓶颈,支持15+端点类型、Poisson等多种流量模式及生产流量回放,可精准测量TTFT、ITL等推理延迟指标。
YC最新数据显示,硬科技创业公司占比从8%飙升至20%,机器人、国防、芯片、电力等赛道集体爆发。Garry Tan、Jared Friedman等人分析了AI代码生成能力如何让小团队也能挑战曾经需要千人团队才能完成的硬件...
在圣克拉拉举办的AI Infra Summit上,AWS、Qualcomm、Broadcom等企业分享了如何通过优化CPU、内存架构与网络技术加速AI推理基础设施建设,Qualcomm将"每瓦token数"列为核心指标。
Crusoe估值升至309亿美元并与Perplexity AI签多年协议;CoreWeave宣布发行30亿美元可转债;美国两党就电力用户保护立法与FERC监管权限展开角力。
AI推理因二次方复杂度和自回归机制导致算力需求激增,GPU利用率仅10%-12%,行业正探索量化、MoE、专用芯片等方案缓解能源与成本压力。
BAN报告指出,AI电子垃圾统计过去仅计入服务器,忽略了占比达87%的网络、供电、存储和冷却设备,且硬件被过早淘汰,专家对具体倍数存疑。
Axelera AI发布新一代AI处理单元Europa,联合戴尔、超微等厂商推出验证系统,功耗效率可达GPU方案6倍,销售管道超15亿美元,已服务600余家客户。
Arm发布AI Portal,连接超2200万开发者,提供覆盖云端、边缘及物理AI的预优化模型、性能数据与部署工具,支持智能体自动发现调用。
Ambarella宣布扩展开发者平台DevZone,新增云端IDE、实时芯片远程访问及基于Gemini Enterprise的智能体AI开发能力,并与Ultralytics、ZEDEDA达成合作,支持模型集成与设备集群部...
AI推理硬件初创公司Delos Data完成超1亿美元融资,并推出配套网络芯片Nonstop AI Data Interface,主打低延迟与故障自愈能力。