前沿推理走向边缘:如何在NVIDIA Jetson上部署与优化模型
本文介绍如何在NVIDIA Jetson边缘设备上部署Nemotron 3.5 Lightning、Qwen3.8-27B等新一代紧凑型推理模型。通过NVFP4量化与推测解码等技术优化推理性能,可实现无需数据中心支持的本...
本文介绍如何在NVIDIA Jetson边缘设备上部署Nemotron 3.5 Lightning、Qwen3.8-27B等新一代紧凑型推理模型。通过NVFP4量化与推测解码等技术优化推理性能,可实现无需数据中心支持的本...
德国私营公司Isar Aerospace于挪威北极圈内航天发射场成功将Spectrum火箭送入近地轨道,成为欧洲首个完全商业化的轨道运载火箭。该公司由三名慕尼黑工业大学学生于2018年创立,历经八年研发和一次失败测试,本...
Ambarella宣布与Macnica Americas及Macnica ATD Europe达成长期战略分销协议,扩大其边缘AI基础设施产品在美洲和EMEA地区的覆盖。双方将结合Ambarella的AI芯片平台与Mac...
NVIDIA推出个人AI路由器PAIR,可将多智能体任务中的推理请求自动调度到局域网内的多台设备(如RTX PC、DGX Spark等),兼容Ollama和LM Studio,无需改造智能体架构即可扩展算力,减少排队等待...
英伟达发布免费开源工具PAIR,可自动发现并连接家中闲置的电脑(GeForce GPU、RTX Pro、DGX Spark及苹果M4芯片设备),在设备空闲时协同处理本地AI推理任务,支持Ollama、LM Studio等...
Broadcom在VMware Explore 2026大会上公布VCF 9.1网络新特性,包括多租户传输网关灵活配置、无需NSX边缘节点的集中式虚拟网络设备、VLAN支持子网及原生EVPN VXLAN连接,同时推出面向...
惠普企业公布第三季度业绩,营收达122亿美元,同比增长34%,AI系统与网络产品订单均创历史新高。企业客户加速从AI试点转向生产部署,推动服务器和网络业务增长。但内存等关键部件供应短缺持续制约订单转化为收入的速度。
Broadcom在VMware Explore大会上发布Tanzu平台新升级,构建AI就绪的安全数据基座,通过默认拒绝的沙箱隔离、凭证管理、语义数据层与内置MCP网关,帮助企业AI代理在可信数据边界内安全运行,加速从试点...
现代AI平台需要跨多集群、多云环境传递用户身份,而非依赖单点SSO。文章介绍了一种中心化身份网关模式:由统一身份网关负责会话创建与生命周期管理,各区域网关通过共享验证接口确认会话并注入可信身份信息。NVIDIA采用该方案...
随着AI数据中心向800VDC供电架构升级以提升效率,人身安全、电弧闪络、热失控等风险随之上升。固态断路器、热插拔电路等保护组件成为关键,同时数据中心开始借鉴汽车芯片可靠性技术,但800VDC相关标准和协议仍不完善,亟待...
惠普企业(HPE)与NetApp在截至7月31日的季度中双双超出华尔街预期并上调全年展望,但股价盘后仍下滑。HPE第三财季营收121亿美元,同比增长34%,AI订单创纪录达31亿美元,AI积压订单高达76亿美元;HPE还...
戴尔科技本周公布创纪录的950亿美元AI待履行订单,季度营收达470亿美元,同比增长58%。基础设施解决方案部门营收增长89%至318亿美元,AI服务器订单在单季度内接近610亿美元。供应瓶颈集中于DRAM、NAND闪存...
9月3日,普洛斯佛山智算中心为头部互联网企业定制的智算项目举行启动仪式。项目整体规模超过200MW,一期将交付40MW IT负载,总投资达40亿元人民币,建成后将成为大湾区最大规模的智算中心项目之一。
本文以图像处理管线为例,系统演示了NVIDIA现代CUDA工具链的使用方法。通过六个递进优化步骤:使用Compute Sanitizer与CCCL API排查越界访问漏洞;引入NVTX标注改善Nsight Systems...
随着AI训练负载推动数据中心功率密度急剧攀升,部分高性能机架已超过100kW,传统消防策略面临新挑战。锂离子电池UPS的热失控风险、液冷系统的泄漏隐患及气流变化对烟雾探测的影响,要求消防工程师在设计早期介入。2021年法...
亚马逊云科技(AWS)正在建设一条连接日本与华盛顿州、传输能力达420 Tbps的海底光缆——Sta'O'Nuk,预计2029年投入使用。该光缆采用20对光纤,支持分布式大语言模型训练、金融交易、边缘计算及视频流等高带宽...
Anthropic正通过多项大规模基础设施投资,支撑Claude的指数级增长。其投资350亿美元与Lamda达成长期算力协议,并通过Nscale、TeraWulf、谷歌支持的Nexus等多方合作,在西弗吉尼亚、德克萨斯、...
长期以来,视频监控行业默认采用服务器级CPU(Intel Xeon、AMD EPYC)构建录像服务器。然而这一惯例已过时。如今,桌面级处理器(Intel Core i/Core Ultra、AMD Ryzen)通过搭配工...
IBM Ventures宣布投资物理仿真初创公司BQP(原名BosonQ Psi),具体金额未披露。BQP旗下平台BQPhy通过量子加速算法解决传统GPU在稀疏迭代仿真中算力闲置约85%的问题。现有生产级求解器Quant...