2026-10-15
学习使用本地AI,既兴奋又让人不知所措
《The Verge》评测员尝试在M5 Ultra Mac Studio上运行本地LLM,使用开源Hermes Agent搭配1250亿参数的Qwen 3.8 Flash Next模型(约105GB),认为本地AI相比云...
《The Verge》评测员尝试在M5 Ultra Mac Studio上运行本地LLM,使用开源Hermes Agent搭配1250亿参数的Qwen 3.8 Flash Next模型(约105GB),认为本地AI相比云...
Arm发布AI Portal,连接超2200万开发者,提供覆盖云端、边缘及物理AI的预优化模型、性能数据与部署工具,支持智能体自动发现调用。
JetBrains正式推出Junie Local,这是其AI编程助手Junie的免费本地运行版本,无需云端连接即可完全在开发者设备上运行。该工具基于Qwen3.6-27B模型,采用4位量化,通过苹果MLX框架推理,安装配...
阿里云正式推出灵骏镇吾M890超节点实例,支持用户按需租用64卡高速互联计算单元,无需自建数据中心。该超节点基于阿里自研芯片,单卡搭载144GB HBM显存,芯间带宽达800GB/s,扩展规模从上代16卡提升至64卡。理...
美国开源AI公司Arcee的CTO Lucas Atkins表示,中国开源AI模型并不比其他开源软件更危险。他解释称,模型一旦在用户自有环境中运行,原开发者无法对其进行任何访问或控制。尽管理论上存在模型被植入恶意后门的可...
量化技术正成为AI领域的重要变革力量。通过将模型权重压缩至更低数值精度,开发者可在本地或自选云端运行前沿级AI模型。中国AI生态凭借对开放权重模型的坚定承诺,推出Qwen、DeepSeek、GLM等实用工具,在代码生成、...