本地化部署 关键字列表
随着AI成本攀升,戴尔力推回归本地数据中心

随着AI成本攀升,戴尔力推回归本地数据中心

随着企业加速部署智能体AI,云端token消耗量急剧上升,导致云服务账单大幅攀升。戴尔科技在其年度客户大会上推出一系列新硬件与软件产品,涵盖本地AI沙箱环境、第18代PowerEdge服务器、PowerStore Elite存储阵列及PowerProtect One统一网络安全平台,主张企业AI应在本地运行以降低成本、保障数据安全。戴尔称,相较公有云API,本地部署可在两年内节省高达87%的开支。

戴尔以本地智能体AI系统弥合企业AI落地差距

戴尔以本地智能体AI系统弥合企业AI落地差距

戴尔科技在Dell Technologies World大会上扩展了AI产品组合,重点面向智能体AI、数据编排、机架级基础设施和本地化部署。核心新品Dell Deskside Agentic AI结合戴尔工作站与英伟达NemoClaw软件栈,助力企业在本地运行AI智能体,相比公有云可节省高达87%的成本。此外,戴尔还更新了AI数据平台,并推出即插即用的PowerRack机架系统,同时宣布与谷歌、OpenAI、Palantir等多家企业建立新合作。

Opera浏览器支持本地下载运行大语言模型,超150款可选

Opera浏览器支持本地下载运行大语言模型,超150款可选

Opera宣布其浏览器现已支持用户在本地下载并运行大型语言模型(LLM),首先向Opera One开发者版用户开放。用户可从50多个模型系列中选择超过150个模型,包括Meta的Llama、谷歌的Gemma等。该功能基于Ollama开源框架实现,每个模型将占用2GB以上本地存储空间。Opera VP Jan Standal表示,这是Opera首次在浏览器中直接提供大量第三方本地LLM访问入口。

如何将VS Code与Ollama集成以实现本地AI编程辅助

如何将VS Code与Ollama集成以实现本地AI编程辅助

本文介绍如何将VS Code编辑器与本地部署的Ollama AI工具集成,打造私密、高效的编程助手。文章涵盖在Linux、macOS和Windows系统上安装Ollama及VS Code的完整步骤,包括拉取CodeLlama模型、安装Continue扩展插件,以及配置聊天、自动补全和嵌入模型。本地AI方案既保护隐私,又减少对电网的压力,适合希望借助AI加速编程学习的开发者。

澳洲健康科技公司Heidi用AI解决医生职业倦怠

澳洲健康科技公司Heidi用AI解决医生职业倦怠

墨尔本健康科技初创公司Heidi已为医生节省4300万小时行政工作时间。公司从医学聊天机器人起步,经历两次转型后专注于医疗咨询转录和临床文档自动化。目前估值4.65亿美元,融资总额1亿美元,平台覆盖110多个国家,每周处理200万次咨询。公司推出21克重的可穿戴AI麦克风Heidi Remote,并开发自有AI模型处理80%工作负载。为应对数据隐私挑战,Heidi正开发本地部署策略,将整套AI软件打包成物理服务器直接部署到医疗机构。

Perplexity推出个人电脑工具:将闲置Mac变身AI智能体

Perplexity推出个人电脑工具:将闲置Mac变身AI智能体

AI搜索公司Perplexity推出Personal Computer工具,可将闲置Mac转换为本地运行的AI系统,作为用户的"数字代理人"。该系统可24小时运行,完全访问用户文件和应用,支持远程控制。相比OpenClaw等产品,它提供更强安全性,包括完整审计记录、操作撤销功能和敏感操作预批准机制。目前需加入候补名单获取早期访问权限。

微软扩展主权云能力以支持大语言模型

微软扩展主权云能力以支持大语言模型

微软扩展了主权云功能,支持本地断网环境运行大型AI模型。通过Foundry Local产品,客户可在完全断网的主权环境中部署AI模型。Azure Local和Microsoft 365 Local现已全球上线,企业可在无公有云连接的情况下运行关键基础设施。随着数字主权法规趋严和地缘风险上升,全球主权云支出今年预计增长35.6%。

Quill Meetings开发本地化AI智能体"首席AI助理"实现私密会议记录

Quill Meetings开发本地化AI智能体"首席AI助理"实现私密会议记录

Quill Meetings推出名为Quilliam的"AI员工主管",这是一个本地优先的智能助理,可在设备上记录会议笔记、协调上下文和工具,并学习用户工作习惯。与云端机器人不同,Quilliam确保数据完全在用户设备上处理,音频从不离开设备。该公司最近完成650万美元种子轮融资,产品已在macOS和Windows平台上线。Quilliam可通过模型上下文协议连接第三方工具,实现跨平台工作流程自动化。