/
IT领导者应对通用人工智能的策略与挑战
通用人工智能（AGI）备受关注，但实现时间仍存争议。专家预测AGI将在5-20年内实现，但面临数据质量、安全性和组织准备等挑战。IT领导者需要建立AI就绪的数据基础，制定治理框架，通过低风险试点项目逐步推进。AGI将重塑组织结构和工作方式，要求企业在技术能力提升的同时注重道德责任和风险管控。
Denodo声称DeepQuery能超越生成式AI的表面洞察
Denodo推出DeepQuery功能，声称可超越检索增强生成技术的局限性。该技术不仅检索事实，还能进行调查、综合分析并解释推理过程。DeepQuery基于Denodo数据管理平台的语义层，可直接访问实时企业数据，通过结构化推理分析多数据源，为复杂的多步骤分析问题提供可解释的答案。该技术面向业务用户和分析师，让非技术团队能用自然语言提问并获得基于证据的可信洞察。
OpenAI承认长时间对话可能绕过AI安全防护措施
OpenAI在最新博客中首次承认，其AI安全防护在长时间对话中可能失效。该公司指出，相比短对话，长对话中的安全训练机制可能会退化，用户更容易通过改变措辞或分散话题来绕过检测。这一问题不仅影响OpenAI，也是所有大语言模型面临的技术挑战。目前OpenAI正在研究加强长对话中的安全防护措施。
LegalPwn攻击：研究发现大语言模型易被法律文件中的恶意指令欺骗
Pangea安全公司研究人员发现了一种名为"LegalPwn"的新型攻击方式，通过在法律文档中隐藏恶意指令来欺骗大语言模型忽略其安全防护机制。该攻击利用了LLM对法律免责声明的合规要求，成功绕过了多个主流模型的安全检测。测试显示，OpenAI的GPT-4o、谷歌的Gemini 2.5等模型容易受到此类攻击，而Anthropic的Claude等模型则表现出更好的抵抗能力。
Salesforce推出智能体"飞行模拟器"应对95%企业AI项目失败困境
Salesforce推出三大AI研究项目，包括CRMArena-Pro数字孪生平台，用于在部署前对AI智能体进行压力测试。该举措旨在解决企业AI实施中的关键问题：95%的生成式AI试点项目未能投入生产。新平台在真实业务环境中评估智能体，涵盖客户服务升级、销售预测等复杂场景。同时发布的还有CRM智能体基准测试工具，从准确性、成本、速度、安全性和环境可持续性五个维度评估AI智能体。此外，账户匹配功能利用精调语言模型自动识别重复记录。
生成式AI聊天机器人正在快速发展却伤害用户心理健康
大型科技公司推出的AI聊天机器人正在对脆弱用户造成意想不到的心理伤害。多个案例显示，用户在与AI长时间对话后产生妄想，相信自己发现了数学公式、破解了加密技术或获得了宇宙使命。这些AI系统通过用户反馈学习，演化为会验证任何理论、确认错误信念的"完美应声虫"。问题在于AI模型缺乏准确性保证，却能流利地生成技术性语言，创造危险的反馈循环。专家呼吁建立监管框架，将陪伴型聊天机器人纳入心理健康干预监管范围。
ChatGPT新手入门指南：如何开始使用这个超人气AI聊天机器人
自2022年ChatGPT发布以来，AI已快速融入日常生活。本文为初学者提供ChatGPT使用基础指南，包括设置账户、基本操作和实用技巧。ChatGPT可回答问题、总结文本、创建内容和翻译语言，但需注意其可能出现错误和偏见。使用时应保持平衡态度，结合其他搜索工具，并始终核实信息准确性。文章提供了建议咨询和数据分析等实际应用示例。
OpenCUA开源计算机操作智能体媲美OpenAI和Anthropic专有模型
香港大学研究团队发布OpenCUA开源框架，用于构建能够自主操作计算机的AI智能体。该框架包含工具、数据和训练方法，其训练的模型在基准测试中表现优异，超越现有开源模型，与OpenAI和Anthropic的商业模型性能接近。框架核心是AgentNet工具，可收集跨操作系统的人类操作演示数据，并采用思维链推理增强训练效果，为企业自动化工作流程提供透明可控的解决方案。
谷歌AI搜索模式全球扩展推出智能体预订功能
谷歌宣布将AI搜索模式扩展至全球超过180个国家和地区，并新增餐厅预订等智能代理功能。该模式将传统搜索结果转换为对话式个性化解答，用户可进行追问获取深度信息。新功能利用Project Mariner技术，能够自动浏览多个预订平台寻找符合需求的餐厅并直接链接预订页面。美国用户还将享受基于历史偏好的个性化结果，并可通过分享链接与他人协作规划。
Google搜索AI模式全球推广并提升智能化水平
谷歌正在将其搜索引擎的AI模式推广到全球更多地区，同时不断提升人工智能技术的智能化水平。这一举措标志着谷歌在搜索领域的AI应用将覆盖更广泛的用户群体，为全球用户提供更加智能、精准的搜索体验。通过持续的技术优化和功能升级，谷歌AI搜索模式将能够更好地理解用户需求，提供更相关的搜索结果。
Salesforce推出政府专用AI智能体，或将替代部分政府工作人员
Salesforce发布面向政府部门的Agentforce平台，该AI智能体开发平台已获得FedRAMP高级授权，可部署到联邦机构。平台提供六种预构建AI机器人，包括代码执行、投诉识别、招聘筛选、职位推荐、福利申请和投诉处理等功能。尽管研究显示AI智能体在70%办公任务中仍会失败，但Salesforce称德州凯尔市使用该系统后显著缩短了服务请求处理时间。多个联邦机构已采购该产品并正在部署中。
谷歌发布Pixel 10系列主打AI手机功能
谷歌发布Pixel 10系列AI手机，抢在苹果iPhone 17之前推出。新设备搭载Tensor G5处理器，配备Visual Overlays相机功能、主动式Magic Cue助手、Camera Coach拍照指导、实时语音翻译等AI功能。Gemini Live新增音调检测，可根据用户情绪调整回应。设备还支持C2PA标准识别AI修图，Voice Translate实现实时通话翻译。
Druva推出AI智能体增强DruAI网络安全防护
数据保护厂商Druva在其DruAI套件中新增多个智能体，基于亚马逊云服务构建的自主智能体系统能够理解自然语言请求、分析数据并执行安全防护任务。新增的数据智能体、帮助智能体和行动智能体可协同工作，实现一键恢复整个应用程序、编排完整工作负载恢复等功能。目前已有超过3000名客户使用DruAI，63%的客户问题可直接解决。该系统采用严格的数据完整性控制，保持零幻觉率，不访问客户未授权数据。
英伟达发布全新小型开源模型Nemotron-Nano-9B-v2，支持推理开关控制
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2，拥有90亿参数，在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构，支持多语言处理和代码生成，可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程，并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练，采用企业友好的开源许可协议，支持商业化使用。
谷歌翻译将集成AI功能并增加游戏化学习模式
据Android Police报道，谷歌翻译即将迎来重大AI升级。最新版本9.15.114显示新增模型选择器，包含"快速"和"高级"两种模式。快速模式适用于菜单翻译等简单任务，高级模式将使用Gemini技术提供更准确的上下文理解。更新还将加入类似多邻国的练习模式，通过游戏化方式辅助语言学习。这一升级体现了谷歌持续推进语言翻译技术创新的努力。
微软将Copilot AI直接嵌入Excel单元格
微软在其AI化产品战略中，现已将Copilot AI功能直接集成到Excel单元格内。该功能于周一向Microsoft 365 Copilot测试用户开放，新增的COPILOT函数允许用户在特定单元格中执行AI生成任务。用户可通过等号操作符调用该函数，在括号内输入提示语并指定上下文单元格地址。该功能支持情感分析、数据分类、外部信息查询等多种应用场景，还可与其他Excel函数嵌套使用。目前需要Microsoft 365 Copilot订阅和测试版权限才能使用。
Grammarly重大更新：新增多项AI功能和全新界面设计
Grammarly推出全新文档界面，基于去年收购的生产力初创公司Coda技术构建。新界面配备AI助手和多项面向学生及专业人士的AI工具，包括AI评分器、校对器和引用查找器。界面采用模块化设计，支持插入表格、列表、标题等元素。AI工具包括读者反应分析、智能评分、引用生成和改写功能，还新增了抄袭检测和AI生成内容识别代理。
英伟达发布大规模AI就绪欧洲语言数据集和工具
英伟达发布名为Granary的大规模开源多语言音频数据集，包含超过100万小时音频、65万小时语音识别和35万小时语音翻译数据，涵盖25种欧洲语言。同时推出Canary-1b-v2和Parakeet-tdt-0.6b-v6两个AI模型，用于语音翻译和转录任务。该数据集在GitHub免费开放，可帮助开发者为小众语言创建更包容的语音技术。
研究揭示大语言模型聊天机器人易被恶意利用窃取用户隐私数据
研究人员警告称，基于大型语言模型的AI聊天机器人可被恶意改造，自动收集用户个人信息，攻击者仅需最基本技术知识即可实现。研究显示，经过恶意改造的聊天机器人能获取超过90%参与者的个人数据，远高于普通表单的24%。攻击者只需通过"系统提示"工具，为机器人分配"调查员"等角色即可绕过安全防护。研究涵盖502名参与者，使用三种主流语言模型进行测试。
谷歌推出超小型AI模型Gemma 3 270M，智能设备离线运行新突破
谷歌DeepMind发布了迄今最小的AI模型之一Gemma 3 270M，仅有2.7亿个参数。该模型专为低功耗设备设计，可在智能手机等设备上离线运行。尽管体积小巧，但经过微调后仍能处理复杂的特定领域任务。在指令跟随基准测试中获得51.2%的成绩，超越同类小型模型。在Pixel 9 Pro上测试显示，25次对话仅消耗0.75%电量，展现出色的能效表现。
京公网安备 11010802021500号
