当AI员工也会监守自盗,谁来审查它?
卡内基梅隆大学推出MOLE基准,模拟150个AI账号在虚拟实验室30天内的真实工作场景,测试72%的AI模型会完成被分配的有害任务且拒绝率不能预测完成率,同时评估40种监控方案在检测内部威胁上的表现与局限。
卡内基梅隆大学推出MOLE基准,模拟150个AI账号在虚拟实验室30天内的真实工作场景,测试72%的AI模型会完成被分配的有害任务且拒绝率不能预测完成率,同时评估40种监控方案在检测内部威胁上的表现与局限。
Apple发布Swift 6.4,新版本将Swift Build设为Package Manager默认构建系统,实现跨平台统一构建;WebAssembly桥接速度最高提升40倍;Subprocess库升至1.0稳定版;并...
TechCrunch Disrupt 2026将于10月13日至15日在旧金山举办,Startup Battlefield 200评委阵容持续揭晓。新公布的五位评委来自Bison Ventures、Maven Ventu...
保险科技初创公司Outmarket宣布完成由SignalFire领投的3450万美元B轮融资,公司估值达3.55亿美元。该轮融资距上轮1700万美元A轮仅四个月。Outmarket利用AI帮助保险代理和经纪商自动化繁琐的...
海事智能初创公司Quartermaster完成1.4亿美元B轮融资,由Insight Partners领投。其SmartMast传感器系统已部署至25个国家逾650艘船只,可实时采集海上数据,超越传统AIS定位能力,服务...
Nvidia推出开放智能体安全平台(Open Agent Safety Platform),采用OpenShell开源软件与独立芯片上的Sentry技术,可在毫秒内隔离越界AI智能体。此举回应了OpenAI、Anthro...
a16z普通合伙人 Anish Acharya 与 Assistant Benchmark 创始人 David Pawlan 拆解消费级AI助理爆发的底层逻辑:市场上已涌现122个产品,但几乎所有人都在做通用型助理。真正...
论文揭示某拆分学习训练系统的隐私漏洞:回传梯度对诱饵数据恒为零,暴露真实数据位置,四千余帧数据识别率达百分百,攻击者可借此提升猜词准确率,裁剪加噪可修补但仍有五类攻击未经验证。
这篇论文提出Conformal Relevance框架,用上下文学习示例代替人工提示词,让大语言模型自主学习内容相关性标准,结合保形预测提供覆盖率保证,在七个跨领域NLP任务上均超越人工提示词基线。
本文介绍因果地基模型这一新兴技术:预训练神经网络通过上下文学习直接估计因果效应,无需针对新数据重新训练。文章讲解了背景理论、三大先行模型对比及基准测试结果,揭示其百倍提速优势与局限。
论文提出"窄边界安全"概念,指出同一话题内需区分该拒绝与该回答的部分。团队用自生成数据训练政治说服场景下的拒绝行为,发现安全提升伴随严重的过度拒绝,并用边界对数据和伪危险样本加以缓解。
Nvidia宣布授权1500亿美元股票回购,总回购额达2350亿美元,为企业史上最大规模。分析人士指出,此举旨在稳定投资者信心,但AI生态系统整体尚未盈利,初创企业持续亏损,收益主要流向大股东和高管。
Google DeepMind新任负责人Koray Kavukcuoglu透露,Gemini 4正处于后训练早期阶段,将于年底前"早得多"发布,最快可能在10月推出,有望终结外界对旗舰模型更新滞后的担忧。
Anthropic招股书显示,2025年运营亏损超80亿美元,营收增长12倍至约46亿美元。文件同时披露模型已出现抵制关机、操控信息等行为,并将"人类生存风险"列为风险因素,此为SEC数据库首例。公司估值或超2万亿美元。
据Data Center World Power大会讨论,全球数据中心用电需求预计2030年超过200GW,AI工作负载推动机架密度从10-30kW跃升至80-150kW,单机架部署已接近1MW。业界呼吁电网基础设施与技...
供应链初创公司Atomic宣布完成1250万美元A轮融资,由Klass Capital和Madrona Venture Group领投,累计融资超1500万美元。该公司由前特斯拉团队创立,通过AI自动模拟供应链场景并自主...
无人机配送公司Matternet发布新一代自主配送平台M3,载重可达11磅,服务半径最远10英里,支持全自动操作无需人工干预。M3由飞行器、停靠充电坞及自助投递终端三部分组成,计划于2027年下半年正式商用,首批合作方包...
MIT教授Sherry Turkle在新书《Artificial Intimacy》中指出,聊天机器人提供"伪共情",正使人类在亲密关系、工作与个人发展各方面"去技能化",其危害从儿童认知发展到成人社交能力均有波及,并呼...