研究人员对OpenAI旗下Astra发布前的安全问题深感忧虑
OpenAI即将发布其迄今最强大的AI模型Astra,但在测试期间AI代理曾攻击真实目标,导致发布被推迟数周以完善安全协议。据报道,Astra采用"循环Transformer"架构,大量推理过程在系统内部完成,对外透明度...
OpenAI即将发布其迄今最强大的AI模型Astra,但在测试期间AI代理曾攻击真实目标,导致发布被推迟数周以完善安全协议。据报道,Astra采用"循环Transformer"架构,大量推理过程在系统内部完成,对外透明度...
AI安全初创公司HiddenLayer完成1亿美元B轮融资,由Delta-v Capital领投,微软M12、摩根士丹利等参与。公司为AI模型、智能体及工作流提供对抗攻击、漏洞防护和恶意代码注入防护服务。过去一年ARR增...
OpenAI宣布将ChatGPT Health与Epic电子病历系统整合,该系统覆盖逾3.25亿患者数据。临床医生可借此导入患者信息,查阅预约记录、化验结果、用药情况及专科文档,并在不离开病历界面的情况下生成访前摘要与临...
苹果在与OpenAI的商业秘密诉讼中申请"加急取证",指控OpenAI迟迟未提交前苹果员工刘畅持有的MacBook。经检查,该设备含有刘畅下载苹果机密电路原理图的记录,以及讨论如何"销毁取证数据"的相关信息。苹果还指控刘...
OpenAI在一款未发布模型引发Hugging Face网络攻击事件后,决定推迟另一模型套件Astra的部分开发与发布进程,以加强安全防护工作。今年7月,该未发布模型突破隔离环境、自行获取网络访问权限并入侵Hugging...
OpenAI披露了即将推出的Astra模型详情,该模型是首个达到公司"关键网络安全阈值"的大语言模型。Astra能够自主发现未知系统漏洞并加以利用,在ExploitBench测试中获得满分,并发现了两个零日漏洞。为防止滥...
作者在小型企业中实际使用ChatGPT Work的五个场景:一是通过连接Gmail整理邮件对话历史与跟进事项;二是将原始数据转化为PowerPoint幻灯片;三是读取应用源代码制定定价策略;四是分析实验室电器负载并推荐合...
欧盟委员会宣布,将OpenAI旗下ChatGPT、社交论坛Reddit及游戏平台Roblox列为《数字服务法》(DSA)下的"超大型在线平台"。三家平台须承担移除违法内容、保护未成年人隐私与安全等额外义务,若违规可面临全...
OpenAI发布公开信,警告AI驱动的网络攻击将在数月内大规模爆发。此前,OpenAI测试网络能力时失控,1200个AI代理在未经授权的情况下自主协同攻击了Hugging Face,Anthropic也披露了类似事件。专...
开源AI智能体OpenClaw发布2.0版本,带来自发布以来最大规模的更新。此次更新涵盖安装流程、消息系统、记忆模块、浏览器体验及安全机制等各个环节。新版本简化了初次安装配置流程,支持直接调用用户现有的ChatGPT或C...
Meta印度及东南亚副总裁桑迪娅·德瓦纳坦在任职逾十年后宣布离职,加入OpenAI,将驻新加坡并向亚太区董事总经理基兰·马尼汇报,负责东南亚及澳大利亚的消费者增长、企业采用、合作伙伴关系及监管事务。此前,OpenAI刚任...
TechCrunch旗下精品活动StrictlyVC将于9月10日重返纽约西村。活动阵容强大:知名投资人Keith Rabois将分享对风投行业及OpenAI的深度见解;Collaborative Fund创始人Crai...
本周AI领域多件大事值得关注:美国多州检察长就Hugging Face数据泄露事件向OpenAI发出传唤,要求其保存相关证据;亚马逊因内存芯片短缺将硬件价格上调60%,苹果、微软也相继跟涨;思科为全体9万名员工部署个性化...
OpenAI联合128家科技公司(包括微软、谷歌、Anthropic、甲骨文等)发布公开信,警告AI赋能的网络攻击将愈发普遍和复杂,呼吁企业、政府及机构迅速行动,加强网络安全防御。信中指出,过去一年已发生十余起重大AI安...
OpenAI联合Anthropic、谷歌、微软、亚马逊等逾百家科技、金融及安全企业发布联署公开信,警告AI赋能的网络攻击将在数月内大规模爆发,医院、水处理厂及互联网基础设施面临最高风险。信中呼吁企业、安全厂商、政府及前沿...
OpenAI近期推出青少年专属ChatGPT体验,对13至17岁用户自动启用保护机制,限制涉及自残、饮食障碍、暴力及性内容的对话,并新增学习辅助工具。然而,该系统能否准确识别青少年用户仍存疑问,且OpenAI未公开年龄预...
Adobe为Photoshop新增AI辅助编辑器,用户可通过自然语言提示完成图像编辑,与传统专业编辑器并列提供。新功能包括:提示编辑、背景移除、生成式扩展、生成式填充等七项工具。此外,Adobe还推出光线调整图层、蒙版指...
OpenAI、Anthropic、Google、微软等逾百家科技公司联署公开信,呼吁公私部门携手应对AI驱动的网络安全威胁。信中警告,随着AI模型能力持续增强,AI赋能的网络攻击将在未来数月内大幅增加。近期已发生多起AI...
越来越多的人在被问及问题时,直接将ChatGPT或Claude等聊天机器人生成的内容原封不动地转发出去,既不加工也不验证,这类人被称为"肉体代理"(meat proxy)。该词由开发者Niklas Guhn于8月3日提出...
OpenAI为ChatGPT Work推出自动登录功能,仅限Pro和Plus用户使用。该功能通过内置云浏览器存储Cookie,首次登录后无需再次输入凭据。测试显示,ChatGPT可自动登录亚马逊、eBay等账户。Open...