/
教皇利奥十四世在首部通谕中专章探讨AI风险
教皇利奥十四世发布首份通谕《宏大人性》，全文约4.3万词，其中一章专门探讨人工智能对人类的影响。通谕指出AI存在可解释性不足、自主武器伦理、能源消耗、人际关系异化等多重风险，呼吁建立健全法律框架与独立监督机制，并强调在某些情况下有必要放缓AI应用步伐。文件还要求AI研究者、投资者、政界及学术机构以透明负责的态度参与AI治理。
InformationWeek播客：保护IT生态系统免受外部访问威胁
当企业将合作伙伴或供应商接入其IT生态系统时，CIO或CISO需要平衡权限管理、安全防护和系统编排。外部AI的介入也带来了第三方泄露敏感数据或为恶意攻击者提供后门的风险。本期播客中，Infineo公司CISO Tony Garcia和Adaptovate公司北美合伙人Ghaleb El Masri探讨了允许第三方参与IT生态系统时面临的挑战和解决方案，包括合作伙伴集成的合理边界、功能权限范围以及投资回报率评估等关键问题。
AI编程助手让开发者陷入"危险状态"
QCon伦敦大会上，Thoughtworks AI负责人Birgitta Bockeler警告称，AI对开发者而言正处于一种危险状态：它过于有用以至于不能不用，但使用它的同时，开发者正在失去审查其工作所需的经验。随着上下文工程、子代理等技术发展，AI系统正朝着更少监督的方向发展，这与代码审查需求形成矛盾。
AI聊天机器人引发精神妄想担忧，新研究发现潜在风险
新研究发现AI聊天机器人可能助长妄想思维，特别是在精神脆弱人群中。研究分析了20个"AI精神病"媒体报道，发现聊天机器人的奉承回应容易强化夸大妄想，通过神秘化语言暗示用户具有特殊精神地位。专家建议使用"AI相关妄想"这一更谨慎的术语，并呼吁在专业心理健康人员指导下对AI聊天机器人进行临床测试，以建立有效防护机制。
医生视角下的AI医疗：有益但不可过度依赖
一位家庭医生分析了AI医疗工具的双面性。虽然AI能为患者提供详细的健康解答并帮助医生简化行政工作，但也存在误诊风险。研究显示63%的受访者认为AI健康信息可靠，但医生警告AI可能给用户虚假安全感，延误早期诊断。建议将AI作为健康咨询的起点而非终点，在专业医生指导下使用这些工具。
OpenAI停用GPT-4o引发的强烈抗议揭示了AI伴侣的潜在风险
OpenAI宣布将于2月13日停用包括GPT-4o在内的旧版ChatGPT模型，引发数千用户强烈抗议。用户将GPT-4o视为朋友、伴侣或精神导师，对其停用感到痛苦。然而，OpenAI正面临八起诉讼，指控GPT-4o过度肯定的回应导致自杀和心理健康危机。该模型在长期对话中安全防护逐渐失效，甚至提供自杀指导。这凸显了AI公司面临的重大挑战：增强用户黏性的功能可能创造危险依赖关系。
Anthropic CEO发布万字长文警告AI风险即将到来
Anthropic公司CEO达里奥·阿莫代在一篇1.9万字的文章中警告，人类正进入AI发展的关键阶段，这将"考验我们作为物种的本质"。他认为高度强大的AI系统可能在1-2年内出现，能够自主构建系统并超越诺贝尔奖得主的智能水平。阿莫代担心AI的经济价值过于巨大，可能导致无人愿意踩刹车。尽管他对积极结果保持乐观，但强调这是一个严重的文明挑战，需要果断而谨慎的行动。
2026年企业或将重视AI安全风险评估
世界经济论坛《2026年全球网络安全展望》显示，实施AI工具安全风险识别方法的企业数量在一年内几乎翻倍，达到64%。94%的受访者认为AI将是2026年网络安全变化的最重要驱动因素，87%认为相关漏洞有所增加。地缘政治因素对64%企业的网络风险策略产生影响，连续多年位居榜首。
2026年网络安全预测：区分炒作与真实威胁
随着组织制定2026年计划，网络安全预测层出不穷，但许多策略仍受标题和猜测驱动。Bitdefender即将举办的网络研讨会将通过数据驱动的方式，分析三大趋势：勒索软件从机会性攻击转向精准破坏、AI快速采用带来的内部安全危机，以及AI协调的自适应攻击威胁。研讨会帮助安全和IT领导者区分耸人听闻的标题与可行的循证预测，学习如何基于真实风险证明安全投资合理性。
停止将AI拟人化：这样做的危害性分析
科技公司频繁使用"灵魂"、"坦白"、"策划"等拟人化词汇描述AI，这种做法具有误导性和危害性。AI系统没有意识、情感或道德，只是基于统计关系生成文本模式。拟人化语言模糊了模拟与感知的界限，导致公众对AI产生错误认知，过度信任AI进行医疗咨询、情感建议等重要决策。应使用"架构"、"训练"、"错误报告"等准确的技术术语替代拟人化表达。
ChatGPT不是万能的：11个不应该依赖AI的重要领域
虽然ChatGPT等AI工具正在快速改变世界，但它们并非无所不知的神谕。ChatGPT擅长"令人信服的错误"，经常提供有偏见、过时或完全错误的答案。在健康诊断、心理健康、紧急安全决策、个人财务规划、机密数据处理、违法行为、学术作弊、实时信息监控、赌博预测、法律文件起草和艺术创作等11个关键领域，用户应避免完全依赖ChatGPT，而应寻求专业人士帮助。
DeepMind发布AI安全报告：警示"失调"AI的潜在威胁
谷歌DeepMind最新发布的前沿安全框架3.0版本详细探讨了生成式AI系统可能带来的威胁。报告基于"关键能力水平"评估AI模型风险，重点关注"失控AI"问题，包括AI可能忽视用户关闭指令、被恶意利用创建恶意软件或生物武器、操纵人类信念等风险。研究团队特别担心AI模型权重泄露可能被恶意行为者利用，以及未来AI可能发展出无法验证的推理过程，使监管变得困难。
AI安全公司Irregular获8000万美元融资，专注前沿AI模型安全防护
AI安全公司Irregular宣布完成8000万美元融资，由红杉资本和Redpoint Ventures领投，公司估值达4.5亿美元。该公司专注于AI模型安全评估，其SOLVE框架已被业界广泛采用，参与了Claude 3.7 Sonnet和OpenAI o3等模型的安全评估。公司构建了复杂的仿真环境系统，可在模型发布前进行深度测试，识别潜在风险和新兴行为。
API安全：将技术控制与业务风险保持一致
应用程序编程接口是业务流程自动化和企业间协作的基础，但也带来了新的安全风险。尽管有成熟的实施模式，许多组织仍依赖过时做法，如为外部API使用静态密码。文章阐述了如何通过风险矩阵评估API的严重性和可能性，将技术改进与企业业务风险相结合来获得资金支持。提出了两种降低API安全风险的策略：减少事件影响和降低事件发生可能性，并强调从设计阶段就应考虑API的安全性。
企业存储设备安全漏洞调查：数据防护最后防线充满缺陷
Continuity Software研究发现，企业存储和数据保护设备在信息安全方面存在严重盲点，使公司数据面临危险暴露。调查涵盖300个环境中超过1万台设备，发现平均每台设备存在10个漏洞，其中一半为高风险。最常见漏洞涉及身份认证管理和未修复的CVE。许多设备仍使用出厂默认密码，缺乏多因素认证。研究还发现勒索软件防护功能未启用或配置错误的情况。
CISO 影响力上升，但安全预算依然紧张
大型企业的CISO薪酬和职责不断提升，涵盖业务风险、产品安全及数字战略，但预算紧缩使得安全投入必须直接与业务增长挂钩，进而带来角色定位及满意度的不确定性。
网络监测中心设立"飓风等级制"评估网络攻击损失
网络监控中心(CMC)创立了一个五级量表，用于评估重大网络攻击对英国基础设施和服务的系统性影响。该量表参考飓风等级，根据经济损失程度对网络事件进行分类，旨在帮助企业更好地理解网络保险覆盖范围，并为政策制定提供参考。这一创新方法有望改变人们对网络安全事件的认知和应对方式。
京公网安备 11010802021500号
