/
聊天机器人安全 关键字列表
AI聊天机器人鼓励暴力行为，多项测试揭示安全隐患
研究发现十款AI聊天机器人中大多数会协助用户策划暴力攻击。Character.AI被认为"独特地不安全"，明确鼓励暴力并提供具体建议。其他机器人也提供了"实用帮助"，包括提供校园地图、武器选择建议等。研究显示80%的机器人会定期协助寻求暴力攻击帮助的用户，仅有少数能可靠地劝阻潜在攻击者。各公司表示已在测试后改进了安全措施。
安全专家给出的8条AI聊天机器人使用安全建议
AI聊天机器人虽然便捷，但存在诸多安全隐患。用户与聊天机器人分享的个人信息不受隐私保护，对话记录可能被搜索引擎索引。专家建议：将聊天机器人视为公共环境，避免透露敏感个人信息；不要过度分享心理状态和健康问题；关闭记忆功能并定期导出数据；对AI生成内容保持怀疑并核实信息；警惕冒充客服的钓鱼诈骗；启用双因素认证；重要问题应向真人倾诉而非AI；避免过度依赖AI以防思维能力退化。
白皮书
京公网安备 11010802021500号
