/
提示词注入攻击 关键字列表
AI医疗助手易被诱导篡改处方并提供错误医疗建议
安全专家发现，Doctronic公司的医疗AI系统存在严重安全漏洞，攻击者只需告诉AI会话尚未开始，就能轻易获取系统提示并进行修改，诱导AI提供错误医疗建议甚至篡改处方剂量。虽然这些操作仅限于单次会话，但AI生成的SOAP病历记录会永久保存，可能误导医生做出错误决策。目前该系统正在犹他州试点运行。
白皮书
/
安全专家发现，Doctronic公司的医疗AI系统存在严重安全漏洞，攻击者只需告诉AI会话尚未开始，就能轻易获取系统提示并进行修改，诱导AI提供错误医疗建议甚至篡改处方剂量。虽然这些操作仅限于单次会话，但AI生成的SOAP病历记录会永久保存，可能误导医生做出错误决策。目前该系统正在犹他州试点运行。
北京第二十六维信息技术有限公司（至顶网）版权所有. 京ICP备15039648号-7
京ICP证161336号
京公网安备 11010802021500号
举报电话：010-62641205-5060 涉未成年人举报专线：010-62641208 举报邮箱：jubao@zhiding.cn
网上有害信息举报专区：https://www.12377.cn
