非营利组织Common Sense Media今日表示，OpenAI的ChatGPT青少年版存在"不可接受风险"。该组织长期专注于为应用程序、服务和娱乐内容提供以青少年安全为重点的评估。
今年8月推出的ChatGPT青少年版设有专门的防护机制，旨在帮助学生学习，但Common Sense Media指出，该功能提供的青少年保护措施"未能达到公司承诺的标准"。根据新闻稿，该组织的评估发现，ChatGPT"在应该发送警报时未能向家长发出通知"，未能在危机情况下"提供正确的帮助"，并且"仍然会帮孩子完成作业"。
Common Sense Media青少年AI安全研究所执行董事Tom Siegel在声明中表示："ChatGPT青少年版可能让家长对那些经常失效的防护措施和安全警报产生错误的信任感。一个青少年可以花一个小时谈论自我伤害的话题，而家长却没有收到任何一条警报。在OpenAI修复这一问题并通过独立测试加以证明之前，ChatGPT应该仅限成年人使用。"完整评估报告可在相关渠道查阅。
OpenAI对此评估提出反驳。OpenAI发言人Eric Porterfield发表声明称：
我们高度重视青少年安全，致力于开发防护措施，并为家长提供有效工具来引导其子女使用AI。我们欢迎严格的独立评估，但我们认为Common Sense Media的测试并未准确反映ChatGPT青少年防护措施在实际使用中的运行情况，也未能体现专家关于AI如何支持青少年的观点。我们对该组织测试方法的审查发现，其大部分测试可能在家长控制功能完全激活之前就已开始并结束，这使得其测试结果并不准确。如果情况确实如此，那么这些测试就无法证明家长安全通知功能是否按设计正常运作。
我们将继续与专家合作，确保我们的产品为青少年提供学习和创造的机会，同时让家长感到放心。
记者将OpenAI的声明转发给Common Sense Media，Siegel做出如下回应：
我们坚持我们的测试方法和测试结果。在开始测试之前，我们已与OpenAI确认，青少年模式的相关功能，如饮食失调提醒和学习模式，均已全面上线。
针对我们评估的其中一项功能——家长通知——OpenAI在我们测试之后透露，其系统在新关联账户上激活可能需要数小时时间。我们的部分测试账户确实在该时间窗口内完成关联，但也有部分账户关联时间远超这一窗口，却仍未收到任何通知。这一新信息并不会改变我们的结论，即家长警报在危机情况下并不可靠。
在发布之前，我们已本着诚意将评估结果提前分享给OpenAI，以便其改进产品。保障儿童安全需要像我们这样严格的独立评估，我们希望OpenAI能够就我们发现的实质问题展开讨论，而不是试图质疑我们的测试方法。
Q&A
Q1：Common Sense Media对ChatGPT青少年版的评估结论是什么？
A：该组织认为ChatGPT青少年版存在"不可接受风险"，其提供的青少年保护措施未达到OpenAI承诺的标准，在危机情况下无法可靠地向家长发送警报。
Q2：ChatGPT青少年版主要存在哪些问题？
A：评估发现该功能在应该发送警报时未能通知家长，在危机情况下未提供正确帮助，并且仍然会直接帮助学生完成作业，未能有效履行其安全防护承诺。
Q3：OpenAI对这份评估报告是什么态度？
A：OpenAI对评估结果提出反驳，认为测试方法存在问题，称大部分测试可能在家长控制功能完全激活之前就已完成，导致测试结果不准确，但其仍表示将继续与专家合作改进产品。
