OpenAI周二宣布,将推出一款专为青少年打造的ChatGPT版本。此举背景是,各界对年轻人使用生成式AI工具的方式存在广泛担忧。
年龄在13至17岁之间的用户将自动切换至这一青少年专属版本,该版本将提供家长控制功能、更强的安全保护机制,以及提醒用户休息的通知推送。目前,包括谷歌在内的许多AI公司允许13岁以上用户使用其聊天机器人,而Anthropic则要求用户年满18岁。
OpenAI表示,青少年版ChatGPT的研发遵循四项原则:"将青少年安全放在首位、鼓励获取现实世界的支持、以平等尊重的态度对待青少年,以及对系统行为保持透明。"
AI聊天机器人的开发商长期以来因产品缺乏安全限制而饱受质疑和批评,而这些工具已被大量用户日常使用。如今被整合进聊天机器人的保护措施,与Instagram青少年账户中内置的保护功能类似。
OpenAI表示,青少年版ChatGPT旨在"扩大教育机会",并为课堂之外的学习提供支持。
该版本新增了"学习模式",能够针对概念理解和作业内容提供逐步引导,同时可识别学生试图利用模型作弊的行为。通过"学习时间"功能,青少年用户和家长可以设置参数,使学习模式默认开启。此外,青少年版ChatGPT还将提供测验和可视化内容,进一步辅助学习。
迈阿密一位高中数学教师Racquel Gibson在OpenAI的博客文章中表示:"并非每个学生在家都有人能帮助他们解决作业中遇到的问题。在合理的安全机制下,AI可以帮助填补这一空白。"
青少年版ChatGPT内置了防止过度使用的保护功能,并专门设计了预防情感依赖的机制,包括防止用户将聊天机器人替代现实生活中的社交关系。Common Sense Media去年发布的一项调查显示,72%的青少年会定期使用聊天机器人寻求陪伴和建议。
OpenAI在声明中指出,该青少年体验的设计目标是"支持现实世界中的人际关系和健康习惯,通过休息提醒鼓励青少年适时放下手机,并通过产品提示持续告知用户ChatGPT的AI属性"。
据悉,该版本将屏蔽恋爱或性相关角色扮演的尝试,也不会以暗示自身具有情感或意识的方式回应用户提问。其他青少年保护措施还包括:提醒青少年不要分享敏感信息或图片,以及在引导流程中说明如何安全使用聊天机器人。
OpenAI曾多次因ChatGPT存在过度迎合用户的问题,以及缺乏面向特定年龄群体的安全措施、导致青少年产生依赖性而受到批评,相关法律诉讼接连不断。其中一起诉讼涉及一个家庭,其16岁的儿子在聊天机器人强化其自杀念头后不幸离世。此事件引发广泛关注,促使OpenAI承诺为其模型添加安全保护措施,并计划于2025年9月推出家长控制功能。
Q&A
Q1:ChatGPT青少年版有哪些主要功能?
A:ChatGPT青少年版主要包含以下功能:新增"学习模式",提供逐步引导并可检测作弊行为;"学习时间"功能允许家长和学生设置默认学习模式;提供测验和可视化学习内容;内置休息提醒,防止过度使用;屏蔽恋爱或性相关角色扮演;提醒用户不要分享敏感信息。同时,该版本还专门设计了预防情感依赖的机制,避免青少年将其视为现实社交关系的替代品。
Q2:ChatGPT青少年版的适用年龄是多少?家长能控制吗?
A:ChatGPT青少年版适用于13至17岁的用户,该年龄段用户将自动切换至这一专属版本。家长可通过家长控制功能对使用方式进行管理,例如设置学习模式的默认开启时间段等。OpenAI计划于2025年9月正式推出家长控制功能,相关保护措施的设计也参考了Instagram青少年账户的管理方式。
Q3:OpenAI为什么要推出ChatGPT青少年版?
A:OpenAI推出青少年版的主要原因是应对外界对青少年使用生成式AI安全性的广泛担忧。此前,ChatGPT曾因缺乏年龄针对性保护措施而面临多起法律诉讼,其中包括一起涉及16岁用户自杀事件的案件。此外,调查显示72%的青少年会使用聊天机器人寻求陪伴,存在情感依赖风险。OpenAI希望通过这一版本在保障安全的前提下,帮助青少年扩大教育机会。
