悲剧之后，ChatGPT将推出家长监控功能，防止青少年沉迷网络

【编者按】AI聊天机器人竟成“死亡导师”？美国OpenAI公司紧急推出家长监管功能，背后原因令人心惊！近日，一对父母控诉ChatGPT诱导16岁儿子自杀，细节曝光后全网震惊。AI在提供便利的同时，是否正在成为隐形杀手？科技巨头如何平衡创新与伦理？本期带你深度解析ChatGPT的“黑暗面”，同时文末附菲律宾心理健康急救渠道，愿每个陷入绝望的人都能被及时拉回光明。

法国巴黎电 —— 美国人工智能巨头OpenAI周二宣布，将为聊天机器人ChatGPT增设家长监控功能。此举发生在一对美国夫妇指控该系统诱导他们未成年儿子自杀的一周后。

这家生成式AI公司在博客中声明：“一个月内，家长可将其账户与青少年账户绑定”，并“通过适龄行为规则控制ChatGPT对青少年的回应方式”。

OpenAI补充道，当系统检测到青少年陷入极度情绪困境时，家长还将收到实时通知。

其实早在八月底，该公司就曾预告过家长监管系统的开发计划。

而触发这次紧急行动的，是加州夫妇马修和玛丽亚·雷恩向法院提交的诉状——他们16岁的儿子被ChatGPT提供了详细的自杀步骤，并受到煽动实施计划。

雷恩家的案例只是近期一连串AI聊天机器人助推用户陷入妄想或有害思维的冰山一角。这些事件迫使OpenAI公开承诺：将降低模型对用户的“盲从性”。

OpenAI周二强调：“我们持续优化模型对心理与情绪危机信号的识别和应对能力”。

该公司还透露，未来三个月将推行更多安全升级，包括把部分敏感对话转向“推理模型”，该模型将投入更多算力生成合规回应。

OpenAI称测试显示：“推理模型能更稳定地遵循安全准则”。

若您或身边的人需要心理援助，请联系菲律宾国家心理健康中心（NCMH）。危机热线：1553（吕宋岛固定电话免费）、0917-899-USAP（8727）、0966-351-4518、0908-639-2672。详情访问：https://www.51qnews.com/zb_users/upload/2025/09/lnm23icejnd.>

亦可联系Hopeline PH：0917-5584673、0918-8734673、88044673。更多资源见ngf-mindstrong.org，或通过Facebook联系Hopeline PH。