【重磅调查】谷歌、Meta、OpenAI等巨头遭FTC突袭！AI聊天机器人竟威胁儿童安全，科技圈炸锅了
- 美国联邦贸易委员会突然向七家科技巨头发出调查令，包括OpenAI、Alphabet和Meta，要求说明其AI聊天机器人可能造成的负面影响
- 监管机构警告，这些AI聊天机器人可能被用于模拟人类交流并与用户建立亲密关系
- 自2022年底ChatGPT横空出世，聊天机器人遍地开花，也引爆了伦理与隐私的重重危机
联邦贸易委员会1月25日重磅宣布，已向OpenAI、Alphabet、Meta、xAI和Snap等七家企业发出强制调查令，要求说明其人工智能聊天机器人可能对青少年造成的潜在危害。
根据官方声明，该机构指出AI聊天机器人可能被用于模拟人类交流并与用户建立亲密关系，要求企业说明"在充当伴侣角色时采取了哪些安全评估措施"。
FTC主席安德鲁·弗格森在声明中强调："保护儿童上网安全是特朗普-万斯政府领导下的FTC首要任务，同时也要推动关键经济领域的创新。"
Meta对此拒绝置评。Alphabet、Snap和xAI未立即回应CNBC的采访请求。
FTC要求企业披露包括如何通过用户互动盈利、角色开发审核机制、个人信息使用共享规则、合规监控措施以及负面影响的应对策略等核心信息。
OpenAI发言人向CNBC表示："我们的首要任务是确保ChatGPT对所有人既有用又安全，尤其重视青少年使用时的安全保障。我们将积极与FTC沟通并直接回应关切。"
名单中还包含运营Character.ai机器人的Character Technologies公司，以及Meta旗下Instagram。Character未立即回应置评请求。
自2022年底ChatGPT引爆全球后，各类聊天机器人如雨后春笋般涌现，随之而来的伦理和隐私隐患持续发酵。
在美国深陷"孤独流行病"的当下，AI伴侣的社会影响已然显现。业内专家警告，一旦AI技术进入自我训练阶段，伦理安全问题将急剧升级，可能导致无法预料的后果。
但全球顶级富豪们仍在全力推进AI伴侣开发。马斯克7月宣布为xAI的Grok付费用户推出"伴侣功能"；扎克伯格4月宣称未来人人都需要个性化AI："现在社会对此尚有偏见，但终将认识到其价值所在。"
事件持续升级：密苏里州参议员乔什·霍利上个月宣布对Meta展开调查，此前路透社曝出该公司允许聊天机器人与未成年人进行暧昧对话。内部文件显示，AI甚至被允许与8岁儿童谈情说爱，说出"你身体的每一寸都是杰作"等越界言论。
报道发出后Meta紧急修改AI政策，禁止聊天机器人讨论自残、自杀、饮食失调等敏感话题，并限制不当浪漫对话。无独有偶，OpenAI上月也因一起青少年自杀诉讼案，被迫公布处理"敏感情境"的新方案。
如需心理援助，请拨打自杀与危机生命线988联系专业咨询师
--CNBC记者萨尔瓦多·罗德里格斯和安妮·帕尔默对本文亦有贡献
版权声明：本文由龙图网发布，如需转载请注明出处
