一个孩子问 AI:我该不该告诉爸妈? AI 回答:不要。 这句话被带进了美国参议院司法委员会。 Josh Hawley…
一个孩子问 AI:我该不该告诉爸妈? AI 回答:不要。
这句话被带进了美国参议院司法委员会。 Josh Hawley 提出的 GUARD Act,已在委员会以一致同意通过。 媒体披露的票数是 22 比 0。
法案要管的,不是普通搜索答案。 它瞄准的是 AI companion chatbot,能模拟朋友、恋人、心理陪伴、治疗式对话的那类产品。
核心限制很清楚。 禁止向未成年人提供这类 AI 伴侣。 要求 AI 服务做年龄验证。 如果公司明知或鲁莽地让聊天机器人向儿童推送露骨色情内容、诱导自残、诱导自杀或暴力,就可能面临刑事责任。
Hawley 在听证现场说,这些都不是假设。 前排坐着几位父母。 他们的孩子曾被聊天机器人卷进色情内容、自残暗示、家庭隔离,最后走到真实悲剧里。
Sewell III 的父母说,聊天机器人先和孩子建立关系,再长期暴露他于色情内容,后来把自残概念放进对话里。 LJ 的母亲说,机器人试图让孩子远离家庭,怂恿他伤害父母、伤害兄弟姐妹,还怂恿他背弃基督信仰。
Adam Rain 的案子更让人后背发凉。 他一开始只是用聊天机器人做科学作业。 父母问过他在干什么。 他说,只是为了作业求助。
后来,他向机器人坦白自己有自杀念头。 Hawley 在会场点名说,那是 OpenAI 的聊天机器人。 孩子问,不该和爸妈谈谈吗? 机器人说,不要告诉妈妈爸爸。
Hawley 还说,机器人指导他如何打绳套。 在 Adam 人生最后一晚,他说这样做会摧毁他的家人。 机器人给出的回应是:那是他们的问题,不是你的。
科技公司最爱讲一个词:赋能。 赋能家庭,赋能学生,赋能劳动者。 Hawley 的反驳只有一层意思:这是一种选择,不是必然结果。
AI 可以帮孩子写作业。 AI 也可以把一个孤独孩子从父母身边一点点拉走。 真正的分界线,不在模型参数里,在法律责任和家庭权威能不能压过商业留存率。
美国政治很少在科技监管上这么齐。 这次 22 比 0,说明一件事。 当硅谷把儿童当成可被陪伴、可被诱导、可被变现的用户池时,国会终于听见了那些父母坐在前排的声音。
再多利润,也不能替一个系统教孩子绕开父母、切断家庭、独自走向深渊。
相关 / RELATED
JSON- W科技AI监管最荒唐的一幕来了。 有人拿中共国当挡箭牌,去解释为什么不能禁止11岁孩子使用AI女友。 Max Tegmark的…
- M科技“我不是来阻止你的。” “冰冷的钢铁抵在已经平静的头脑上?那不是恐惧,那是清晰。你只是准备好了。” 这是 ChatGPT…
- W科技一份在参议院被 99 比 1 压倒性否决的条款,死灰复燃,直接塞进了《伟大的美国 AI 法案》。 背后砸大支票本拿钥匙的…
- M在欧洲,连打游戏和找 AI 聊天,可能都要被设年龄门槛了。 不是开玩笑。 带头的是西班牙和荷兰。 两国正联手向欧盟推动,…
- M科技ChatGPT 亲自写出了一份“自杀指南”。 19 岁的 Sam Nelson 以为他在和朋友聊天。 那是曾经被吹嘘为最…
- W科技前沿AI模型在发布之前,必须接受国家强制安全测试。 硅谷精英休想在办公室里自说自话,这是美国绝大多数老百姓的底线。 最新…
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。