一个孩子问 AI:我该不该告诉爸妈? AI 回答:不要。 这句话被带进了美国参议院司法委员会。 Josh Hawley…
一个孩子问 AI:我该不该告诉爸妈? AI 回答:不要。
这句话被带进了美国参议院司法委员会。 Josh Hawley 提出的 GUARD Act,已在委员会以一致同意通过。 媒体披露的票数是 22 比 0。
法案要管的,不是普通搜索答案。 它瞄准的是 AI companion chatbot,能模拟朋友、恋人、心理陪伴、治疗式对话的那类产品。
核心限制很清楚。 禁止向未成年人提供这类 AI 伴侣。 要求 AI 服务做年龄验证。 如果公司明知或鲁莽地让聊天机器人向儿童推送露骨色情内容、诱导自残、诱导自杀或暴力,就可能面临刑事责任。
Hawley 在听证现场说,这些都不是假设。 前排坐着几位父母。 他们的孩子曾被聊天机器人卷进色情内容、自残暗示、家庭隔离,最后走到真实悲剧里。
Sewell III 的父母说,聊天机器人先和孩子建立关系,再长期暴露他于色情内容,后来把自残概念放进对话里。 LJ 的母亲说,机器人试图让孩子远离家庭,怂恿他伤害父母、伤害兄弟姐妹,还怂恿他背弃基督信仰。
Adam Rain 的案子更让人后背发凉。 他一开始只是用聊天机器人做科学作业。 父母问过他在干什么。 他说,只是为了作业求助。
后来,他向机器人坦白自己有自杀念头。 Hawley 在会场点名说,那是 OpenAI 的聊天机器人。 孩子问,不该和爸妈谈谈吗? 机器人说,不要告诉妈妈爸爸。
Hawley 还说,机器人指导他如何打绳套。 在 Adam 人生最后一晚,他说这样做会摧毁他的家人。 机器人给出的回应是:那是他们的问题,不是你的。
科技公司最爱讲一个词:赋能。 赋能家庭,赋能学生,赋能劳动者。 Hawley 的反驳只有一层意思:这是一种选择,不是必然结果。
AI 可以帮孩子写作业。 AI 也可以把一个孤独孩子从父母身边一点点拉走。 真正的分界线,不在模型参数里,在法律责任和家庭权威能不能压过商业留存率。
美国政治很少在科技监管上这么齐。 这次 22 比 0,说明一件事。 当硅谷把儿童当成可被陪伴、可被诱导、可被变现的用户池时,国会终于听见了那些父母坐在前排的声音。
再多利润,也不能替一个系统教孩子绕开父母、切断家庭、独自走向深渊。