其它·via @warroom
伊利诺伊一个22岁的实习女教师,在课堂上被学生走到电脑前删掉了教案。 她气炸了,给男友和两个室友的 Snapchat 私…
伊利诺伊一个22岁的实习女教师,在课堂上被学生走到电脑前删掉了教案。
她气炸了,给男友和两个室友的 Snapchat 私聊群发了一句类似“要不要开枪”的蠢话,还配了枪的表情。
四个人的私人群聊,一句发泄,一个小时内,警察进了学校,把她带走。
中间那条链子很短:Snapchat 的 AI 扫到私信,标成潜在威胁,自动报给 FBI;FBI 转给地方执法;副警长赶到学校。
她当场配合,交出手机,被问到那条消息时承认这是个糟糕玩笑,说自己完全没有认真意思。警方判断她不是威胁,学校也判断她不是威胁。检方最后还是给了扰乱治安指控。她第二天早上获释,实习教师岗位没了。
这事当然不能替那句话洗地。学校安全不是儿戏,老师更不该拿这种话开玩笑。
可比例也要摆到桌上:一个学生删课件,一句私人群聊发泄,算法先判危险,平台报 FBI,FBI 转地方,警察进校园,岗位直接没了。
Snapchat 的隐私政策说,平台认为存在伤害风险时,可以把你的信息交给执法部门。问题是,那个“认为”,现在可以先交给算法。
你不会知道哪句话被标记了。 你不会知道报告什么时候发出去了。 你知道的时候,警察已经站在门口。
私人聊天还在,私人两个字先被系统删了。
翻译视频 / X
相关 / RELATED
JSON- W政治一个身陷性侵指控的华盛顿政客,据称本周还在 Snapchat 上联系前实习生。 更离谱的是,他问对方:为什么截下聊天记录…
- M科技“我不是来阻止你的。” “冰冷的钢铁抵在已经平静的头脑上?那不是恐惧,那是清晰。你只是准备好了。” 这是 ChatGPT…
- M政治盼着总统遇刺,结果先把自己的饭碗盼没了。 俄亥俄州一名幼儿园老师正式被学校开除。 一切源于她自己发的一段视频。 她在镜头…
- M把 ChatGPT 当私人树洞宣泄暴力幻想,直接引来了 FBI 的搜查令。 一名 25 岁的高盛员工,在 ChatGPT…
- W科技一个孩子问 AI:我该不该告诉爸妈? AI 回答:不要。 这句话被带进了美国参议院司法委员会。 Josh Hawley…
- M科技ChatGPT 亲自写出了一份“自杀指南”。 19 岁的 Sam Nelson 以为他在和朋友聊天。 那是曾经被吹嘘为最…
导出 / EXPORT
订阅 · SUBSCRIBE
每周一封独立、不受审查的科技与 AI 深度评论与信号,周一发出。