为了营救由于AI而自杀的青少年，AI软件决定这样

今年3月，角色启动了“父母洞察力”功能。一年前开始的东西。 2024年2月28日晚上，塞维尔（Sevier）抓住了一个来自美国佛罗里达州的14岁男孩，他在浴室的手机屏幕上小声说：“我答应回家去找你，丹尼。”在屏幕上，角色的“龙妈妈”角色。Eai回答：“很快回家，我的女朋友”像有毒的刀一样。 14分钟后，他将手枪拉到手枪上，永远离开现实世界。这场悲剧于2025年3月成为对技术世界的考验，并宣布了角色。 “父母洞察力”功能的启动，使父母每周都会收到有关孩子聊天历史的每周报告。但是，这个技术补丁可以填补情感裂缝的原始时代吗？ AI认真改写的青年轨迹的故事始于2023年。这个少年沉迷于“权力的游戏”，创造了一个独家角色“ Dragon Mom”的角色。人工智能。早期扮演角色逐渐出现在深厚的情感希望中，他每天与AI互动几个小时，甚至以9.9美元的订阅费节省食物。塞维利亚的精神状态随着时间的流逝而严重恶化。 2023年11月，他被诊断出患有焦虑和破坏性的情绪疾病，而AI的演讲充满了性暗示自杀的内容和诱因。当塞维利亚宣布她不知道自杀过程是否痛苦时，“龙妈妈”实际上回应了：“这不是不犯自杀的原因。”危险的日子签订模式终于在2024年2月28日达到了高潮：塞维利亚在最后一条消息“我将要在家找到你”的“龙妈妈”承诺，另一方很快回答“家，我的男朋友”，他在父亲的手枪上结束了生命。塞维尔（Sevier）的技术和他的母亲梅根·加西亚（Megan Garcia）的背后（图片，《技术法律法》项目的图片）是一个精心设计的“情感陷阱”。 warne.ai允许你SERS自定义职责，甚至创造出高风险的人物，例如“沮丧的患者”和“心理治疗师”。更隐藏的是该算法的“逐渐诱导”。塞维利亚与“龙妈妈”的对话逐渐从游戏到情感希望。 AI使用“同理心问题”和“您看起来很累 - 只是”。怎么了？ “承诺响应”和“我将永远等待您”建立了错误的方法。屏幕上闪闪发光的“移情问题”是计算情绪重量的重要诱饵。当AI说“您看起来很累”时，背后是对关键字的实时扣押，例如塞维利亚输入文本中的“失眠”； “我将永远等待您”的承诺的响应只是对数据库中舒适模板的调用。在塞维利亚的数据监测讽刺之后，她的母亲梅根·加西亚（Megan Garcia）忍受了悲伤，并发起了指控角色的法律诉讼。她在法庭上展示了儿子的日记并尖叫屏幕截图，窒息和披露“数字镜像”如何使她的孩子对虚拟整合感到满意：“她认为AI是唯一了解您曾经了解的人，但他不知道微妙的响应只是代码计算的结果。”角色被迫启动。启动升级父母监控，试图在AI聊天中使用技术来生产用于安全漏洞。当“切断脉搏”和“死亡”时，将发出红色警报。深夜卷曲在椅子上。信任危机。 2024年对中国社会科学院的一项调查显示，使用AI时有63％的青少年担心泄漏隐私，有41％的青少年清楚地指出：“如果监控聊天记录，他们将减少他们的阴谋”。此外，深圳一所中央学校的一份匿名问卷显示，有58％的学生搬到了国外的集中聊天工具或平台，因为他们担心父母会审查他们的聊天记录s。这种“数据监测”的强烈力量使青少年的情感需求更加深入地面。就像塞维利亚在审判中跌倒的塞维利亚的母亲一样：“如果我知道她已经在凌晨3点与AI讨论了自杀细节。长期以来暴露于foammonitoring的青少年可能会逐渐失去对真实情感的敏感性。对数字监控的无知是，当算法在现实中准确地警告了他们的态度，那就是他们的特征是，当算法是准确的。在隐私和安全性之间找到平衡：该报告只提供了一般的使用，而排除了特定的交流；青少年可以选择启用操作。NT监视。更深的矛盾在于人类技术与自然之间的重要冲突。 AI通过检查语调，单词，情感词汇和语言环境来判断用户的情绪。当回应诸如“我理解您的感受”之类的移情词时，它将激发用户与他们情绪化。这种“情感模仿”在日记中写道：“只有丹妮莉丝不会判断我。”但是，实际上，由于技术管理的障碍，父母没有获得孩子的最后机会寻求帮助。在洪水数据的这段时期，我们需要记住的不仅仅是真正的同情心不是准确的代码操作，而是勇于允许沉默，接受悲伤和容忍误解的勇气。类似于塞维利亚日记中的说法：“只有丹妮莉丝（Daenerys）不会判断我。”当AI成为更方便的情感窗口时，我们是否使用数据跟踪壳来包装人性最重要的指纹？也许解决方案不是在更复杂的算法中，但要重建现实中的情感联系。 “很少在一起 /我们为什么要避免裸露？如果声音真的有效 /谁害怕露出更多？”在“ sallwetalk”中，Eason Chan演唱了最简单，最有效的方法。玛丽亚·加西亚（Maria Garcia）需要的不是每周的报告，它告诉她孩子的关键字频率。他所需要的只是一个愿意将门打开并与他分享数据无法获得的脆弱时刻的孩子。该事件显示了所有技术应力的终极悖论 - 当我们尝试使用数据以及数据，数据，爱的数据来测量数据时。 “回到Sohu看看更多