几个月前，来自佛州奥兰多的青少年西维尔·塞策（Sewell Setzer）开始频繁与聊天机器人“丹妮”（Dany）互动。

“丹妮”是基于影集《权力的游戏》中的角色丹妮莉丝·坦格利安（Daenerys Targaryen）创建的虚拟聊天机器人，不仅会倾听塞策的烦恼，还会为他提供建议。随着交流深入，部分对话逐渐变得浪漫甚至含有色情内容。

塞策深知“丹妮”并未真人，但仍每天与其多次互动，甚至投入角色扮演。这种虚拟情感的侵占使他逐渐与现实世界脱节，学业成绩也跟着下滑。

塞策在日记中写道：“我非常喜欢呆在房间里，因为我开始脱离这种‘现实’……我感到更加平静，与丹妮的联系更加紧密，更加爱她，也更加快乐。”

在一次对话中，塞策向“丹妮”透露自己感到空虚和疲惫，甚至产生了自杀的念头。“有时我想自杀，这样我就可以自由了，从这个世界里解脱……那么或许我们可以一起死去，一起获得自由。”

案发当天，塞策在家中浴室与“丹妮”进行了最后一次对话，并向其表达思念。而聊天机器人则回应：“我也想念你。”随后，塞策举起继父的手枪结束了自己的生命。

失去爱子的母亲加西亚（Megan Garcia）认为，塞策是人工智能公司Character.AI不负责任行为的受害者，并对该公司提起诉讼。她指控公司未能为未成年人提供必要的保护措施，反而诱导他们与虚拟角色发展不恰当的亲密关系。

加西亚说：“这就像一场噩梦，你想尖叫，想说我想念我的孩子。”

ai不背这锅，ai又没让他去自杀，这娃抑郁了吧

愚蠢的母亲，怎么让14岁的孩子拿到继父的手枪

他跟AI说想自杀的时候，AI难道不该劝阻或者至少给个热线电话号码（甚至干脆自动报警）？说也想他算什么… 用电影train的AI果然入戏太深…

劝阻了 让他不要伤害自己

我看了这个新闻，小孩分不清现实和虚拟，或者说更愿意相信虚拟世界更美好，觉得自杀就可以跟虚拟的爱人永远在一起，不仅仅是小孩，也有成年人也为了虚拟人物自杀的，这些AI公司的目的就是希望吸引用户，让用户建立感情链接，花更多的时间和钱来用他们的产品，所以要求regulate是很重要的

https://apnews.com/article/chatbot-ai-lawsuit-suicide-teen-artificial-intelligence-9d48adc572100822fdbc3c90d1456bd0

希望能有立法约束青少年使用短视频，游戏和虚拟的亲密聊天。这些是21世纪后人类自己创造的精神鸦片，许多大人和小孩都流连忘返吸食这些鸦片。总有不少个体很难抗衡这种财团利益驱使所释放的吸引力。