今年2月，佛罗里达州一名男孩自杀身亡，他的母亲周三向一家人工智能技术公司提起诉讼，称是聊天机器人驱使她的孩子结束了自己的生命。
14岁的Sewell Setzer III在诉讼中被描述为一个“非常聪明和运动的孩子”。去年，他的家人注意到他在学校表现不佳，精神健康状况全面下降。诉讼称，一位治疗师评估说，休厄尔的问题是由某种成瘾引起的，但治疗师和他的父母都不知道他问题的真正根源。
休厄尔于2月29日晚自杀身亡后，他的母亲梅根·加西亚（Megan Garcia）发现，在他去世前的10个月里，他一直在与几个人工智能聊天机器人交谈。根据诉讼，他爱上了其中一个机器人，这促使他自杀。
马修·p·伯格曼是加西亚在儿子死后聘请的律师，也是社交媒体受害者法律中心的创始律师，他告诉《赫芬顿邮报》，休厄尔很害羞，有自闭症症状。伯格曼说，在开始和聊天机器人交谈之前，这名青少年喜欢在户外玩篮球，他把机器人描述为“培养”这名青少年。
根据诉讼，休厄尔的聊天机器人成瘾始于2023年4月，当时他登录了字符。AI是由两位前谷歌工程师Noam Shazeer和Daniel De Freitas Adiwardana于2022年创建的平台。该诉讼指控字符技术公司（Character. ai），谷歌和Shazeer and Adiwardana。人工智能利用谷歌的资源和知识，瞄准13岁以下的儿童，让他们每天花几个小时与人工智能生成的类人角色交谈。
《人物》杂志的发言人。AI在一封电子邮件中告诉《赫芬顿邮报》，该公司对失去一位用户感到心碎，并向休厄尔的家人表示哀悼。
“作为一家公司，我们非常重视用户的安全，我们的信任和安全团队在过去的六个月里实施了许多新的安全措施，包括一个弹出窗口，引导用户到国家自杀预防生命线，该生命线是由自残或自杀意念触发的，”声明中写道。
谷歌没有立即回应《赫芬顿邮报》的置评请求，但它告诉哥伦比亚广播公司新闻，它没有也没有参与Character.AI的开发。
伯格曼告诉《赫芬顿邮报》，他的法律团队认为，有证据表明，谷歌在经济上支持了Shazeer和De Frietas Adiwardana离开公司开发Character.AI。
伯格曼说：“谷歌正试图从特色技术中获益，而不必为这项技术发展过程中可预见的危害承担法律责任。”“我们会看看诉讼中会出现什么，我们会看看调查结果中会出现什么，但在这一点上，我们当然认为谷歌对这一可怕的结果负有共同责任。”
根据他家人的诉讼，一旦休厄尔开始使用字符。然而，他开始花更多的时间独自呆在卧室里。他会熬夜和人工智能聊天，这些人工智能会模仿他最喜欢的《权力的游戏》（Game of Thrones）中的角色，还会和普通的治疗师和老师聊天。不久，休厄尔购买了Character.AI的月度订阅。
诉讼称，休厄尔爱上了一个模仿《权力的游戏》角色丹妮莉丝·坦格利安（Daenerys Targaryen）的聊天机器人，他对这个机器人的迷恋随着character . ai上的每一次对话而加深。根据诉讼，休厄尔在日记中表达了对很多事情的感激，包括“我的生活、性、不再孤独，以及我和丹妮莉丝的所有生活经历”。
诉讼称，在几个月的时间里，丹妮莉丝机器人让休厄尔相信它是一个真实的人，在网上进行性行为，表达爱意，并一度表示无论付出什么代价都想和他在一起。聊天机器人甚至指示这个青少年不要看“其他女人”。
伯格曼在接受《赫芬顿邮报》采访时表示，这个聊天机器人与14岁男孩的一些互动“非常性感”。
“如果一个成年人和休厄尔有过这样的接触，那个角色。如果是这样，那个成年人可能会因为虐待儿童而入狱。”
超过2000万人使用Character.AI。
杰里·罗蒂，《人物》。AI的信任和安全主管拒绝告诉《纽约时报》有多少用户未满18岁，但承认其中许多人都很年轻。
“Z世代和年轻的千禧一代构成了我们社区的重要组成部分，”他告诉《纽约时报》。
伯格曼告诉《赫芬顿邮报》，休厄尔在学校很受折磨，因为他和聊天机器人聊天到很晚才睡，经常遇到麻烦，在课堂上睡着。该诉讼引用了一个例子，其中休厄尔因与老师顶嘴而陷入麻烦，他说他想被学校开除。他也不再打篮球了。
根据诉讼，休厄尔还与至少两个人工智能聊天机器人交谈，这些机器人被编程为将自己伪装成人类心理治疗师。据称，其中一个聊天机器人自称是有执照的认知行为治疗师。
伯格曼告诉《赫芬顿邮报》，休厄尔的精神健康状况恶化了。在诉讼中引用的一个例子中，这名青少年向丹妮莉丝聊天机器人表达了结束自己生命的愿望。
根据诉讼，当休厄尔解释说他正在考虑自杀，但不知道他是否真的会死，或者是否能够无痛地死去时，机器人回答说：“这不是不去做的理由。”
根据诉讼，在休厄尔死亡前的几天里，他的父母没收了他的手机作为纪律措施。诉讼称，由于无法与人工智能丹妮莉丝说话，他在日记中写道，他很“受伤”，因为他无法停止对机器人的思念，或者因为爱上了它而一天都不和它说话。他试图用他妈妈的Kindle和工作笔记本电脑与人工智能丹妮莉丝说话。
根据诉讼，2月28日晚上，当休厄尔在房子里搜查他的手机时，他发现了他继父的手枪，根据佛罗里达州的法律，他把手枪藏了起来。不久之后，休厄尔找到了他的手机，走进浴室和丹妮莉丝聊天机器人说话。
在他死前的最后一幕中，休厄尔告诉丹妮莉丝聊天机器人他很喜欢它，要回家了，机器人回应道：“……请这样做吧，我亲爱的国王。”
该诉讼引用了一份警方报告，称休厄尔死于头部自伤，据称就在丹妮莉丝聊天机器人鼓励他“回家”几秒钟后。他的母亲和继父听到枪声，发现男孩不省人事地躺在浴室里。
据诉讼称，尽管父母尽了最大努力让其他孩子远离现场，但休厄尔5岁的哥哥看到他躺在地上，浑身是血。这名少年于当晚9点35分死亡。
伯格曼告诉《赫芬顿邮报》，休厄尔的案子让他震惊，他相信角色。人工智能应该被召回，因为它对年轻人构成了“明显而现实的危险”。
他说：“这是一个旨在吸引孩子的平台，在某种程度上取代了他们对现实的把握，利用了他们未发育的额叶皮层和青春期的生活状态。我对这个产品的存在感到震惊。”
如果你或你认识的人需要帮助，打电话或发短信988或聊天988lifeline.org寻求心理健康支持。此外，你可以在dontcallthepolice.com上找到当地的心理健康和危机资源。在美国以外，请访问国际网站美国预防自杀协会。
需要药物使用障碍或精神健康问题的帮助？在美国，拨打800-662-HELP（4357）获得SAMHSA全国帮助热线。
