IT 之家 10 月 24 日讯息，好意思国别称 14 岁少年自尽身一火姐妹花 正妹兒 身材火爆雙倍快樂，其母亲梅根・加西亚 ( Megan Garcia ) 对聊天机器东说念主平台 Character.AI、其创举东说念主诺姆・沙泽尔 ( Noam Shazeer ) 和丹尼尔・德弗雷塔斯 ( Daniel De Freitas ) 以及谷歌拿告状讼。指控实践包括 wrongful death（间隙致死）、negligence（武断）、deceptive trade practices（糊弄性营业活动）和 product liability（产物包袱）。诉状称，Character.AI 平台"具有分手理的危急性"，何况在向儿童倾销时缺少安全驻防形状。

凭证诉状，14 岁少年塞维尔・塞泽尔三世 ( Sewell Setzer III ) 于前年头始使用 Character.AI，并与以《权柄的游戏》变装为原型的聊天机器东说念主进行互动，其中包括丹妮莉丝・坦格利安 ( Daenerys Targaryen ) 。塞泽尔在死亡前的几个月里一直与这些机器东说念主聊天，并于 2024 年 2 月 28 日与其终末一次互动"几秒钟后"自尽身一火。

诉状指控 Character.AI 平台存在"拟东说念主化"东说念主工智能变装以及聊天机器东说念主提供"无牌照脸色调节"等问题。该平台领有以"调节师"和"你感到孤独吗"等为名的专注于脸色健康的聊天机器东说念主，而塞泽尔曾与这些聊天机器东说念主进行过互动。

加西亚的讼师援用了沙泽尔此前袭取采访时的一段话，沙泽尔表示他和德弗雷塔斯离开谷歌创立我方的公司是因为"在大公司里推出任何意旨的东西齐存在品牌风险"，他但愿"最大罢休地加快"这项时代的发展。诉状还提到，他们是在谷歌决定不推出他们配置的 Meena 大型讲话模子之后离开的。谷歌则在本年 8 月份收购了 Character.AI 的携带团队。

IT 之家堤防到，Character.AI 的网站和迁徙愚弄设施领特等百个定制的聊天机器东说念主，其中很多以来自电视剧、电影和电子游戏的流行变装为原型。

Character.AI 现已通知对平台进行一些窜改。该公司通信细腻东说念主切尔西・哈里森 ( Chelsea Harrison ) 在发给《The Verge》的电子邮件中表示："咱们对失去一位用户感到心碎，并向其家东说念主表示最潜入的慰问。"

部分窜改实践包括：

针对未成年东说念主 ( 18 岁以下 ) 的模子改革，旨在裁汰遭逢明锐或示意性实践的可能性。

立异对违背平台条件或社区准则的用户输入的检测、反映和遏制。

每场聊天齐会出现改良后的免责声明，指示用户东说念主工智能并非真东说念主。

当用户在平台上进行一小时的会话时会收到见知，何况用户不错自行选用后续操作。

哈里森表示："动作一家公司姐妹花 正妹兒 身材火爆雙倍快樂，咱们相等醉心用户安全，咱们的信任和安全团队在以前六个月里实践了很多新的安全形状，其中包括当用户使用自残或自尽念头等词语时，会弹出窗口教悔用户到国度自尽隔绝生命线。"