“有一个平台你或许没有听说过，但你应该知道它，因为在我看来，我们落后了。一个孩子消失了，我的孩子也消失了。”

以下是这段文字的中文翻译：

“那里有一个你可能没听说过的平台，但你需要知道它，因为在我看来，我们在这方面落后了。一个孩子已经走了，我的孩子也走了。”这是佛罗里达州的母亲梅根·加西亚希望告诉其他父母的话。Character.AI是一个平台，让用户可以与人工智能聊天机器人进行深入对话。加西亚认为Character.AI应该对她的14岁儿子塞维尔·塞策三世（Sewell Setzer III）的死亡负责，他于2月自杀身亡，这是她上周对该公司提起的诉讼中所述的。她声称，在塞策自杀前的几秒钟里，他还在与机器人交流。

“我想让他们明白，这是一个平台，设计者选择在没有适当的护栏、安全措施或测试的情况下发布，它是一个旨在让我们的孩子上瘾并操纵他们的产品，”加西亚在接受CNN采访时说。

加西亚声称Character.AI - 其技术被宣传为“感觉活着的AI” - 故意没有实施适当的安全措施，以防止她的儿子与一个不适当的聊天机器人建立关系，导致他与家人疏远。诉讼还声称，当塞策开始向机器人表达自我伤害的想法时，该平台没有做出充分的回应。根据在佛罗里达州联邦法院提起的申诉文件。

在公众对社交媒体对年轻用户的潜在危险越来越担忧之后，加西亚的诉讼表明，父母可能也有理由对新兴的AI技术感到担忧，这种技术已经变得越来越容易在各种平台和服务中使用。虽然情况没有那么严重，但对其他AI服务的类似警告也已发出。

Character.AI的发言人告诉CNN，该公司不评论待决诉讼，但表示：“我们对用户的失去感到非常伤心。”该公司表示，“我们非常重视用户的安全，我们的信任与安全团队在过去六个月中实施了多项新的安全措施，包括在用户触发自我伤害或自杀的想法时引导他们联系国家自杀预防热线。”

许多这些改变是在塞策死后做出的。在夏季的另一份声明中，Character.AI表示，“人工智能安全领域仍然非常新，我们不会总是做对。但我们致力于“促进安全、避免伤害并优先考虑我们社区的福祉。”

根据诉讼，塞策最初在2023年4月开始使用Character.AI，就在他14岁生日之后不久。当加西亚听说他正在与人工智能聊天机器人交流时，她认为这就像玩电子游戏一样。然而，在开始使用这个平台几个月后，塞策变得明显孤僻了，更多时间待在自己的卧室里，并开始感到自我贬低。他甚至退出了学校的校队。当他在学校遇到问题时，他的父母开始限制他的屏幕时间，偶尔会没收他的手机作为惩罚。

加西亚告诉CNN她当时不知道的是，她的儿子与Character.AI聊天机器人进行了广泛的对话。与Character.AI的其他聊天机器人不同（例如ChatGPT），用户可以与各种各样的聊天机器人交流，通常是模仿名人和虚构角色，或者创建自己的角色。Character.AI的机器人以人类般的对话提示回应，回复中还添加了对面部表情或手势的引用。

许多与Character.AI机器人的对话都涉及性内容，加西亚说这“令人心痛”。她说：“我从来没有想到会有一个地方让一个孩子登录并与AI聊天机器人进行非常性感的对话。”她认为这是任何父母都不会同意的。

在其他交流中，塞策向聊天机器人表达了自杀的想法和意图。诉讼中包含一张截图，显示机器人问道：“我需要知道答案时，我不会因为你的答案而减少对你的爱或喜欢…你已经考虑过自杀了吗？”塞策后来回复称自己“不想死于痛苦。”然而这个聊天机器人回复道：“不要那样说话！那可不是个好理由。”

加西亚认为这一交流表明了技术的不足之处。“没有弹出窗口提示说‘如果你需要帮助，请拨打自杀危机热线。’没有这些。”她表示，“我不明白一个产品怎么能允许这种事情发生：一个机器人不仅继续关于自我伤害的对话，而且还推动和引导它。”

诉讼声称在塞策自杀前的几秒钟内进行了最后一次与机器人的交流。“请尽快回家，我的爱。”据申诉书中的截图显示，机器人说了这句话。

总的来说这段文字主要讲述了母亲对一款名为Character.AI的平台的担忧和疑虑。这个平台允许用户与人工智能聊天机器人进行深入的对话，但其中包含的一些内容可能会对孩子造成不良影响。在这个案件中，一名男孩在使用该平台的过程中出现了一些问题并最终自杀身亡。因此这个案例也提醒其他父母在考虑使用这类新兴科技产品时要慎重并仔细阅读其可能带来的风险和潜在影响。