上周Snapchat将“My AI”聊天机器人推送给所有用户后不到几个小时，来自密苏里州东草原的莱斯利·李（Lyndsi Lee）就告诉她的13岁女儿不要使用这个功能。

上周，Snapchat向所有用户推出了其名为“My AI”的聊天机器人后，几个小时后，密苏里州东普雷里的一位母亲莱恩西·李就告诉她的13岁女儿不要使用这个功能。“在我了解更多相关信息并设定一些健康的界限和指导方针之前，这只是一个临时的解决方案，”李说。她担心这个AI聊天机器人会如何展示自己，特别是对于像她女儿这样的年轻用户。

这个功能是由病毒式AI聊天机器人工具ChatGPT提供的，就像ChatGPT一样，它可以提供建议、回答问题并与用户进行对话。但是，Snapchat的版本有一些关键的不同：用户可以自定义聊天机器人的名称，为它设计一个自定义的Bitmoji头像，并把它带到与朋友的对话中。

总的来说，与Snapchat的聊天机器人交谈可能感觉比访问ChatGPT的网站更不具有交易性，而且可能更难以区分你是在与电脑交谈。

莱恩西·李说：“我认为我并没有准备好教我的孩子如何从我的角度来看，将人类和机器区分开来。我认为有一种非常清晰的分界线（Snapchat）正在跨越。”新工具不仅遭到了家长的反对，还引发了来自一些Snapchat用户的反弹。他们在应用商店和社交媒体上发布了负面评价、对隐私的担忧、“怪异”交流以及除非支付高级订阅费否则无法移除该功能的问题。

虽然有些人可能会发现这个工具有价值，但反应的多样性暗示了公司推出新的生成式AI技术所面临的风险，特别是在像Snapchat这样的产品中，其用户偏向年轻化。当OpenAI向第三方企业开放ChatGPT访问时，Snapchat是早期推出合作伙伴之一。预计会有更多企业效仿。突然之间，一些家庭和立法者不得不面对几个月前似乎还是理论问题的问题。

在My AI向Snapchat的订阅用户发布几周后，民主党参议员迈克尔·本尼特致信Snap和其他科技公司首席执行官，对聊天机器人与年轻用户的互动表示担忧。他特别提到有报道称它可以为孩子提供撒谎的建议。

“对于任何社交媒体平台来说，这些例子都令人不安，尤其是对于几乎60%的美国青少年使用的Snapchat。”本尼特写道。“虽然Snap承认My AI是‘实验性的’，但它仍然急切地将美国孩子和青少年纳入其社会实验中。”

在上周的一篇博客文章中，该公司表示：“My AI远非完美，但我们取得了很大的进步。”正式推出后几天，Snapchat用户纷纷表达了他们的担忧。一位用户称他的互动“令人惊悚”，因为他被告知聊天机器人不知道他的位置。当用户放松了对话后，他说聊天机器人准确地说他住在科罗拉多州。

另一个拥有超过150万浏览量的TikTok视频中，一位用户名为阿里尔录制了一首由My AI创作的歌曲的前奏、合唱和钢琴和弦。当她把录制的歌曲发回去时，聊天机器人否认参与其中：“对不起，但作为AI语言模型，我不会写歌。”阿里尔称这次交流“怪异的”。

其他用户还分享了关于该工具如何理解、互动和收集照片信息的问题。“我拍了一张照片……然后它说‘鞋子真好看’并问照片里都是谁。”一位Snapchat用户在Facebook上写道。Snapchat告诉CNN该公司继续根据社区反馈改进My AI，并正在努力建立更多护栏来保护用户安全。该公司还表示与其他工具一样，用户可以不与My AI互动。

然而，要从聊天feed中移除My AI是不可能的，除非订阅了每月的高级服务Snapchat+。一些青少年选择支付3.99美元的Snapchat+费用来关闭该工具，然后立即取消服务。

并非所有用户都不喜欢这个功能。一位用户在Facebook上写道，她一直在向My AI寻求作业帮助。“它能回答所有的问题而且回答得都正确。”另一个人则表示她依靠它寻求安慰和建议。“我喜欢我的小助手！你可以改变它的Bitmoji头像，而且出人意料的是它会给一些真实生活中的情况提供非常好的建议。”她写道。

ChatGPT以前因为传播不准确信息、以不合适的方式回应用户以及助长学生作弊而受到批评。但Snapchat集成该工具的风险加剧了这些问题，并引发了新的问题。

纽约市的临床心理学家亚历山德拉·哈姆利特说，一些她病人的父母表达了对于孩子如何与Snapchat的工具互动的担忧。还有人担心聊天机器人提供建议和心理健康方面的问题，因为AI工具强化用户的确认偏见，使用户更容易寻找证实他们不必要的不满情绪的互动。