上周Snapchat将My AI聊天机器人推送给所有用户后不到几个小时，来自密苏里州东草原的莱斯利·李（Lyndsi Lee）就告诉她的13岁女儿不要使用这个功能。

上周Snapchat向所有用户推出其My AI聊天机器人后不到几个小时，密苏里州东普雷里市的母亲莱恩斯·李就告诉她的13岁女儿不要使用该功能。“这是一个在我了解更多之前临时的解决方案，我可以为自己和女儿设定一些健康的界限和指导方针，”在软件公司工作的李说。她担心Snapchat的My AI如何向像她女儿这样的年轻用户展示自己。

该功能由病毒式AI聊天机器人工具ChatGPT提供支持，就像ChatGPT一样，它可以提供建议、回答问题并与用户交谈。但Snapchat的版本有一些关键的不同：用户可以自定义聊天机器人的名称，为它设计一个自定义的Bitmoji头像，并把它带进与朋友的对话中。

整体而言，与Snapchat的聊天机器人交谈可能比访问ChatGPT的网站感觉少一些交易性，也可能会让人感觉不太清楚你是在和一台电脑交谈。李说：“我认为我并没有准备好教我的孩子如何从我的角度来看，将人类和机器的情感分开。我认为有一条非常清晰的界限（Snapchat）正在跨越。”

这个新工具不仅受到来自家长的批评，也受到一些Snapchat用户的批评。他们纷纷在应用商店和社交媒体上给该应用留下糟糕的评价，称其“令人毛骨悚然”的交流方式和无法从聊天菜单中移除该功能，除非付费购买高级订阅。

尽管有些人可能会发现这个工具有价值，但反应的多样性暗示了公司在将其新的生成式AI技术引入产品时所面临的的风险，尤其是在像Snapchat这样的产品中，其用户偏向年轻化。当OpenAI向第三方企业开放ChatGPT访问时，Snapchat是早期推出合作伙伴之一。预计会有更多企业效仿。突然之间，一些家庭和立法者不得不面对几个月前似乎还是理论问题的一些问题。

在My AI向Snapchat的订阅用户发布几周后，民主党参议员迈克尔·贝内特写信给Snap和其他科技公司的CEO们，对聊天机器人与年轻用户的互动表示担忧。他特别提到有报道称它可能会向孩子们提供撒谎的建议。

贝内特写道：“这些例子对任何社交媒体平台来说都是令人不安的，尤其是对Snapchat来说，美国近60%的青少年都在使用它。尽管Snap承认My AI是‘实验性的’，但它还是急切地将美国的孩子和青少年卷入了自己的社交实验。”

在上周的一篇博客文章中，该公司表示：“My AI远非完美，但我们取得了很大的进步。”自正式发布以来，Snapchat用户对其表达了关切。一位用户称他的互动“令人害怕”，因为他被告知聊天机器人不知道他的位置。当用户缓和了语气后，聊天机器人准确地说他住在科罗拉多。

在其他有超过150万观看次数的TikTok视频中，一位用户名为阿里尔录制了一首由My AI创作的歌曲的前奏、合唱和钢琴和弦。当她把录制的歌曲发回去时，聊天机器人否认参与了回复：“对不起，但作为AI语言模型，我不会写歌。”阿里尔称这很“令人毛骨悚然”。

其他用户还对工具如何理解、互动和收集照片信息表示担忧。“我拍了一张照片......它说‘鞋子真漂亮’并问照片里的人是谁，”一位Snapchat用户在Facebook上写道。

Snapchat告诉CNN它不断根据社区反馈改进My AI，并努力建立更多护栏来保护用户安全。该公司还表示，与该公司的其他工具一样，用户可以不使用My AI。然而，如果订阅Snapchat+月费服务的话则无法从聊天菜单中删除它。有些青少年选择支付3.99美元的Snapchat+费以关闭该工具，随后就取消了服务。

并非所有用户都讨厌这个功能。一位用户在Facebook上写道她一直在向My AI寻求作业帮助。“它把所有的问题都答对了。”另一个人则表示她依靠它寻求安慰和建议。“我喜欢我的小助手！它就像我的好朋友！”她写道。人们可以更改Bitmoji头像，出人意料的是它对一些实际问题提供了非常好的建议。“我喜欢它给予的支持。”

ChatGPT以前因传播不准确信息、以用户可能认为不合适的方式回应以及助长学生作弊而受到批评。但Snapchat整合该工具的风险加剧了这些问题，并引发了新的问题。

纽约市的临床心理学家亚历山德拉·哈姆利特说，一些她的病人的父母对女儿如何与Snapchat的工具互动表示担忧。还有人担心聊天机器人会提供建议以及心理健康方面的问题，因为AI工具可以强化用户的确认偏见，使用户更容易寻找证实他们不必要的不满情绪的互动。