"只要拥有人的形象就可以成为受害者,这是我们不得不面对的风险。"这是律师卡丽·戈德堡在人工智能时代的深度伪造色情的风险描述。
虽然网络色情——未经允许的性图像分享——几乎与互联网同龄,但人工智能工具的普及意味着任何人都有可能成为这种形式的骚扰的目标,即使他们从未上传或发送过裸体照片。现在,人工智能工具可以将某人的脸放在裸体身体上,或者操纵现有照片,让人们看起来没有穿衣服。
在过去的一年里,人工智能生成的、未经允许的色情图像的目标包括像泰勒·斯威夫特这样的知名女性,以及Alexandria Ocasio-Cortez议员等高中生。
对于发现自己或自己的孩子成为深度伪造色情图片的主题的人,这种经历通常是令人恐惧和不知所措的。戈德堡经营着一家代表性侵犯和在线骚扰受害者的律师事务所,她表示,“特别是如果他们年轻,不知道如何应对,而互联网是一个大而未知的地方。”
然而,这种形式的骚扰的目标可以采取一些步骤来保护自己,并寻求帮助。戈德堡在CNN的新科技播客节目“服务条款与克莱尔·达菲”的采访中告诉我。
“服务条款”旨在让听众了解日常生活中遇到的最新和新兴技术。(你可以在这里收听与戈德堡的完整对话。)
戈德堡表示,对于被人工智能生成的性图像所针对的人来说,第一步(无论多么违背直觉)应该是截屏这些图像。
“第一时间反应可能是尽快将这些东西从互联网上删除,”戈德堡说。“但如果你想在有选择向刑事机关报案的可能性时,你就需要有证据。”
接着,他们可以找到像谷歌、Meta和Snapchat这样的平台提供的表单,请求删除明确图像。像StopNCII.org和Take It Down这样的非营利组织也可以帮助在多个平台上同时删除这些图像,尽管不是所有网站都与这些组织合作。
在八月,一个由两党议员组成的团体发出一封公开信,呼吁包括X和Discord在内的近12家科技公司加入这些项目。
为了应对未经允许的明确图像和深度伪造的问题,已经得到了罕见的两党支持。一组受到人工智能伪造色情图片影响的青少年和家长在国会山的一个听证会上作证,共和党参议员特德·克鲁兹提出了一项由民主党参议员艾米·克洛布查和其他人支持的法案,该法案将出版此类图像定为犯罪,并要求社交媒体平台在接到受害者的通知后立即删除它们。
然而,目前受害者只能根据各州的法律来处理这个问题。在一些地方,没有刑法禁止制作或分享成年人的明确深度伪造图像。(人工智能生成的儿童色情图像通常属于儿童性虐待材料法律管辖。)
对于潜在的犯罪者,戈德堡积极的态度建议是:“不要偷走某人的形象并利用它来羞辱别人。受害者无法防止这种行为......我们永远无法在一个数字社会中完全安全,但互相尊重是很重要的。”