美国总统乔•拜登的政府正在敦促科技行业和金融机构关闭利用人工智能技术制作的滥用性图片市场。

新一代生成式人工智能工具使得将某人的肖像变成性暗示的AI深度伪造并在聊天室或社交媒体上分享这些逼真图像变得容易。无论受害者是名人还是儿童，他们几乎没有办法阻止这种行为。

在缺乏联邦立法的情况下，白宫周四发布了一项呼吁，寻求公司的自愿合作。通过承诺一系列具体措施，官员们希望私营部门可以遏制这种非自愿AI图像的创作、传播和赚钱行为，包括儿童的露骨图像。

白宫科技政策办公室主任、拜登的首席科学顾问阿拉蒂•普拉哈卡说：“随着生成式人工智能的出现，人们都在猜测第一个真正的伤害会从哪里出现。我认为我们已经找到了答案。”

她向美联社描述了“非自愿图像的可怕加速”，这种加速是由AI工具推动的，主要针对女性和女孩，可以颠覆她们的生活。

“如果你是一名十几岁的女孩，如果你是同性恋孩子，这些都是人们正在经历的问题，”她说。“由于生成式人工智能的加速，我们看到了一个迅速增长的现象。而最快的解决办法就是公司站出来承担责任。”

提前与美联社分享的一份文件呼吁AI开发者、支付处理器、金融机构、云计算提供商、搜索引擎和门户——即苹果和谷歌——采取行动。

政府表示，私营部门应该“瓦解以图片为基础的性虐待的盈利方式”，特别是限制对那些宣传未成年人露骨图像的网站的支付访问。

普拉哈卡表示，许多支付平台和金融机构已经表示他们不会支持那些宣传滥用图像的企业。

“但有时这些规定没有得到执行；有时他们没有这些服务条款，”她说。“所以这只是一个可以更加严格执行的例子。”

文件中表示，云服务提供商和移动应用商店也可以“限制被用于未经个人同意创造或更改性图像的网络服务和移动应用程序”。

无论是AI生成的还是真实的裸照被放上互联网，幸存者都应该更容易地能够让在线平台删除它们。

最广为人知的深度伪造色情图像受害者是泰勒•斯威夫特，她的狂热粉丝在一月开始在社交媒体上传播针对这位歌手兼词曲作者的滥用AI生成图像时进行了反击。微软承诺加强其保障措施，因为一些斯威夫特的图像被追踪到其AI视觉设计工具。

美国和其他地方越来越多的学校也正在处理涉及学生的AI生成深度伪造裸照。在一些情况下，发现同龄青少年制作AI操纵的图像并与同学分享。

去年夏天，拜登政府通过亚马逊、谷歌、Meta、微软和其他主要科技公司自愿承诺在将新的AI系统公开发布之前实施一系列安全措施。

这之后，拜登在10月签署了一项雄心勃勃的行政命令，旨在引导AI的发展，使公司可以在不危害公共安全的情况下获利。虽然主要关注更广泛的AI问题，包括国家安全，但也提到了AI生成的儿童虐待图像的新问题以及找到更好的检测方法。

但拜登还表示，政府的AI保障措施需要得到立法支持。一群美国参议员现在正在推动国会在未来三年至少花费320亿美元来发展人工智能并资助安全引导措施，尽管他们大多把实施这些保障措施的立法放在一边。

白宫性别政策委员会主任珍妮弗•克莱因表示，鼓励公司站出来做出自愿承诺“并没有改变国会在这里采取行动的根本需求。”

长期以来的法律已经将制作和持有儿童性图像定为刑事犯罪，即使它们是虚假的。联邦检察官本月初起诉了一名威斯康星州男子，称他使用一个流行的AI图片生成器Stable Diffusion制作了数千张涉及未成年人从事性行为的逼真AI生成图像。该男子的律师在周三的提审后拒绝发表评论。

但对制作这类图像的技术工具和服务几乎没有监管。一些公司在无关网站上销售，几乎没有提供关于运营者或技术来源的信息。

斯坦福互联网观察站在去年12月表示，在巨大的AI数据库LAION中发现了数千张被怀疑是儿童性虐待的图像，此数据库是用来训练Stable Diffusion等领先AI图像生成器的索引。

总部位于伦敦的Stability AI本周表示，他们“未批准发布”据报道被威斯康星州男子使用的早期模型，这种开源的模型很难重新限制，因为它们的技术组件被公开在互联网上。

普拉哈卡表示，造成伤害的不仅仅是开源AI技术。

“这是一个更广泛的问题，”她说。“不幸的是，很多人似乎正在使用图像生成器这种类别。在这个领域，我们看到了爆炸性的增长。但我认为这并不是简单地区分为开源和专有系统。”

——

美联社记者乔什•博克为本报稿件做出了贡献。