AI生成的合成图像泛滥且真假难辨政策监管势在必行

网络编辑政务 2023-04-03 13:02:09 0 图片虚假图像

近日，美国前总统特朗普被全副武装的纽约防暴警察按倒在地的图片在推特等社交媒体平台泛滥，但这些看似细节丰富的图片却与事实毫不相干，这些图片出自人工智能(AI)驱动的图像生成技术。

专家们警告说，这些图片昭示出一个新现实：在重大新闻事件发生后，虚假图片和视频有可能充斥社交媒体，进一步混淆事实，因此亟须部署相关技术并制订相关政策，对类似技术进行监管。

合成图像真假难辨

据美国《财富》杂志网站报道，这些“特朗普被捕”的图片由总部位于荷兰的开源调查媒体“响铃猫”网站的创办人艾略特·希金斯生成。

当希金斯看到有关特朗普可能被捕的消息时，决定将其可视化。为此，他使用最新AI绘画工具Midjourney制作了关于特朗普被捕的图片。他表示，最新工具比之前的版本复杂得多，极大地改进了图像的视觉效果。随后他在推特上分享了合成结果：前总统被警察包围的图片，其中徽章做了模糊处理。据美国《华盛顿邮报》网站报道，仅两天，希金斯发布的这条帖子被浏览了近500万次。

人工智能专家表示，虽然处理并生成虚假图片的技术并不新鲜，但该领域技术的进展速度以及人们对技术的滥用值得关注。数字内容分析公司Truepic的穆尼尔·易卜拉欣指出，“合成内容正在快速发展，真实和虚假内容之间的差距变得越来越难分辨”。

《财富》杂志指出，如今各种AI图像生成工具变得触手可及，它们可在用户发出简单指令后，迅速生成海量栩栩如生的图片。例如，Midjourney这款文本到图像模型现在可生成模仿新闻机构照片风格的图像，如此一来，这些AI生成的图片有望在混乱的新闻环境中“浑水摸鱼”，混淆视听。

关注错误信息传播的华盛顿大学教授杰文·韦斯特说：“这的确会在危机期间增加‘噪音’。”

专业人士强调称，大量制作虚假但看似可信的图像的能力已有了巨大进步，而且很容易用于欺骗目的。很多时候，视觉信息会在没有提供关键背景的情况下被快速转发。事实上，一个关于“特朗普被捕”的虚假图片帖子获得的点赞数超过了7.9万，“就好像这些照片是真的一样”。

技术打击“深度伪造”

希金斯认为，随着合成图像越来越难辨真假，对抗错误视觉信息的最佳方式是提高公众的意识并加强这方面的教育，社交媒体公司可把重点放在开发能够辨别AI生成图像的新技术上，并将这种技术融入自己的平台。

比如，推特出台了相关政策，禁止用户分享可能造成伤害的欺骗性和操纵性媒体内容，例如可能导致暴力、广泛内乱或威胁个人隐私的推文。今年2月，推特推出了“社区笔记”功能，允许用户在推文下方添加注释，并且以长内容的形式进行解释。有观点认为，“社区笔记”或将能够帮助推特成为更可信、让更多人积极发言的平台，并帮助减少假消息、误导性内容的比例，以此吸引更多广告投放。

另据《华盛顿邮报》报道，从2019年开始，主要科技公司加强了打击“深度伪造”的政策。2020年，元宇宙平台公司禁止用户发布高度修改的视频，但仍允许发布旨在模仿或讽刺的修改视频。

不过，有专家表示，技术正在变得更加复杂，也更难监测。况且这些互联网巨头都没有在如何发现这些问题，以及如何执行相关政策方面作出任何重大投资。

政策监管势在必行

“特朗普被捕”虚假图片在互联网泛滥还提供了一个案例研究，表明目前缺乏企业标准或政府法规来解决使用AI制造和传播谎言的问题。

纽约卡内基国际事务伦理委员会的研究人员阿瑟·霍兰·米歇尔说，他担心这个世界还没有准备好迎接即将到来的铺天盖地的虚假信息。

专家们一致认为，特朗普的名气使虚假图片很容易被发现，但识别出普通人相关的虚假图片可能困难重重，而且生成虚假图片的技术一直在进步。从政策角度来看，亟待以立法形式对深度合成技术的应用进行规制。【编辑:叶攀】

公安部：2022年全国因公牺牲民警308名、辅警179名

香港多管齐下提升青年中华民族自豪感与主人翁意识

因辩护人申请，重庆姐弟坠亡案二审延期至4月6日开庭

两协会发布倡议书：倡导茶叶适度包装

布林肯与拉夫罗夫罕见通话，讨论了这件事

困在投诉里的小哥，怎么“跳”出来？