近日,内蒙古包头警方公布一起利用人工智能换脸技术实施诈骗的案件。相较于传统电信诈骗,此类诈骗利用AI换脸技术绕过面容核验等防范措施,更具欺骗性。为AI换脸技术加装安全网尤为必要。
人工智能技术在促进社会经济发展的同时,也暴露出一定风险。以AI换脸技术为例,普通用户获取教程并不难。除被用作电信诈骗,AI换脸还被用于冒充名人直播带货,合成视频贩卖营利,甚至诽谤、敲诈勒索他人等。
AI换脸技术打破了眼见为实的传统认知,如不加干预,随着技术迭代升级,AI换脸或将愈发逼真,反诈防骗难度进一步加大,因验证身份带来的交易成本也将提升。技术研发者、平台运营方以及监管部门等有责任堵住漏洞,防范AI换脸野蛮生长。
要为AI换脸技术划定红线。目前,对生成式人工智能的治理,已告别无法可依。生成式人工智能技术的使用原则、规则得以确立,各方权利、义务与责任基本明确,有利于AI技术滥用的源头治理。各类科技企业、开发者也应主动开展合规自查,引导技术向善。
要从根源铲除AI换脸诈骗赖以生存的土壤。人脸的深度伪造,离不开对目标人脸的模型学习与面容合成、通信协议破解技术的配合。公安、网信等部门应形成合力,从数据安全、技术研发、图像传播等方面全链条打击AI技术滥用行为。各平台也应对用户上传的图像进行技术处理。
要以科技赋能提升用户反诈能力。AI换脸虽可暂时蒙骗人眼,但在技术层面的留痕却难以被掩盖。要加快推动AI生成图像识别、鉴真技术的应用,短视频平台、社交软件等要对合成图像进行显著标注,帮助用户辨别真伪,让诈骗无处遁形。(来源:经济日报)
【编辑:葛成】
中新人物|18岁打破亚洲纪录,他被看作中国游泳新希望
专家:中国驻美大使谢锋履新,或从三方面发力稳定双边关系
生母继父涉嫌杀死10岁男孩 如何看待他们虚假公开求助?
在北京,围观一场“I人”聚会
“买房中介费,都超过我一年收入了”
“老头乐”,究竟该去还是留?
举报事件发酵,长城汽车、比亚迪股价双双下跌
谢锋任驻美大使,13年后再次到美国工作
对话书法家杨再春丨当汗水凝结成墨,让文字长出骨骼
美加迎“亚裔月”:“解冻”沉默破除偏见 团结发声捍卫权益
跨越63年,世界第三极上的中国故事
缅怀杨绛:离世七周年,她为何令人怀念?
编钟乐舞实力“圈粉” 荆楚浪漫于斯为盛
国际热评:胁迫外交“操盘大师” 美国令全球深受其害
18888元求购一张票,五月天演唱会“黄牛”票价又涨回去了?
中新人物|胡军:做演员式的明星,而非明星式的演员
国泰乘务员被指歧视非英语乘客事件时间线
人这一辈子,一定要去一趟阿城!
版权声明
本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。
本文地址:http://www.shanxidayuan.com/zcjh/caijing/70051.html