工信部:将在手机端推出AI换脸诈骗风险提醒功能

来源:爱集微 #AI换脸# #手机#
5.6w

如今一些不法分子利用“AI换脸”技术实施诈骗,已成为一种新型骗局。利用AI技术制作换脸视频或合成声音来实施诈骗的确让人防不胜防,那么如何防范这种风险呢?有关部门正在开发相关的反制技术和手段。

据央视网报道,AI换脸诈骗检测与预警技术正在测试中。

工业和信息化部反诈工作专班专家李坤表示:“我们正在会同行业内的手机终端企业,将推出AI 换脸诈骗风险提醒功能,这项功能仅在手机端来本地运行,能够有效保护用户数据不泄露。经过用户授权后,可为用户提供AI换脸诈骗风险预警提醒。”

在测试体验中,当用AI换了脸的技术人员与记者发起视频通话时,测试手机终端提示“对方疑似假冒身份”。点击检测按钮,经过图像扫描,系统提示“AI换脸合成概率93%”。

据了解,AI换脸主要是使用深度合成技术。《互联网信息服务深度合成管理规定》提出了算法备案、安全评估的手段,要求深度合成服务提供者对深度合成的内容添加显式或隐式水印。中国信通院人工智能所安全与元宇宙部专家陈文弢称:“要对生成合成的内容去添加一些水印,这个水印的本质其实就是要一方面去提示公众这个内容是由AI生成或者合成的,另一方面也是要追溯它的来源。”

责编: 陈兴华
来源:爱集微 #AI换脸# #手机#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

李映

微信:ilovekm2008

邮箱:liying@ijiwei.com


783文章总数
457.6w总浏览量
最新资讯
关闭
加载

PDF 加载中...