天天最新：AI换脸10分钟骗走430万！用监管撕掉“换脸”画皮

骗子通过人工智能换脸技术，佯装成好友视频聊天，10分钟内竟从受害者处骗走430万元。近日，内蒙古包头市公安局电信网络犯罪侦查局发布一起使用人工智能技术进行电信诈骗的案件，再次表明人工智能换脸存在巨大隐患，亟待纳入监管。

连视频聊天都已经不可信，用上人工智能的诈骗简直令人防不胜防。据警方介绍，人工智能诈骗还有不少花样，通过声音合成、人工智能换脸、转发语音等手段，成功率接近100%。人工智能让犯罪有了技术优势，也给普通人带来更多风险，不仅是物质上可能存在损失、精神上受到伤害，还可能制造人与人之间的信任危机。

面对不断增加的人工智能诈骗风险，该怎么办？人工智能作为一种技术手段，由人所创造，为人所使用，也就需要有人来约束。撕掉人工智能画皮，还得靠人的“慧眼”。新兴技术出现，一开始总有人利用普通人对新兴技术的陌生感做不当甚至违法的行为，也是因为这份不熟悉，诈骗得逞率往往较高。随着技术越来越普及，普通人对其熟悉度越来越高，监管越来越到位，诈骗手段自然就开始广为人知。目前人工智能的应用正处于从新兴到普及的过程，人的力量自然应该适时介入。

(资料图片)

要遏制“人工智能换脸”等人工智能领域的深度合成技术应用乱象，还得多方主体共同发力多管齐下。4月11日，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》，对生成式人工智能产业给出较为详尽的规定，对用户安全保护已经迈出第一步。此外，监管部门要看到这一问题的严峻性，将监管责任放在前面；也需要做好善后工作，挖出相关产业链，给诈骗行为以震慑。平台和个人也应避免信息泄露，不给骗子留下把柄。

技术是一把双刃剑，拥抱新技术带来的发展与变革，也必须规避可能存在的风险和危险。既然有人在用它图谋不轨，就必须为这把剑装上剑鞘，这是为了保护剑，也是为了保护人。

（原标题：用监管撕掉“换脸”画皮）

来源：北京晚报 评论员 张悦

流程编辑：u027

版权说明：任何媒体、网站或个人未经书面授权许可不得转载、摘编或利用其它方式使用本网站上的文字、图片、图表、漫画、视频等内容。

未经许可即使用，或以此盈利的，均系侵害本网站著作权及相关权益的行为，本网站将追究法律责任。

如遇作品内容、版权等问题，请在相关文章刊发之日起30日内与本网联系。

联系方式：takefoto@vip.sina.com