一张图片可以“激活”成视频吗？警惕AI深度合成击穿风险底线
半月谈记者张曼子张超
视频或声音可能不是由真人拍摄或录制的。也许是有人在你不知道的手机App后台、支付界面、门禁闸机里偷拍你的脸。随着人工智能(AI)深度合成技术的日益成熟，合成的音频和视频等假内容可以越来越假。毫无疑问，我们生活的现实世界正面临着技术滥用的风险和挑战。
偷脸，篡改声音，那都不算什么。
近两年，在浙江、安徽、江苏等地，多名窃取个人信息的犯罪嫌疑人被公安部门抓获。嫌疑人的作案过程非常相似:先非法获取他人照片或付费获取他人声音等“素材”，再利用人工智能技术将照片“激活”合成动态视频，然后直接欺骗社交平台和支付宝账号的人脸验证机制，非法获利；或者在手机卡注册过程中欺骗人工审核环节，然后冒用他人名义的手机号码进行电信网络诈骗、网络赌博等。，使其信息被收集的人遭受安全威胁和财产损失。
一张陌生人的图片如何被“激活”成视频？
半月谈记者在清华大学人工智能研究所实验室的演示电脑前看到，张刚从微信朋友圈下载的一张陌生人脸部静态照片导入电脑后，在技术人员的操作下，照片中的人物可以瞬间“活起来”，根据指令做出眨眼、张嘴、皱眉等相应的细微动作和表情变化，短短十几秒就生成了一段流畅的视频。
“完成从静态到动态的驾驶操作的技术叫深度合成技术，是人工智能内容合成技术的一种。”清华大学人工智能研究所工程师肖子豪表示，深度合成技术是从包括图像合成、视频合成、声音合成和文本生成在内的多种技术中衍生出来的。
有了技术的加持，偷脸不再是难事。在手机卡注册、银行卡申请、支付软件登录等需要动态人脸识别的环节，这些伪造的合成视频可以帮助不法分子通过后台审核和验证。
技术人员给半月谈记者演示了声音合成的操作。深度合成技术可以生成几个60秒的陌生人的声音。“不用打卡，微信转给我就行了。”“你今天不用去接你的孩子。我在学校附近，顺路接孩子”等语音，效果就像真人发出的声音。这种声音合成“很吓人”。
深度合成正在瓦解“眼见为实”
在国内外的内容平台和社交平台上，深度合成的内容呈现出“量质兼备”。其中包括合成的影视片段、话题人物的变脸视频等。因其强烈的娱乐性而被广泛传播。
根据清华大学人工智能研究院、北京睿来智能科技有限公司、清华大学智慧媒体研究中心、国家工业信息安全研究中心、北京大数据中心联合发布的《深度合成十大趋势报告(2022)》，2017-2021年国内外主流音视频网站和社交媒体平台深度合成视频年均增长率超过77.8%。2021年新发布的深度复合视频数量是2017年的11倍。与此同时，深度合成内容的曝光度、关注度和传播力也呈指数级增长。2021年，新发布的深度合成视频数量已经超过3亿。
“网上流传的视频和声音，可能不是真人拍摄或录制的。”浙大网空安全学院院长任奎表示，很多情况下人眼很难分辨是全脸合成、音频合成，还是真实拍摄和录制。
清华大学计算机系教授、人工智能研究院基础理论研究中心主任朱军认为，深度合成技术正在改变信息传播内容信任链的底层逻辑和复杂性，隐藏的风险正在快速增加。一方面,“眼见为实”的定义已经改变。虽然公众已经知道照片等静态信息容易被篡改，但对视频、声音等动态信息仍有很高的信任度。深度合成技术再次瓦解了“眼见为实”的信任逻辑。第二，短视频的广泛传播使得深度合成技术的滥用具有广泛的影响力和破坏力。
清华大学施瓦茨曼学者院长、教授蓝雪认为，当深度合成等人工智能技术被“滥用”时，会带来一系列伦理和治理问题:从侵犯个人财产安全到伤害个人尊严和隐私，再到威胁国家安全和社会稳定。
引导技术向善，完善AI风险管理体系。
技术是一把双刃剑。有了这把双刃剑，我们既不能让技术脱缰，也不能让技术创新原地踏步。
中国工程院院士、信息技术专家吴从用好技术的角度，提出不能一刀切地禁止和干涉技术的新应用和新发展，以免阻碍其创新。而是要从源头上解决技术衍生的安全问题，以技术创新和技术对抗的方式不断提升和迭代检测技术的能力。
朱军认为，目前深度合成应用的检测技术还处于探索阶段，手段还不成熟。建议充分发挥科研院所、科技企业等的作用。，尽快形成有效、高效的深度合成应用技术探测能力，从而在舆论战、信息战中取得技术优势。
国家工业信息安全发展研究中心副总工程师邱从风险管理的角度指出，近年来的数字化转型，倒逼许多国家对人工智能安全风险的管理。欧盟率先在人工智能领域立法，重点是基于风险分析的高风险人工智能系统的监管框架。
“人工智能安全包括数据安全、框架安全、算法安全、模型安全、运行安全等组成部分。对此，应构建‘法规+标准+法律’的一体化治理规则体系，出台风险治理的指南、标准和评估规范，条件具备时完善立法。”邱建议，重点应该放在数据、算法、模型和运维上。首先，建立数据收集质量规范；二是根据应用场景对人工智能的系统风险进行分类；三是建立安全责任制，明确设计开发单位、运维单位、数据提供者各自的责任。
律师事务所合伙人陈表示，打击“变脸”诈骗犯罪，应规范技术的合法使用边界、技术的安全评估程序、技术滥用的法律规制，提高技术滥用的违法成本。
朱军建议，公众应对深度合成的新技术和应用有正确的认识，提高对其不良应用的认识，保护好个人声纹、照片等信息，不要轻易向他人提供人脸、指纹、虹膜等个人生物信息。
(刊于《半月谈》内部版2022年第6期)
