近年来，随着人工智能技术的进步，一些不法分子开始利用AI技术融合他人面孔和声音，制造非常逼真的合成图像来实施新型网络诈骗，这类骗局常常会在短时间内给被害人造成较大损失。

中国网络空间安全协会人工智能安全治理专委会专家薛智慧表示，AI换脸过程主要包括人脸识别追踪、面部特征提取、人脸变换融合、背景环境渲染、图像与音频合成等几个关键步骤。其背后最核心的包括为三个部分，首先，利用深度学习算法精准地识别视频中的人脸图像，并提取出如眼睛、鼻子、嘴巴等关键面部特征。其次，将这些特征与目标人脸图像进行匹配、替换、融合。最后，通过背景环境渲染并添加合成后的声音，生成逼真度较高的虚假换脸视频。

人工智能人脸检测技术主要通过深度学习算法实现，这种技术能够识别出面部特征并对其进行精准的分析。可以将一个人的面部表情从一张照片或视频中提取出来，并将其与另一个人的面部特征进行匹配。如果想要实现视频实时通话时采用人工智能AI换脸技术，一张照片是远远不够的，那就需要不同角度的近千张照片的采集。如果要实时点对点交流的话，需要再采集更多的照片，进行深度学习算法模型的训练，声音的交流也可以，需要预先采集一些目标人群当中的声音，然后进行模型的训练，能够把目标人群的声音还原出来。中国计算机学会安全专业委员会数字经济与安全工作组成员方宇介绍：“针对诈骗，其实主要是通过点对点的视频通话，这时候如果采用换脸技术和声音合成做实时的换脸诈骗的话，就需要投入很强的技术支持和大量资金，需要长时间不断地迭代，进行操作，才能达到一个相当逼真的效果，才有可能实现到诈骗的实际效果。”

辨别“AI换脸”有没有什么好方法？一学会几招，轻易识别AI“换脸换声”。实际上目前看到的深度伪造的实时视频上来看，其实还是可以通过一些方式，去进行一些验证。比如说我们可以要求对方在视频对话的时候，在脸部的面前通过挥手的方式去进行一个识别，就会造成这种面部的数据的干扰，所伪造的这个人脸会产生一定的抖动、闪现或者其他情况。二提高防范意识，避免个人生物信息泄露。做好日常的信息安全的保护，加强对人脸、声纹、指纹等生物特征数据的安全防护，做好个人的手机、电脑等终端设备的软硬件的安全管理。不要登录来路不明的网站，以免被病毒侵入。对可能进行声音、图像甚至视频和定位采集的应用，做好授权管理。不给他人收集自己信息的机会，也能在一定程度上让AI换脸诈骗远离自己。三伴随AI技术发展，需要多层面监管规范。在源头端，需要进一步加强公民个人信息保护，尤其是加强对生物特征等隐私信息的技术、司法保护力度。在技术层面可以加强管理，例如可以让视频传播网站或者社交软件，使用专业的鉴别软件来鉴定，对AI生成视频，打上不可消除的“AI生成”水印字样。目前，这种数字水印鉴伪技术有待进一步普及。在法律制度层面，要进一步完善人工智能等领域相关法律法规。2023年8月15日，我国正式施行《生成式人工智能服务管理暂行办法》，旨在促进生成式人工智能健康发展和规范应用。