随着科技的飞速发展，AI技术已逐渐渗透到我们生活的方方面面，然而，这也为不法分子提供了新的诈骗手段。近日，央视曝光了利用“AI换脸”和“AI拟声”技术实施的新型诈骗案件，引起了社会的广泛关注。奇富科技旗下360借条安全专家指出，这类诈骗案件标志着电信诈骗已经进入了一个更为智能化、定制化的新时代，公众需提高警惕，加强防范。
在节目报道的案件中，一位女士接到女儿被绑架的电话，对方开口就要敲诈80万元，电话中传来的女儿哭声令女士慌了阵脚。实际上，这哭声是犯罪分子通过AI拟声技术伪造出来的。还有一个公司职员收到了老板的视频电话，在指导下把186万元转了出去，但后来却得知老板并没有跟他视频通话。原来，这个视频中的老板是犯罪分子利用AI技术合成的假老板。
AI技术的广泛应用为社会大众提供了个性化、智能化的服务，但是也给诈骗分子带来了可乘之机，生成式AI技术的爆发大大降低了其的门槛，增强了伪造的真实感，使得不法分子的骗术变得更加防不胜防。
公安机关指出，上述案件中所谓的AI实时通话，其实是不法分子利用AI技术提前制作好的仿冒视频。目前的技术条件下，想要在点对点的实时通话过程中实现仿真程度极高的AI换脸，其实是很难的，这需要绕过视频通话软件的安防体系，其次还需要投喂大量的数据，还需要专业算法的支撑，以及不断迭代，才可以实现。辨别办法是在视频通话时如果觉得可疑，可以要求对方摸脸或按鼻子，因为这些动作就会造成对面部数据的干扰，伪造的人脸就会产生抖动、闪现，
360借条安全专家也针对上述案件支招广大网友，对突如其来的电话保持警惕，如果有人自称“熟人”“领导”通过社交软件、短信以各种理由诱导你汇款，务必通过电话、见面等多种途径核实确认，不要未经核实随意转账汇款，不要轻易透露自己的身份证、银行卡、验证码等信息。
反诈手段千万条，绝不掏钱第一条。谨记不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频，也不要随意接不熟悉的人的视频电话邀请；陌生链接不要点，陌生软件不要下载，陌生好友不要随便加，防止手机、电脑中病毒及微信、QQ等被盗号如不慎被骗或遇可疑情形，请注意保护证据，并立即拨打110报警。
