周志宏：破解AI诈骗难题须双“法”齐下

　　作者：周志宏 稿源：时评界 编辑：洪小兵

　　包头警方近日发布一起利用AI实施电信诈骗的典型案例。有骗子通过AI换脸和拟声技术佯装好友，对福州市某科技公司法人代表郭先生实施诈骗，在视频聊天“核实”对方身份后，郭先生10分钟内被骗子骗走430万元。(科技日报6月2日)

　　这几天，AI换脸诈骗的话题引发社会关注。

　　所谓AI诈骗，就是利用AI技术，模仿、伪造他人的声音、面孔、视频等信息，进行欺骗、敲诈、勒索等的犯罪活动。通常情况下，骗子会通过拨打骚扰电话等方式，录音提取诈骗对象及其重要关系人的声音特征，再利用AI技术进行语音合成，使诈骗对象放松警惕，进而用伪造的声音实施诈骗。问题的严重性，同时也是识别AI换脸诈骗的难点在于，人脸效果更易取得对方信任，骗子用AI技术换脸，可以伪装成任何人;还有，骗子会利用AI技术，将他人的脸换成指定人的脸，冒充诈骗对象的亲人、朋友，通过合成视频或照片的方式来“以假乱真”，扰乱诈骗对象的视线，进而实施诈骗。

　　由于AI诈骗具有高度逼真、难以追踪、针对性强、手段多样的特点，受害者往往难以分辨真假，从而放松和降低警惕。再者，犯罪分子隐匿在网络的阴暗角落，也给警方侦破带来困难。

　　面对AI技术滥用风险，必须要用法，要双“法”齐下，以有效整治AI诈骗。这个“法”既包括科学技术方法的应用，也包括刚性治理的法律法规。

　　在科学技术方面，目前，打击电信网络诈骗的科技装备发展迅速。据报道，由厦门市美亚柏科信息股份有限公司研发的“AI-3300慧眼视频图像鉴真工作站”，不仅能鉴定利用传统伪造手段篡改的影像，而且对利用深度伪造技术进行了换脸、美颜、生成人脸、同图或异图复制篡改的影像也能够进行鉴定，可以为公安、司法行业提供技术支持;在法律法规方面，去年12月发布的《互联网信息服务深度合成管理规定》，对人脸生成、替换、操控，合成人声、仿声等都进行了明确约束。这项规定发布实施后，此前一款主打AI换脸的App在被监管部门约谈后进行下架处理，处理原因为“如此换脸侵犯了公民的肖像权”。

　　就普通百姓而言，AI诈骗也不是完全“防不胜防”。不过，需要大家有甄别的“慧眼”。虽然AI生成的语音和表情已经相当逼真，但仍然可能存在一些不自然的细节。具体细节包括AI生成语音的节奏、音高变化和AI生成图像的面部表情过渡等，这些细节均与原始视频有较大的差别。更何况，目前，对AI进行判断与甄别的技巧有很多。在视频通话的过程中，用户可以让对方展现全身特征，再观察人脸是否出现消失或特殊变化，以检测是否存在面部置换的可能性，这是一。再者，用户可以让对方用一张白纸在脸前缓慢晃动，观察是否出现闪烁现象，以此判断是否可能存在换脸现象。

　　其实，无论多厉害的骗局，归根结底都是用欺诈的手段获取对方信任，以谋取公私财物。对于个人来说，多方验证、确认身份，才能避免和防范骗局的发生。尤其是在涉及金钱、财产和隐私等重要事项时，更要小心谨慎，可要求对方提供更多证据、进行更多交流，并核实其身份和回答的准确性，以排除AI技术欺骗的可能。据此，公众在平时要有警惕高风险行为的意识。对于紧急转账、提供大额保证金或其他不寻常要求，要保持警惕，并仔细核实真实性。在不能确定真实身份时，要格外留意，不要被高额回报或紧迫情况迷惑，不要着急汇款，避免上当受骗。

　　相关部门要强化对主打AI换脸的App的监管，发现问题，及时处理，该约谈的约谈，该下架的下架，别让AI技术换脸肆意骗人、坑害人;警方须加大查处力度，对利用AI技术，模仿、伪造他人的声音、面孔、视频等信息，进行欺骗、敲诈、勒索等犯罪活动依法严厉打击，震慑犯罪，保障公民的肖像权不受侵犯。