新华视点：“AI诈骗潮”真的要来了？ 环球快讯

通过AI换脸和拟声技术【shù】，10分钟【zhōng】骗430万元；AI虚拟人在【zài】聊天中【zhōng】筛【shāi】选出受害者，人工接力实【shí】施诈骗……近期【qī】，多起宣称利用AI技术实施诈【zhà】骗的【de】案件引【yǐn】发【fā】关注。

“新华视点”记者近【jìn】日【rì】与公安部门核实确认，“AI诈骗【piàn】全国爆发”的消息不【bú】实【shí】，目【mù】前此【cǐ】类诈骗发【fā】案【àn】占比【bǐ】很低。但公安机关已注【zhù】意到此【cǐ】犯罪新手法，将加大力度会同有关部门开【kāi】展技【jì】术反制和宣【xuān】传防范。

(资料图片仅供参考)

专家表示【shì】，随着AI技术加速迭代【dài】，由于使【shǐ】用边【biān】界【jiè】不清晰，涉诈【zhà】风险正在积聚，需【xū】要高度警惕。

“换脸”式诈骗引发焦虑：你会被亲友的脸骗到吗？

近日，内蒙古【gǔ】包头【tóu】警方通报一起利用AI实施诈骗的案件，福【fú】州市【shì】某公司法人代表郭先生10分钟内被骗430万元。据通【tōng】报，骗子【zǐ】通【tōng】过AI换脸和拟声技术，佯装【zhuāng】熟人实施诈骗【piàn】。

该案【àn】披【pī】露后，不少【shǎo】报道称需【xū】警惕“AI诈【zhà】骗潮”到【dào】来，并曝光【guāng】多起类似案【àn】件。如江苏常州的小刘被骗【piàn】子冒充其同学发语音、打【dǎ】视频电话，小【xiǎo】刘看到“真人”后信以为真，“借”了6000元【yuán】给骗【piàn】子。

那么，“AI诈骗潮”是否真的到来了？

记者调查【chá】了解【jiě】到，AI在技术【shù】上确【què】实能【néng】做【zuò】到换脸、拟音，但被用来进行【háng】“广撒网【wǎng】”式诈【zhà】骗需要具备很多条件。

一【yī】位被列入公安部专家库的【de】民警告【gào】诉记者，这类诈【zhà】骗如果【guǒ】得手【shǒu】必须做到：收集【jí】到被换脸对象的个人身份信息、大量人【rén】脸图片、语音素材，通过AI生成以假乱真的音视【shì】频；窃取【qǔ】被换脸对象的微信号；充分【fèn】掌握诈骗对象个【gè】人【rén】身份信息，熟悉其与被换脸对【duì】象的社【shè】会【huì】关系，综合作【zuò】案成【chéng】本很高。

他认为：“相【xiàng】关报道对一些案件【jiàn】的【de】典【diǎn】型细节描述【shù】不够准确。AI涉诈案件仍【réng】属零星发案状态。”他说，成熟【shú】的【de】类型化【huà】诈骗犯罪【zuì】往往【wǎng】具有在全国多地集中爆发【fā】的特点，但当【dāng】前没有成规模的【de】AI诈骗【piàn】类案件【jiàn】发生。

公【gōng】安机关研判，近期【qī】网上“AI换【huàn】脸【liǎn】换声诈骗在全国爆发”传言不实，全国此类案件发生【shēng】不到10起，但该动向值【zhí】得高度关注【zhù】。网上一键换脸【liǎn】功能的App、小程序有【yǒu】技术滥用风【fēng】险，需要【yào】加强技术【shù】防【fáng】范反制【zhì】等【děng】工【gōng】作。

AI进入快速迭代期，涉诈犯罪风险正在积聚

“当【dāng】前【qián】AI技术发展来到螺旋【xuán】式上升【shēng】的拐点，未来【lái】几【jǐ】年【nián】技术【shù】迭代将会【huì】按月计算。”香港科技大学（广州）协理副校长、人工智能学域主【zhǔ】任熊辉说。

工【gōng】信部信息显【xiǎn】示，伴随AI技术快速发展，合【hé】成【chéng】技术【shù】门槛持续降低，逐渐向低算【suàn】力【lì】、小样本【běn】学习方向演进，利用手机终端即【jí】可完成，对算力和数据【jù】的【de】要求【qiú】下降明显。同时，随着AI大模型【xíng】的技术加持，正逐步【bù】由面部【bù】合成向【xiàng】全【quán】身、3D合成发展，效果更加逼真【zhēn】。

国家【jiā】开发【fā】投资集团特级专【zhuān】家、厦门美亚柏科【kē】AI研发中【zhōng】心总经理赵【zhào】建强表示【shì】，AI技【jì】术正【zhèng】加速向网络诈骗、虚假信【xìn】息、色情等领域渗透。如在一些【xiē】网络平台上假冒明星、公【gōng】众人物生成视【shì】频图像【xiàng】，吸引【yǐn】网民。此【cǐ】外，AI技术也可能【néng】被用来【lái】规【guī】模化地实【shí】施违法犯罪，如【rú】批量、自动【dòng】维护【hù】网络账号【hào】，发送虚【xū】假信息，模拟人工在线聊天等。

值得关注的是，当前AI技术不【bú】再是实验室的半成品，引【yǐn】发热议的【de】“换脸”“拟音”技术已有【yǒu】较成熟的开【kāi】源软件【jiàn】，使用门槛【kǎn】低。

记者注【zhù】意到，网络上不乏AI换脸教程。在国内某知名App上输入“换脸”，弹出的【de】高频【pín】检索记录显示【shì】有“换【huàn】脸软【ruǎn】件【jiàn】”“换脸App免【miǎn】费”“换【huàn】脸视频怎【zěn】么做”“换脸算法”等。一【yī】条名为“史上最强【qiáng】AI换脸【liǎn】软件正式上线了！技术门槛大大降低”的链接【jiē】，介绍了一款换脸软件，通过【guò】视频演示教程，手把手【shǒu】教授如【rú】何使用。

“老话说‘眼见为实’，但今【jīn】后眼睛看【kàn】到的也不一定是真实的。”北【běi】京市【shì】天元【yuán】律师事务所【suǒ】合伙【huǒ】人【rén】杨虎城表【biǎo】示，未【wèi】来涉及AI合【hé】成技术的诈骗、敲诈勒索等违【wéi】法犯罪和肖像、名【míng】誉等民事侵权问题【tí】可能逐步【bù】显现。

“从【cóng】现有案例看，这些技【jì】术已被不法【fǎ】分子利【lì】用。如假【jiǎ】冒【mào】明星【xīng】换【huàn】脸直播、一键【jiàn】脱衣【yī】、造谣、制【zhì】作色情视频等【děng】。虽然AI诈骗案件未成气候【hòu】，但【dàn】这一趋势值得关注，必须提早防【fáng】范。”一位反诈民警说。

工信【xìn】部相关负【fù】责人表示，随着AI技术【shù】的不断发展，通过【guò】少量图片【piàn】、音频【pín】信息合成特定视频，利用人工智能模型批量设计诈骗【piàn】脚本等【děng】成为【wéi】可能，客观上降【jiàng】低了电【diàn】信【xìn】网络诈骗的实施难度【dù】，AI类新型犯罪【zuì】爆发【fā】可能性进一步【bù】提【tí】升。

尽快完善相关法规制度，为AI技术发展立规划线

中【zhōng】国移动信息安全中心品质管【guǎn】理处副【fù】处【chù】长周晶告诉记者【zhě】，近年来，国【guó】际国内各【gè】界在积极探索深【shēn】度合成技术的有效【xiào】治理路径，研【yán】判【pàn】AI技术给社会带【dài】来的风险和潜在威胁，正设【shè】法【fǎ】将AI技术发展纳入一定规则【zé】中，做到【dào】安全可控。

业内人【rén】士建【jiàn】议，要加强AI反制技术研究，“以AI制AI”。一些科技【jì】公司【sī】正加强对图【tú】像【xiàng】、声音伪【wěi】造技术的反制研究，在公安、金【jīn】融【róng】的视【shì】频认【rèn】证场景已【yǐ】有应【yīng】用。有【yǒu】一线民警建议，要加强AI安全技术【shù】应用【yòng】研发，将AI技【jì】术应用于【yú】犯罪【zuì】识别【bié】、预警、对抗中，实现以“白”AI对抗“黑”AI。

其【qí】次，加【jiā】强源头治理和行业【yè】引导，及时更新、完善相关法律、标准【zhǔn】、规则【zé】，为AI技术发【fā】展保驾护航【háng】。

“数【shù】据【jù】是AI犯罪的源头，保护好公民的个人隐【yǐn】私数据安全，就能【néng】在最【zuì】大【dà】程度上降低AI违法犯罪的能力。”熊辉说。

中【zhōng】国【guó】互联【lián】网协会监管支撑部主任郝智超【chāo】建议【yì】，AI技术【shù】发展还【hái】要有【yǒu】相关法【fǎ】律法【fǎ】规来划红线、踩刹车。需进一步加强【qiáng】对个人隐私【sī】数据泄露问题的关注，明确信息【xī】监【jiān】管红【hóng】线，对AI技术的研发、传播【bō】、使用做到【dào】有【yǒu】规可循，并根【gēn】据技【jì】术发展实际情况，及时完善对技术服务【wù】商行为的【de】规范引导。

此外，还要有【yǒu】针对性【xìng】地加强反诈宣传。熊辉【huī】表示，未【wèi】来【lái】AI可根据大数【shù】据创造出无比接【jiē】近真实【shí】的【de】“真实”。“要【yào】通过不断的教【jiāo】育改变大众观念，让人知道【dào】眼见不一定为【wéi】实【shí】，有图不一【yī】定有真相，提升对网络【luò】信息的辨识力。”他说【shuō】。

公安部有【yǒu】关负责【zé】人表示，当前，诈骗集团利用【yòng】区块链、虚拟货币、远程操【cāo】控、共享屏幕等【děng】新技【jì】术新业态，不断更新升【shēng】级【jí】犯罪【zuì】工具，与公【gōng】安机关【guān】在【zài】通讯网络和转账洗【xǐ】钱等【děng】方面的攻防对抗不断【duàn】加剧升【shēng】级【jí】。公【gōng】安机关会同【tóng】相关部门【mén】与诈骗分子斗智斗勇，不断研究调整打击防范措【cuò】施，确保始终【zhōng】保持主动权。

工【gōng】信部【bù】表示，下【xià】一步，将强化监管【guǎn】执法，积极会同【tóng】网信【xìn】、公安【ān】等部门，督【dū】促企业健全完善深度合成信息管理【lǐ】及【jí】技术保障措施；鼓励技术攻关，凝聚【jù】产【chǎn】学研用各方力量，提升【shēng】深度合【hé】成风险技【jì】术【shù】防【fáng】范能【néng】力；加【jiā】强行业【yè】自律，建立健全深度合成技术【shù】相关行【háng】业标准、行业准则和自【zì】律管理制度，督促【cù】指【zhǐ】导深度合成服务提供者和技术【shù】支持者制定完【wán】善业务规范、依法【fǎ】开展业【yè】务和接受社会监督。

来源：新华社

流程编辑：TF016