“AI换脸【liǎn】”火了，有人10分钟【zhōng】被【bèi】骗400万，谁来【lái】担责？丨亮见31期

丨划重点

1. 对AI生成【chéng】内容进【jìn】行【háng】标记是法律法规要求的，这不意味着平台能完全免责，平台【tái】还需要【yào】履行技术识【shí】别【bié】、停【tíng】止传【chuán】输、处置【zhì】措施和报告等【děng】责任。

(资料图片)

2. 直播间【jiān】使用明星面【miàn】孔，侵犯了明【míng】星的肖像权，还【hái】涉及到【dào】虚假宣传、欺诈消费者【zhě】和不正【zhèng】当竞争等问题。

3. 如【rú】果在银【yín】行有能【néng】力识别非【fēi】真实人脸的情况下间接导致了AI换脸诈骗给储户造成损【sǔn】失，这种情况下可能【néng】需要【yào】担【dān】责。

4. 消费者需要更加重视个人信息的【de】保护，尽量避免无必要【yào】的授权，可以拒【jù】绝使用【yòng】要求授【shòu】权【quán】过多【duō】个人信【xìn】息的应用。

丨概述

AIGC的爆火让人们看【kàn】到了【le】人工智能日【rì】常应【yīng】用的可能【néng】，其场景【jǐng】覆盖文字/图片/音频/视频等【děng】形【xíng】式的内容生【shēng】成，在特定领【lǐng】域，AIGC相关的内【nèi】容的质量、可靠性已经远超人类【lèi】，然而这种高度的【de】“仿真”，也衍【yǎn】生出了新的问【wèn】题——AI诈骗。

北京【jīng】市岳【yuè】成【chéng】律师事务【wù】所高级【jí】合伙人岳屾山认为，技【jì】术具有【yǒu】两面性，对待其态度不能一概而论，需要【yào】将其【qí】纳入【rù】法律框架下规范发展。而针对AI诈骗，岳律【lǜ】师认为个人信息泄露的情况仍很普遍【biàn】，普通【tōng】人【rén】在【zài】使【shǐ】用相关设备和软件时需尽量避免【miǎn】无必要【yào】的【de】授权，但诈骗分子不【bú】断【duàn】变化和“创【chuàng】新”，最根本的防范【fàn】防范还是保持警惕【tì】、提【tí】高对诈骗的认知。

01

AI内容标记无法完全规避责任

刘兴亮：现【xiàn】在，许多【duō】平台对AIGC生成的内容【róng】会【huì】有【yǒu】明确风险提示标记，这种提【tí】示【shì】有效吗？

岳屾山：标记是【shì】根据【jù】法规明确规【guī】定【dìng】的，要【yào】求新技术和应用来制作、发【fā】布【bù】、传【chuán】播非【fēi】真实音视频信【xìn】息，应该【gāi】采用显著的方【fāng】式进行标记。标记只是【shì】一种规避责任的方式【shì】，因为法律【lǜ】要求标记，但并不意味着完全免【miǎn】除【chú】责任，除了标【biāo】记之外还有其【qí】他的义务需要履行。

例如，平台【tái】应该部署一【yī】些用于识别【bié】违法违规音视频【pín】和【hé】非真实【shí】音视频的【de】技术，如果发【fā】现违反法律禁止【zhǐ】或规定的信【xìn】息内【nèi】容，必须依法停止传输这些信息，并采取删【shān】除【chú】等处置措施【shī】来【lái】防止信息的扩散。同时【shí】，还需【xū】要妥【tuǒ】善保存相关记【jì】录，并向相关部门等进行报【bào】告。

所以，平【píng】台有【yǒu】很多义务【wù】需要履行，仅仅【jǐn】进行标记是不能完全免除【chú】责任的【de】。

刘兴亮：新技术、新应用带【dài】来的潜在【zài】风险【xiǎn】，我们应【yīng】该采【cǎi】取什么样的【de】态度对【duì】待？

岳屾山：因为涉及到较为技术性的内容，就我个人而言，对于【yú】新的技术或【huò】应用，包括新的营商模【mó】式和【hé】经营模【mó】式的出【chū】现，应该给予适【shì】度的关注和宽松【sōng】的环境来培【péi】育它们，看它们是【shì】否能够发展起来【lái】。

不过，对于人工智能换脸，目前没有看到多少正面评价。

不过，也有少【shǎo】量的人尝试用这项技术“复活”已故亲【qīn】人【rén】，以慰【wèi】藉【jiè】思念之情，我认为这可能是【shì】人工智【zhì】能换脸技术【shù】对我们【men】的生活和社会产生【shēng】积极影【yǐng】响的一【yī】种【zhǒng】可能性存在。

只要这项技术【shù】具【jù】有正【zhèng】面意义的可能，对待它的态度就不能一【yī】“封【fēng】”了之，应【yīng】在现有的法律框架内【nèi】对其进行必要的规制【zhì】，以避【bì】免它成【chéng】为一【yī】匹脱缰的野马。

02

“AI孙燕姿”存在诸多侵权风险

刘兴亮：关于AI孙燕姿的【de】话题，最【zuì】近【jìn】孙燕【yàn】姿发布【bù】相关声明，意思是不会【huì】去追责【zé】，这种情况下用【yòng】户能随便使用吗？

岳屾山：AI换脸明星翻唱，涉及的法律问题主要涉及肖像权。

民法【fǎ】典规【guī】定，未经他【tā】人同意使用他人肖像属于肖像侵权，使用AI换脸【liǎn】就存在这种可能【néng】性，特别是在直播【bō】间中【zhōng】使用【yòng】明星的面【miàn】孔进【jìn】行直播，明显侵犯了明星的肖像权，因为明【míng】星不可【kě】能授【shòu】权【quán】他人【rén】使用他们的面孔进行直【zhí】播。另【lìng】外，这种行为还涉及到虚假宣传、欺诈【zhà】消费者【zhě】和不正当竞【jìng】争【zhēng】等问题。

直播中的AI换脸，来源：网络

有关“声音”的【de】权利，民法典明确【què】了将【jiāng】其【qí】按照肖像【xiàng】权规定处理。如果【guǒ】孙燕【yàn】姿未允许【xǔ】他人【rén】使用其声【shēng】音，就会构成侵权，并且可能还【hái】涉及侵犯姓【xìng】名权的问【wèn】题。此外，如果【guǒ】使用她的歌【gē】曲进【jìn】行【háng】商业活【huó】动，还需要支付费用，并可能需要获得词曲作者等进行著作【zuò】权的授权。

刘兴亮【liàng】：以银行转账为例，转账过程中，因为【wéi】人脸识别【bié】被【bèi】骗，谁来承担责任，银行需【xū】要担责吗【ma】？

岳屾山：转账过程人脸【liǎn】验证，会有眨眼、摇头【tóu】等动作的验证，如果【guǒ】这【zhè】个过程中遭【zāo】遇诈骗，银行【háng】是否需要担责，取【qǔ】决于【yú】银行在人【rén】脸识【shí】别技【jì】术方面是否【fǒu】存【cún】在一【yī】些罕【hǎn】见的漏【lòu】洞【dòng】。比【bǐ】如，通过调用摄像头时，银行APP能否辨【biàn】认出真实的摄像头，或者是否使用【yòng】了其他技术手段对人脸进行了【le】改变。

如【rú】果在银【yín】行有能力识别【bié】非真实人脸【liǎn】的情况【kuàng】下，因【yīn】为诈骗分子通过第三方设备，比【bǐ】如通过摄像头画面欺【qī】骗了银行的人脸识别系【xì】统【tǒng】，（给【gěi】储户带来了直接损失），这种情况下银行可能【néng】需要担责；如果【guǒ】技【jì】术监测确实发【fā】现银行无法识别出这种情况，即技【jì】术无【wú】法达到【dào】防止欺诈的要求【qiú】，就不能要【yào】求银行承担责任。

除了银行，也需【xū】要考虑【lǜ】平台是否【fǒu】有【yǒu】发现欺诈行为【wéi】的标【biāo】志，是【shì】否具【jù】备识别的义务等【děng】，如果平台违反了这些义务，相应地就【jiù】要承【chéng】担责任。

但实际上，很【hěn】多【duō】诈骗【piàn】行为都是点对【duì】点进行，银【yín】行或平台很少直接参与其中，诈骗分子往往【wǎng】会规避银行或平台的验【yàn】证方【fāng】式【shì】，以尽量【liàng】减少被发现【xiàn】的可能，毕【bì】竟这是【shì】一种犯罪行为。

03

防范数据泄露，是反诈骗的核心

刘兴亮：现在有很多观点【diǎn】认为我们目前防【fáng】范AI诈【zhà】骗关键【jiàn】在于防范【fàn】数据泄【xiè】露，这种观点你认同吗？

岳屾山：个人【rén】信息泄露【lù】的问题一【yī】直【zhí】都非常严重。电【diàn】信诈【zhà】骗之所以成功的一大【dà】原因就是因【yīn】为诈骗者获取了相【xiàng】应的个人信息。

刑法中有关个【gè】人信息保护【hù】的方面规定了【le】非【fēi】法泄露公民个人信息属【shǔ】于侵犯个人【rén】信息罪，需要追【zhuī】究责任。在【zài】民法【fǎ】典的【de】《消费者权【quán】益保护法》、《数据安【ān】全法》、《网络安全法》等法律中，都要【yào】求企业在收集个【gè】人信息【xī】时必须遵循合法、正当【dāng】和必要【yào】的原则。特别是对【duì】于涉及人脸等生物特征的信息，属【shǔ】于敏感信息，每次【cì】收集都【dōu】需【xū】要单【dān】独【dú】获得用户的同意【yì】，并受到【dào】其他限制性规定的【de】约束。

这些法律法规，旨在【zài】保【bǎo】护我们的个人隐私【sī】，并要求【qiú】所有收集到个人信息的企业，在处理和【hé】使【shǐ】用时都必须【xū】严【yán】格按照约定【dìng】和法律规定进行，并【bìng】具备必【bì】要【yào】的技术和软件条件来保护【hù】信息不被【bèi】泄露。

所以【yǐ】，消费者需要【yào】更加【jiā】重视个人信息的保【bǎo】护，尽量【liàng】避【bì】免无【wú】必要【yào】的授权。如果某个应用要求我们授权过多的个人信息，可以【yǐ】拒绝授权，即使这【zhè】样可能导致无法使用应【yīng】用【yòng】。现在法律也有【yǒu】明【míng】确，应用【yòng】不允许【xǔ】索取过多个人信息相【xiàng】关【guān】权限【xiàn】，且不能拒绝用户使【shǐ】用。

例【lì】如，以前我们使用某【mǒu】个导航软件要求访问通讯录，实际【jì】上只需要位置信息即可，这种情况下【xià】，《国家的【de】网络安全【quán】法【fǎ】》、《数据安全法》和《个【gè】人信【xìn】息保护法》等都【dōu】进行了详细的规定【dìng】。

另外，诈骗分子通常会使用各种手段筛选目标客户，比如发送大量的短信，他们不需要知【zhī】道每个人【rén】的【de】具体【tǐ】个人信息，而是通过通用的【de】手法【fǎ】来吸引潜在受害者的注意【yì】力。比如最近的“上门【mén】枪决”短信【xìn】，诈骗分子【zǐ】不需要【yào】每个人都相信，只需要找到【dào】那些容易受【shòu】骗的人，这种方式可以帮助诈【zhà】骗分【fèn】子最大限度地减少【shǎo】成本【běn】并加快【kuài】筛【shāi】选的【de】速度。

近期在网络中热议的“上门枪毙”诈骗短信，来源：网络

04

技术不是万能的，治理与监管关键在人

刘兴亮: 对AI换脸【liǎn】诈骗的【de】治理和【hé】监管还【hái】需要【yào】哪些主【zhǔ】体，以什么样的形式参与【yǔ】？

岳屾山：社会治理的层面确实【shí】是多主【zhǔ】体参与的，这样才【cái】能形成良好【hǎo】的氛围。在制定规则和【hé】框架方面，一方面【miàn】是在政【zhèng】府层面【miàn】或立法层面进行，需要有相【xiàng】应规则和标准【zhǔn】来【lái】界定【dìng】诈骗行为，这些【xiē】规则【zé】可能【néng】需要【yào】在立【lì】法层面进行制定，包括【kuò】对其性质和标准的界定等。

另外，通过立【lì】法或政府【fǔ】的行政政策可【kě】能需要一定时间，存【cún】在不及时的可能，所以很多时候可以【yǐ】通【tōng】过行业协会【huì】的形式提前制定一【yī】些【xiē】规【guī】范或标【biāo】准，虽然【rán】它们可能没有强制【zhì】力，但【dàn】可【kě】以起到引导作用。

针对法律法【fǎ】规在落地过程中的执行，需要执法部门加【jiā】强【qiáng】监【jiān】管，且这种场景也考验监【jiān】管的技术，我认为这种情况【kuàng】下双方都在看谁【shuí】的技【jì】术【shù】更高【gāo】超，谁能够【gòu】限制住【zhù】这【zhè】种行【háng】为。技术本身并不是万能的，它的应用取决于人们如何使用和管理。

刘兴亮：针对不同的主体行为的规范，目前有哪些具体的法律法规？

岳屾山：目【mù】前在互【hù】联网信息服务【wù】深度合成管理规【guī】定方面已经有一些具体的【de】规【guī】定，特别是针对人工智能和AI换【huàn】脸【liǎn】等技术。

今年4月份，互联网信息办公室发布了关于生成式人【rén】工【gōng】智【zhì】能【néng】服务管【guǎn】理办法的【de】征求意见【jiàn】稿，进一步规范了相关服【fú】务的管【guǎn】理。通【tōng】过这些规定，针对人工智【zhì】能和AI换脸等方面有了【le】较【jiào】为直【zhí】接的管理措施。

国家法律层面也有一些原【yuán】则层面的法律和规定，包括【kuò】《民法【fǎ】典》、《网络【luò】安全法【fǎ】》、《数据【jù】安全法》、《互联【lián】网信息服务管理【lǐ】办法【fǎ】》等，这些法律和规【guī】定都【dōu】涉及到保护个人信息和肖像权【quán】，以及对实施诈骗等行为应【yīng】承担的责任，为【wéi】相关问题提供【gòng】了【le】一【yī】定的【de】规范。

刘兴亮：普通人在遭遇AI诈骗时应该怎样处理，有什么建议吗？

岳屾山：作为一名律师，我【wǒ】认为对于那些侵犯他【tā】人【rén】权益的行为【wéi】，尤【yóu】其是在涉【shè】及AI诈骗和肖像【xiàng】侵【qīn】权的【de】行为，受害者可以采取一些维权措施，以避免他人随意使用其【qí】肖像【xiàng】等信息【xī】，这【zhè】种动作可以防止【zhǐ】肖像被滥用，并对软件【jiàn】的使用和研【yán】发产生【shēng】一【yī】定【dìng】的约束。

我建议加强对肖像【xiàng】权的【de】保护，特别是【shì】在【zài】如【rú】今AI换脸技术【shù】如此便利的情况【kuàng】下。除了个人【rén】的【de】自我【wǒ】保护外，平台和执法机构也应承【chéng】担【dān】起相应的责任，确保提供【gòng】一种【zhǒng】便捷的维权途径。

除了肖像权，类似问题也会涉及到【dào】著【zhe】作【zuò】权，如果消费【fèi】者的肖【xiāo】像被制作成视【shì】频并由【yóu】他【tā】人传播【bō】和使【shǐ】用【yòng】，这涉及到视【shì】听节目的内【nèi】容，平【píng】台可能更【gèng】多地基于著作权方面的【de】处理和【hé】保护，而不是针对肖像或其他行为。

在【zài】这方面【miàn】，我建议更多地依赖平【píng】台。平台应该【gāi】及时发现这类【lèi】侵权【quán】行为，并提供便捷的【de】投诉渠道或途径，以便及时【shí】处理这些【xiē】问【wèn】题。

另外，正如【rú】我们一直在【zài】讨论的那样，法律的威慑力【lì】往往【wǎng】不是来自其【qí】严苛程度，而是来自【zì】于执法的【de】及时性。对于那些实施侵【qīn】权行为【wéi】的用户，平台方【fāng】面应【yīng】该采取相应【yīng】的惩罚或【huò】限制【zhì】措施。这完全可以【yǐ】在平台自【zì】身【shēn】的范畴内实施【shī】，根据相【xiàng】关的【de】用户协议和约定对其进行【háng】惩罚和限【xiàn】制【zhì】。通过这样的方【fāng】式，可以尽量减少侵权【quán】行【háng】为的发【fā】生，因为【wéi】侵权【quán】有时候会成为一种上瘾的行为。