新动态：生成式AI引发治理新思考

◎本报记者 崔 爽

(资料图片仅供参考)

过去几个月，ChatGPT为人工智【zhì】能【néng】技术按【àn】下加速键。这个【gè】聊天程序证明了超【chāo】大参数模型和【hé】通用型人工智能【néng】的【de】可行性，谷【gǔ】歌、亚【yà】马逊【xùn】等巨头纷纷推【tuī】出自主【zhǔ】研发的相关平台，国内【nèi】也已有十数家【jiā】企【qǐ】业在该领域有所布局。

它们【men】被【bèi】统称为“生成式人工智能【néng】”。简单来说，这种AI可以【yǐ】通过算法生成新内容【róng】，包括图像【xiàng】、文字【zì】、音乐，甚至视【shì】频、代码等【děng】。

这令人兴奋【fèn】也不乏担忧。数据安全、个人【rén】隐【yǐn】私、信息【xī】造假、算法歧视……各国【guó】监【jiān】管部门对一系列潜在风险【xiǎn】反应迅速，动【dòng】作不【bú】断【duàn】。

3月底，意大利个人【rén】数据保护局【jú】宣布暂【zàn】时禁止【zhǐ】使【shǐ】用【yòng】ChatGPT，欧盟多【duō】个国家跟进，酝酿具体监管措施。美【měi】国商务【wù】部4月公开征求意见，讨论新人工智能【néng】模型在发【fā】布【bù】前是否应经过认证程序【xù】等【děng】内【nèi】容。我国【guó】国家网信【xìn】办也于近日发【fā】布《生成【chéng】式人工智能服务管理办【bàn】法（征求意见稿）》，针对【duì】准入门槛【kǎn】、数据来源、标注规则等【děng】作【zuò】出明确规定。

风险到哪里 监管到哪里

“相比以往的AI技术【shù】，生成式AI可以直接利【lì】用自【zì】然语言和【hé】计算机进行交互，使【shǐ】用门槛低，生成内容质量高【gāo】。”世【shì】辉【huī】律师事务【wù】所合伙人【rén】、律师王新锐对【duì】科技日报记【jì】者【zhě】表示，“这让其一旦被【bèi】滥用或误用，迷惑性比以往的人工智能技术更【gèng】强【qiáng】，潜在损害【hài】也更【gèng】大。并且它有可能成为一种【zhǒng】影响各行【háng】业的【de】底座型技【jì】术【shù】。”

除了涉及数【shù】据安全、个人信息保【bǎo】护等传统问题，中国互【hù】联网协会研究【jiū】中心【xīn】副主任吴沈【shěn】括强【qiáng】调【diào】，生成式AI也给【gěi】内容【róng】治理、社【shè】会运行产生冲击和影响，这【zhè】给现有的治理体制机制【zhì】的敏捷性、覆盖性【xìng】和穿透性【xìng】带来很大挑战。

据王新【xīn】锐【ruì】介绍【shào】，目前，意大利、西班牙、德国、加【jiā】拿【ná】大、英国等国家出于数据和【hé】隐私保护的考虑【lǜ】对【duì】ChatGPT及其开发者展开调查，此外【wài】，域外【wài】有【yǒu】可【kě】能【néng】将ChatGPT等生成式AI列入高风险人【rén】工智能清单，希望通过立法防范其风险。

吴沈括表示，前述主【zhǔ】要国家对于【yú】生成式AI的监管依然从经典的数据治理【lǐ】、数据安【ān】全的【de】角【jiǎo】度切入，在【zài】他们看【kàn】来，生成式【shì】AI的核【hé】心逻辑【jí】在【zài】于海量数据的汇集、加工、处理以及丰富【fù】的【de】运算输出，因【yīn】此，采取数据治【zhì】理【lǐ】的思路顺理成章。

但【dàn】回到我国，仅从数据治【zhì】理出发【fā】还不够，“我们的关切涉及内【nèi】容治理、消费者权益、透明度、公平性、知识产权保【bǎo】护等各个方面，基本覆盖了目【mù】前与生【shēng】成式【shì】AI相【xiàng】关【guān】的主【zhǔ】要风险类型，故而采取的【de】是一种【zhǒng】风险预防、风险干【gàn】预的多层次综合治【zhì】理思【sī】路。”吴【wú】沈【shěn】括说。

建构多方参与的治理生态

技术大步向前，如何平衡技术创新和政策管理，考验各方智慧。

“一方面，我们需要加强数据隐私和个人【rén】信息安全的保护，对生成【chéng】式【shì】AI从训练【liàn】到投【tóu】入使用的全【quán】生命周【zhōu】期的个人【rén】信息的【de】处理【lǐ】和数据【jù】保【bǎo】护【hù】作出规【guī】范。另【lìng】一方面，从生成式AI可能带【dài】来的风险出发【fā】，在现有法律【lǜ】框【kuàng】架上进一步建立健全【quán】生成【chéng】式AI产业各方主体治理框【kuàng】架【jià】和问责机制【zhì】，落实生成【chéng】式AI相关【guān】主体的【de】权利义务。”王新锐说，下【xià】一步需要进一步细化落实平台合规机制、加强【qiáng】科技伦理要求、确保算法安全并建立健全问责【zé】机制、促进高质量【liàng】数据合法合规地流通【tōng】共享【xiǎng】。

吴沈括提出，治理【lǐ】规则的明确性【xìng】和确定性需要不【bú】断提【tí】升，努力打造实时、敏【mǐn】捷、全面的监管机制，最大限【xiàn】度发【fā】挥监管的引【yǐn】导作用及红线保护的【de】根【gēn】本【běn】价值。

生成式AI爆火，涉及【jí】诸多利益诉【sù】求及关切。对此，王新锐建议，需要【yào】充分观察产业界【jiè】和监管机【jī】构、大众【zhòng】媒体的【de】互动，建立【lì】多方【fāng】参与的治理机制。同时，加强公众【zhòng】教育和【hé】参与，提【tí】高公众对生【shēng】成式AI的【de】认识和理解，共【gòng】同推【tuī】动生【shēng】成式AI的健康发展。（崔爽【shuǎng】）