世【shì】界【jiè】人工【gōng】智能大会：人工【gōng】智能的【de】应用标准【zhǔn】、体系化监管与安全【quán】伦理应当同步跟进

在智能社会里，如何建【jiàn】设数【shù】字【zì】治【zhì】理【lǐ】生态，一直【zhí】是行业的热议话题。7日，在2023世界人工智能大会的多场相关论坛【tán】上，业内专【zhuān】家和研究人员认【rèn】为，在人工智能的【de】发【fā】展进程中，应【yīng】用标准【zhǔn】、体系化监管与安全【quán】伦【lún】理【lǐ】应当同步跟进。

“负责任”的人工智能

(资料图片仅供参考)

在上海【hǎi】杨浦【pǔ】滨江举行的智能社会【huì】论坛上，发布了【le】多份【fèn】重量级的研究【jiū】和实【shí】践【jiàn】成果。同济【jì】大学研究团队发布了《人工智能大模型伦理规【guī】范操作指【zhǐ】引》和《生成式人工智能【néng】风险评估框架【jià】（1.0）》两【liǎng】份专【zhuān】题【tí】研究【jiū】成果，旨【zhǐ】在应对人工智【zhì】能大模型【xíng】的风险【xiǎn】，推动伦理规【guī】范落【luò】地实施；同济大学与百度研究团队联合发布了《面向新商业模式的【de】高级别【bié】自动驾【jià】驶法律责任白皮【pí】书》，关注全自动驾驶应【yīng】用场景的法律问题。

同【tóng】济大学【xué】常务【wù】副校长吕培明等专家认为，人【rén】工智能既是引【yǐn】领【lǐng】当前这一轮科技革命和产【chǎn】业变革的战略性技术，也是推动城市【shì】治理【lǐ】生【shēng】态【tài】和治理能【néng】力现代化的必由之路。应主【zhǔ】动整合多学科力【lì】量，搭【dā】建起【qǐ】“技术与社会”畅通的对话交【jiāo】流平【píng】台，应对智能【néng】技【jì】术发展潜在的伦理、法【fǎ】律和治理风险与【yǔ】挑【tiāo】战【zhàn】，构建公平规范的数字治【zhì】理生【shēng】态，超【chāo】前探索【suǒ】智能社会的运行模式、法律法规、标准规范、政策【cè】体系和体制【zhì】机【jī】制，推动发展“负责任的人工智能”。

上海杨浦【pǔ】作为全国首批10个【gè】国【guó】家【jiā】智能社会治理实验综合【hé】基【jī】地【dì】之一，正加强人工【gōng】智能研发与应用活动的引【yǐn】导，实现人工智能【néng】产业规【guī】范与发展的动【dòng】态平【píng】衡，打造智能治理的【de】新样板。

大模型的风险管理

推进大模型【xíng】的【de】创新和【hé】应用，同步也要加强大模型的风【fēng】险管理与行业治理【lǐ】。在上【shàng】海西岸举行的“大模型时代的通【tōng】用【yòng】人【rén】工智能产业发展机遇以及风险”主题论坛上，上【shàng】海市经济和信息化委【wěi】员会相【xiàng】关负责【zé】人表【biǎo】示，上【shàng】海作为人工智能创新【xīn】高地与【yǔ】“先【xiān】行区”，在积极【jí】打【dǎ】造具有【yǒu】国际影响力的世界级【jí】产业集群的同时，坚持【chí】科【kē】技向善理念，持续推进【jìn】人【rén】工智【zhì】能健康规【guī】范发展。

据介【jiè】绍，上海积极推【tuī】进大【dà】模型技术的创新和应用，系统性支【zhī】持技术攻关、算力供给、数【shù】据【jù】集建设和【hé】公共【gòng】服务需【xū】求【qiú】；布局【jú】科【kē】学智能【néng】，推进【jìn】科【kē】学智能赋能生【shēng】物医药、集成电路、高端装备和先进材料等创新应用；提【tí】升【shēng】智能机器人【rén】在复杂场景下的【de】智能能力。

与【yǔ】此同时，上海【hǎi】正在【zài】加快完善行业【yè】治理【lǐ】体系，面向人工智能的关键领【lǐng】域，加快制定技【jì】术、产品、服【fú】务、行业应【yīng】用、安全伦理等标准，在健【jiàn】全法规、标准、监【jiān】管体系等方面，努【nǔ】力形成上海【hǎi】特色方案。

上海目前【qián】已经启动高风险【xiǎn】人工智能【néng】产品和服【fú】务清单式管【guǎn】理【lǐ】的相关研究，并积极推【tuī】动大【dà】模型相关治理研究；建立健全大模型评【píng】测体系，建设【shè】大模型评测中心，探索大模【mó】型自动【dòng】化评测工具；探索适应【yīng】大模【mó】型特【tè】点的【de】创【chuàng】新监管方式。

上海将【jiāng】搭建更多研【yán】讨【tǎo】平台，引导产业人【rén】士参与科技创新实践；积极参与【yǔ】国【guó】际人工智【zhì】能治理规则的制定和实施，推动人工智能伦理标准【zhǔn】的互【hù】认和协调，共【gòng】同【tóng】推进人工智能造【zào】福人类。

扶持与合规并重

为打【dǎ】造大模型和【hé】生成【chéng】式人工智能生【shēng】态集聚和创新应用高地，上海徐汇此次率先推出【chū】了面【miàn】向生成式人工智能【néng】的扶【fú】持【chí】政【zhèng】策，直面【miàn】企业需求和【hé】产业关切。

15条具体举措，聚焦【jiāo】技术强基支撑，支持【chí】通用大模【mó】型、垂类【lèi】大【dà】模型【xíng】等【děng】关键领域自主创新，支持具【jù】身智能、自【zì】主智能体等前沿领【lǐng】域【yù】布局；聚焦场景应用示范，充分发挥【huī】徐【xú】汇特色产业基础【chǔ】和新赛道先发【fā】优势【shì】，全【quán】面推动【dòng】生成式人工智能技术在医疗、金融、社交【jiāo】、智能网联汽车【chē】等领域融合赋能；聚焦创新生【shēng】态构建，针【zhēn】对【duì】算【suàn】力、数据【jù】、算法、融资、人才、监管等关键环【huán】节，强化要【yào】素支撑。

2022年，上【shàng】海徐汇人工智能【néng】产业规模已近千【qiān】亿元，近五年年【nián】均增速达到30%以上；在大模型和生成式人【rén】工智能细【xì】分【fèn】领【lǐng】域，已经汇聚相关【guān】企业近200家，其中核心企【qǐ】业30余家，成【chéng】为上【shàng】海乃至【zhì】全【quán】国大模型的策源地【dì】之一【yī】。

在上海【hǎi】，智能社会治理获得同等的关注。此次，上海杨浦揭牌【pái】成立了“人工智能【néng】合规【guī】服务中心”，将发挥【huī】同济大【dà】学【xué】的智力【lì】与技术资源优势与杨浦【pǔ】区【qū】的实践【jiàn】优势，为企业的人工【gōng】智能新技【jì】术【shù】新【xīn】应用，提供【gòng】合规【guī】指引、咨询和服务。