人工智能治理未来发展趋势分析

日前，人民智库与Defiance AI治理研究院成立联合课题组，邀请中国人工智能产业发展联盟(AIIA)联合开展“2021全球人工智能治理十大事件”评选评估，得到众多行业权威专家和企业代表的大力支持。

通过这次的梳理和总结，我们试图从嘈杂的舆论声音和理性的专家评论中分析AI治理未来的发展趋势，判断AI应用在各个领域和场景的新空间和新动作，使其可控、可靠、可信，服务于人类科技能够改善生活、增进福祉的美好愿景。

接下来，我们将陆续发布专家对具体事件的精彩点评，与所有关心负责任AI发展的AI从业者和朋友分享。

五是加强算法综合管理，防范算法滥用风险。用户可以选择关闭算法推荐。

案例描述

2021年9月底，九部委发布《关于加强互联网信息服务算法综合治理的指导意见》，要求防范算法滥用风险，维护网络空间传播、市场和社会秩序。2021年8月27日，国家互联网信息办公室于《互联网信息服务算法推荐管理规定(征求意见稿)》公开征求公众意见，提出为用户提供不针对其个人特点的选项，或关闭算法推荐服务的便捷选项。

专家意见

张玲玲，北京科技大学法学院副教授，国家人工智能伦理道德标准组成员

2021年是中国算法治理的元年。2021年初，算法进入监管视野，监管部门展开了一系列算法执法活动。颁布实施了世界上第一个系统全面的监管算法《算法推荐管理规定》号法律文件。《指导意见》宣布中国将在三年内建立算法综合治理体系。而欧盟和美国在数据保护立法领域领先中国，而中国则愿意在算法规制方面走在世界前列。我国算法治理体系以信息安全、市场竞争秩序和消费者权益保护为指导思想，而《算法推荐管理规定》则确立了算法服务商的算法全生命周期监管责任，构建了用户权利特别是未成年人、老年人、平台工作者等社会弱势群体的权利保护体系。2021年全面的算法治理活动和相关立法，使中国率先建立了全球最完整的互联网治理体系，包括数据安全、个人信息保护和算法安全。

郭冰，浙江科技大学法政学院特聘副教授，杭州长三角大数据研究院副院长

目前，算法推荐等技术已经广泛应用于电子商务平台、新闻平台、视听平台、社交平台等多个应用场景。算法推荐等技术在给网络用户和网络平台带来便利和经济效益的同时，也引发了一系列新的法律问题。如果平衡算法推荐等技术的创新发展和安全风险，将成为算法治理的一大难题。无论是已经发布的《关于加强互联网信息服务算法综合治理的指导意见》，还是正在制定的《互联网信息服务算法推荐管理规定》，都是应对算法滥用风险等问题的有益制度探索。

张俊平，复旦大学计算机科学与技术学院教授、博士生导师

由于人工智能算法的偏见和对大数据采集的有意操纵，该算法可能会误导公民的舆论倾向，甚至打压竞争对手，侵犯网民权益。因此，立法杜绝这一事件有利于公平。

潘天群，南京大学哲学系教授、博士生导师，南京大学科学技术与社会研究所所长。

目前，人们被各种网络信息包围着，这些信息影响和控制着人们

近年来，我国互联网技术发展的一个特点是，以提供应用软件免费下载服务作为交换，获取大量网民个人信息，相关互联网公司通过基于相关信息的推送软件推送服务获取更多流量。这种做法带来的负面伦理效应是强化了传播意义上的“信息茧”效应，使用户无法从互联网上获取全面客观的信息。同时，这种做法也在客观上威胁着用户的隐私和安全。国家网信办的这一规定让用户可以选择不上传自己的特定数据，从而保护网友的隐私。从伦理的角度来看，国家有必要干预互联网行业的运行模式。同时，也为国内互联网公司基于大数据技术发展人工智能敲响了警钟。

6.自动驾驶汽车将于2021年在英国合法化。

案例描述

《意见》报道称，英国将实施一项计划，允许配备自动车道保持系统(Alks)技术的新车型在没有驾驶员干预的情况下上路行驶。英国交通部长雷切尔麦克莱恩(Rachel Maclean)表示，这是“英国在安全使用自动驾驶汽车方面取得的一大进步，这将使未来的出行更环保、更方便、更可靠。”

专家意见

安大学计算机科学与技术系教授

这是人类迈出的一大步，必将推动这一领域更大的进步：除了道路等基础设施建设和自动驾驶车辆能力等自动驾驶相关技术的进步，以此为榜样和契机，将推动更多无人驾驶系统和自主系统的繁荣发展。

宁阳华北电力大学教授

自动驾驶汽车将在英国合法化，并将入选2021年全球十大人工智能治理事件，备受各方关注。一方面预示着自动驾驶技术越来越成熟，可能会让未来的出行更绿色、更便捷、更可靠，并将推动道路。

交通和商业保险等相关法规的重新修订。但另一方面，也会带来人们对于自动驾驶安全性的担忧和丧失驾驶体验感的顾虑，但不管对其作出何种评价，这无疑是一项崭新的技术革命，自动驾驶市场前景广阔，自动驾驶领域必将成为科技巨头角逐的下一个行业蓝海。

王飞跃 中国科学院自动化研究所复杂系统管理与控制国家重点实验室主任、研究员

对于开放场景下的无人驾驶，欧美在法律制定、标准及政策等方面相比较中国更加灵活，而中国则因为对监管、人权和安全更加看重，目前仍处于「道路测试」或者「试运营」阶段。但在提升行业智能化水平等需求的推动下，在封闭或半封闭场景(如矿区、港口等)正在逐步落地无人驾驶，并已从技术上实现无安全员。

有人和无人驾驶的车辆共同上路面临着工程复杂性和社会复杂性所带来的巨大建模鸿沟。而通过平行驾驶，让人工系统对真实世界车辆和道路建模，构建软件定义的车辆及车路系统，同时建立控制计算中心，对真实数据及虚拟数据进行联合优化，虚实结合的方式保证无人驾驶的安全性，加速无人驾驶的商业化和规模化落地。