两会启示｜从关注伦理到落地治理，“AI时代”如何监管？

两会启示｜从关注伦理到落地治理，“AI时代”如何监管？

两会声音

趋利避害 规范科技伦理

近年来，人工智能发展迅速。对于人工智能领域而言，既需要促进发展，还需确立红线约束。就像科技部部长王志刚在两会第一场“部长通道”中所说的，“要注意规范科技伦理，趋利避害。”

01 代表委员 建言献策

· 教育立法 双管齐下 ·

“信息技术快速发展使得人工智能的各种问题不断衍生并且极易形成叠加效应，应当及时采取措施加强统一规范。”对此，全国政协委员曹文泽建议，进一步加强人工智能社会伦理研究和教育。同时，曹文泽还提出，加快人工智能法的立法进程，并在刑法、民法和经济法等法律和行政法规层面建立对人工智能及应用的全方位规范。

在学术研究方面，第十四届全国政协委员，上海大学副校长汪小帆建议，有关部门应组织统一制定在教学和研究中使用人工智能技术的指导性规定，明确界定并采取有效举措禁止抄袭等学术不端行为和违反伦理道德的行为。

02 立法步伐 不断加快

· 关注伦理 落地治理 ·

随着人工智能近年快速发展，国家新一代人工智能治理专业委员会在2021年9月发布了《新一代人工智能伦理规范》，提出将伦理道德融入人工智能研发和应用的全生命周期。

去年9月，全国首部促进人工智能产业发展的省级地方性法规《上海市促进人工智能产业发展条例》公布，条例明确了相关主体开展人工智能研发和应用时，应当遵守法律、法规规定，增强伦理意识，禁止提供危害用户人身或者财产安全、侵害个人隐私或者个人信息权益的产品和服务等。《条例》还规定，允许试错，也将使科学家在该领域的探索更加大胆，激发创新活力。

“人工智能伦理治理”相关内容已成为每年世界人工智能大会不可或缺的重点议题。在2022世界人工智能大会上，就有多场论坛聚焦人工智能伦理与法治问题。

03 AI治理 多边灵活

· 技术影响 超越认知 ·

“目前人工智能带来的主要风险不一定是技术的不成熟，而是AI技术的快速发展对伦理和社会文化上的影响已超越了我们的认知。”

联合国教科文组织驻华代表处社会科学及人文科学项目专员洪智伟在2022世界人工智能治理论坛上表示，要减少使用AI技术带来的社会和伦理风险，如加剧不平等现象、隐私侵犯、造成偏见等问题，需要在社会和文化价值观的嵌入治理，亟需进行国际合作，形成多边、灵活的AI治理政策，实现更有预见性的AI治理。

04 健全体制 压实责任

· 规范中发展 发展中规范 ·

我国科学伦理治理进程也在加速。去年3月，《关于加强科技伦理治理的意见》正式出台，进一步强调要健全科技伦理体制，压实创新主体科技伦理管理主体责任。

“《关于加强科技伦理治理的意见》推动了我国科技伦理建制进入了新阶段。”在WAIC 2022亚洲科技伦理治理与可持续论坛上，上海现代服务业联合会会长、原上海市人大常委会副主任郑惠强指出，必须抛弃先发展后治理的模式，而应坚持在规范中发展、在发展中规范的模式，政产学研互通探寻可持续发展议题下的治理新模式。

05 “嵌入式”治理

· 创新初期 提前介入 ·

在政府与行业协会的引导下，企业的AI伦理治理提升到了新高度，建立“嵌入式”科技伦理治理体系或是一大方向。

所谓“嵌入式”的科技伦理治理，即在科技创新发生初期，科技伦理就应当有所介入，对新兴科技的发展和风险进行有效干预和管理。澳鹏Appen全球高级副总裁、大中国区及北亚区总经理田小鹏指出，如果要部署负责任的AI，就必须要有负责任的数据。机器是对人工劳动力的补充，但机器的训练依然需要大量人力尤其是专家能力的辅助，如何以高质量数据正确地训练计算机，推动计算机学习与发展，是AI治理的一大难点。

06 伦理之治 根本在人

· 科技活动 可信可善 ·

上海交通大学凯原法学院院长、特聘教授彭诚信在2022世界人工智能大会治理论坛发言中表示：数字社会中伦理之治的根本还在于人，企业伦理、科技的可信向善，归根结底还是人的可信向善，因此需要完善法律监管、理清法律基本责任，确立人们的行为规范。

为进一步规范“人”在科技伦理治理中的作用，在今年3月发布的《关于加强科技伦理治理的意见》中要求，从事生命科学、医学、人工智能等科技活动的机构，研究内容涉及科技伦理敏感领域的，应设立科技伦理（审查）委员会。