人工智能治理体系如何平衡包容？中外专家把脉建言******
中新网北京12月4日电(记者 孙自法)作为有望引领人类未来变革的一项战略性技术，人工智能(AI)近年来在快速发展并赋能千行百业的同时，也带来安全、隐私、公平等系列问题和挑战，人工智能治理概念应运而生，备受关注。
由清华大学主办、联合国开发计划署支持的2021人工智能合作与治理国际论坛12月4日在北京开幕，中国科技部副部长李萌致辞时形象表示，“我们现在正站在智能化社会的门槛上，人工智能这条大船正载着我们向智能化世界驶去，而治理正是随时校正大船航向，确保大船行稳致远”。
在随后举行的“如何构建一个平衡包容的人工智能治理体系”主论坛上，中外专家学者线上线下对话，把脉人工智能发展，聚焦治理体系构建。
中国国家新一代人工智能治理专业委员会主任、清华大学人工智能国际治理研究院院长薛澜提出，人工智能治理直面数据、算法、算力、场景等四大要素挑战，价值导向上要坚持人工智能技术安全可控的底线思维、维护个人权益尊严与平等的人本思维、人工智能赋能经济社会发展的发展思维和人工智能促进可持续发展的全球思维，遵循“和谐友好、公平公正、包容共享、尊重隐私、安全可控、共同责任、开放协作、敏捷治理”的治理原则，着重从“包容、共享、审慎、负责”价值原则来平衡人工智能治理中的发展和安全需求，形成人工智能治理机制的价值共识，推动实现全球协同治理。
关于“审慎”价值原则，薛澜强调，要对人工智能治理给出明确的安全底线，既不能放任不管，任其野蛮生长，也不能出现“一管就死”，避免矫枉过正。
世界工程组织联合会主席、中国新一代人工智能发展战略研究院执行院长龚克表示，人工智能是第四次工业革命的代表性技术，人工智能治理旨在促进具有人类价值的人工智能创新发展，以造福人类和地球，因此，人工智能治理应遵循人工智能发展规律，具有开放的多利益相关者共治的结构，应综合运用技术、规则、教育等多种工具，并有效植入到人工智能应用平台之中。他还特别强调，不仅要发展人工智能各式各样的应用技术，还要发展一批保护隐私和公平、加强监管的人工智能治理支撑技术。
联合国助理秘书长、联合国开发计划署政策与方案支助局局长徐浩良指出，人工智能不是万能灵药，它的好坏取决于使用人工智能的人及数据基础、治理标准。“我们需要全面地看待人工智能，需要跨越国界、跨行业和跨代际的合作，来制定必要的治理框架”。他说，国际机构和国家间的合作至关重要，联合国教科文组织最近通过有关人工智能伦理的提案，得到许多成员国的支持，这是积极的一步。联合国开发计划署已做好准备，为政府和其他利益攸关方构建人工智能治理框架提供支持，让人工智能成为推动可持续发展的重要力量。
“为什么我们需要一种新的、21世纪国际合作方式来治理人工智能？”卡内基理事会资深研究员、人工智能与平等倡议联席主任温德尔·瓦拉赫认为，首先是以数字和生物革命为代表的新兴技术正在重新定义人类的意义，并且重塑世界和未来前景；二是技术速度远远快于道德和法律监督到位的速度，新的人工智能部署的绝对普遍性和速度，颠覆了行业政府、传统机构以及与人们生活息息相关的社会技术结构；三是人工智能和机器学习存在基本控制问题，作为关键系统组建部署时会构成潜在危险。
他说，建立一个合作的人工智能国际治理机制，应该是敏捷的、适应性的、预见性的、响应性的、包容性的，“但是我们应该很清楚，如果没有中国和美国的参与，所有人工智能国际治理方案都只能是幻想。如果不大力转向国际合作，我们将无法成功度过未来几十年”。
“今天社会不仅仅是外卖小哥被困在算法里，我们每个人都被困在各式各样的算法里。”清华大学智库中心主任、智能社会治理研究院院长苏竣认为，人类即将从工业社会迈向以科技进步和智能技术为基础的智能社会，人工智能技术在颠覆性地重组人类社会的同时，也给人类社会的法律隐私、道德伦理、公共治理带来诸多严峻挑战。
他说，技术是中性的，算法是无辜的，在这场人工智能掀起的人类社会巨变中，需要科学的方法研究和应对科技发展带来的种种风险、问题和挑战。“开展人工智能社会实验、探索智能社会治理的中国道路”的倡议自2019年发起以来，经过两年多努力，已在全国有序展开，实现智能技术治理与智能社会治理齐头并举，将为构建有人文温度的智能社会作贡献。
加拿大国际治理创新中心总裁罗欣顿·麦德拉指出，人工智能治理体系在数据领域，要有全球所有国家都接受的数据伦理方面的标准，包括如何搜集数据、收集谁的数据、如何储存数据、如何整合数据、如何分析数据、如何加密、如何保证数据安全、如何使用数据等，“在全球层面共同创建普遍性的标准，它需要很多很多的努力，这就是我们这个世纪的治理挑战”。针对现在越来越多的全球价值链当中，因为机器的替代，很多工作机会被失去的问题，他建议由来自不同社会、不同文化或宗教背景的哲学家组建一个全球性委员会，来思考应对和解决之策。
清华大学人工智能国际治理研究院副院长梁正表示，当前，中国人工智能发展水平已跻身世界第一梯队，也肩负着参与国际治理规则制定的职责。因此，如何助力全球社会共同构建一个平衡包容的人工智能治理体系，需要进行系统思考，开展国际对话。(完)
【观点】构筑顶层设计 开创工业和信息化领域数据安全管理新格局******
近日，工业和信息化部出台了《工业和信息化领域数据安全管理办法（试行）》（以下简称“《管理办法》”）。《管理办法》作为工业和信息化领域（以下简称“工信领域”）数据安全管理顶层制度文件，是全面贯彻落实《数据安全法》等国家数据安全法律法规的重要举措，也是前期工信领域数据安全管理实践经验的固化总结。《管理办法》以安全发展理念为指引，建立健全了工信领域数据安全制度机制，搭建起工信领域数据安全管理的“四梁八柱”，细化明确了数据全生命周期安全保护要求，为工信领域企业落实数据安全管理和技术保护措施提供了明确指引，标志着工信领域数据安全管理工作迈出了具有里程碑意义的重要一步。
一、夯实数据安全根基，建立工信领域数据安全管理基本遵循
随着全球数字经济的蓬勃发展，数据已成为关键生产要素和核心战略资源，数据安全的基础保障作用和发展驱动效应日益突出，攸关国家安全、公共利益和个人权利。党和国家敏锐把握数字经济发展的战略机遇，将数据作为新型生产要素，加快培育数据要素市场，充分释放数据红利，同时，高度重视、不断推进数据安全保护工作。党的二十大报告立足中华民族伟大复兴战略全局和世界百年未有之大变局，做出“统筹发展与安全”的重要部署，要求“坚定不移贯彻总体国家安全观”，“以新安全格局保障新发展格局”，重点强化数据安全保障体系建设。
安全保障，制度先行。国务院《“十四五”数字经济发展规划》将研究完善行业数据安全管理政策作为提升国家总体数据安全保障水平的关键一环。《数据安全法》《个人信息保护法》等国家重大数据安全立法加速出台，进一步明确了数据安全行政监管的上位法依据和职责边界，对各行业、各领域承接落实也提出了新要求。
工信领域是我国数字化转型的排头兵和产业数字化的主阵地。信息通信网络覆盖社会千行百业，是经济社会运行的“神经中枢”，汇聚海量用户数据和关系国计民生的重要数据。工业数字化转型催生海量工业数据资源，且数据互联互通加快导致数据安全风险与威胁点增多，数据安全形势愈发严峻复杂，工信领域数据安全保护亟待强化。加速完善工信领域数据安全管理政策，夯实数据安全工作基石，是认真践行总体国家安全观，统筹发展和安全，护航工信领域数字化发展的必然要求，也是落实党和国家决策部署、提升国家总体数据安全保障水平的必担之责。
二、筑牢数字安全屏障，明确工信领域数据安全保护的规则指引
《管理办法》坚持安全与发展并重、鼓励与规范并举原则，推动建立健全安全可控、弹性包容的工信领域数据安全规则体系，一方面，明确数据安全管理关键制度要求，划定工信领域数据流通利用的安全基线，同时，构建多元主体协同共治格局，着力提升工信领域数字信任，为我国数字化转型保驾护航。具体来说，《管理办法》核心内容包括以下几个方面：
（一）明确管理体制，建立三级联动的数据安全工作机制
《管理办法》衔接国家数据安全工作协调机制，充分结合工信领域既成的监管体制，构建了“部-地方-企业”三级联动的数据安全工作机制：在部层面，由工业和信息化部负责工信领域数据安全总体统筹与监督管理。在地方层面，地方工业和信息化主管部门、地方通信管理局、地方无线电管理机构分别负责对本地区工业数据处理者、电信数据处理者、无线电数据处理者的数据处理活动和安全保护进行监督管理。在企业层面，工业数据处理者、电信数据处理者、无线电数据处理者承担本单位的数据安全主体责任，落实工信领域数据安全管理要求。这种条块结合的监管组织架构既贯彻了《数据安全法》对于各地区、各行业、各领域数据安全监管的责任分工，也充分考虑了工信领域管理的共性需求与实践差异。
（二）细化分类分级，建立涵盖事前事中事后的监管制度机制
《管理办法》承接细化《数据安全法》数据分类分级保护要求，以预防、控制和消除数据安全风险为核心，建立工信领域数据安全管理关键制度机制。一是明确工信领域数据分类参考因素及数据分级识别依据，建立重要数据和核心数据目录备案管理机制，为工信领域数据分类分级安全管理提供实操指引。二是建立工信领域数据安全风险监测机制及风险信息上报和共享机制，对数据安全风险进行监测、汇聚、分析、通报，加强工信领域数据安全风险的事前感知。三是明确应急处置机制流程，制定工信领域数据安全事件应急预案，预防和减少数据安全事件发生后造成的损失和危害。四是完善投诉举报机制，建立部省两级数据投诉举报渠道，充分发挥社会监督作用，广泛获取数据安全违法信息。五是建立数据安全检测、认证、评估管理制度，提升工信领域数据安全产品、服务质量及安全保障能力，推动数字安全产业发展。
（三）落实主体责任，加强重要数据和核心数据重点保护
《管理办法》对标《数据安全法》《网络安全法》《个人信息保护法》中的数据安全保护义务，明确细化工信领域数据处理者的数据安全主体责任。一是要求建立数据全生命周期安全管理制度，制定各环节分级防护要求和操作规程，配备管理人员，加强权限管理，制定应急预案，定期开展教育培训以及其他必要措施。二是要求结合数据收集、存储、使用、加工、传输、提供、公开等环节特点设置针对性保护措施，有效加强数据安全保护。三是以一般数据、重要数据、核心数据三级数据划分为主线贯穿数据全生命周期安全管理，要求采取工作体系建设、内部登记审批、关键岗位管理、安全防护等管理及技术措施对重要数据和核心数据进行重点保护，切实保障国家安全和社会公共利益。
（四）引入多利益相关方，构建数据安全协同治理生态
数据安全保护涉及主体多元、场景复杂、环节众多，构建良好的数据安全治理生态需要开展多方协同。《管理办法》引入企业、研究机构、行业组织、安全服务机构等各类主体参与数据安全治理。一是推动数据安全产业发展，支持数据安全企业、研究和服务机构开展数据安全技术研发创新，结合行业数据安全需求培育、发展数据安全产品和服务，提升数据安全产品供给能力。二是组织企业、研究机构、高等院校、行业组织等各类主体开展相关标准的制修订及推广应用工作，增强标准制定参与主体的广泛性，通过标准促进数据应用规范化，提升数据处理活动的安全性。三是发挥安全服务机构、行业组织、科研机构数据安全能力，鼓励协同开展数据安全风险信息上报和共享，汇聚多方力量应对数据安全风险。四是发挥评估机构专业能力，辅助开展数据安全风险评估、出境评估等活动，助力企业持续提升数据安全保障水平。
三、凝聚多方合力，全面提升工信领域数据安全保障水平
在数据安全威胁和风险日益突出，国家数据安全管理要求亟需落地的大背景下，《管理办法》的出台正当其时。《管理办法》正式实施后，将开创工信领域数据安全保护工作新局面。为进一步推动其落地，有效提升工信领域数据安全治理能力，重点提出以下几方面思考：
（一）加强政策宣贯培训，全面提升数据安全保护意识和水平
《管理办法》发布是引导工信领域深入贯彻领会数据安全管理制度要求，加快推动数据安全管理工作制度化、规范化的良好契机。做好宣贯培训，采取部级示范培训和地方重点培训相结合的方式，针对性、分层次、有深度地设计行业数据安全宣贯培训内容，对《数据安全法》《管理办法》进行系统阐释和深入解读，统一理解认识，有助于行业监管部门推动管理制度要求有效落实与执行，打响“发令枪”。同时，数据处理者要定期开展数据安全管理培训，明确关键、重点岗位培训方案，确保数据安全从业人员全覆盖，及时评定培训效果，做好“冲锋者”。
（二）做好重要数据识别备案，有效夯实数据安全工作基础
重要数据保护已成为工信领域数据安全管理的重中之重。随着《管理办法》的推进实施，还需要行业监管部门结合工业、电信行业领域自身特点和实践需求，配套制定重要数据识别标准规范，建立完善备案审核及上报流程机制，为工信领域企业深化落实数据安全基线要求进一步提供细化规则。数据处理者也需要按照行业监管部门的工作要求，紧密结合自身数据安全工作实际，定期梳理数据资源，扎实开展重要数据识别和目录动态备案管理工作，切实履行好安全主体责任。
（三）抓好风险防范化解，切实增强数据安全保障能力
有效发现、抵御工信领域数据安全突出风险，是维护数据安全的发力点和核心战力。加强数据安全风险评估、报告、信息共享、监测预警工作部署，推进全国数据安全管理平台建设，加快打造工信领域数据安全风险态势感知能力，将成为下一步行业监管工作的重点。数据处理者应围绕数据安全保护需求，配合部、省两级主管部门开展风险监测排查，及时防范行业数据安全风险隐患；做好数据安全风险评估和数据出境安全评估，不断提升数据安全合规能力。安全服务机构、行业组织、科研机构要主动参与风险信息上报和共享，按照“及时、客观、准确、真实、完整”的原则报送掌握的风险信息。
（四）加强正向激励引导，多措并举提升数据安全保护水平
坚持监督管理与正向引导相结合，有利于充分调动企业的自主性和积极性，更大程度激发企业提升自身数据安全管理水平的内生动力。行业监管部门在加强监督检查，通过执法、约谈等措施敦促企业责任落实的同时，可以综合运用行业自律、竞赛、优秀案例评选等多种方式加强示范引领，推进企业标准贯标达标工作，指引企业提升数据安全管理能力。数据处理者要充分发挥能动性，自动对标管理要求和最佳实践，自觉提升数据收集、存储、加工、传输、提供、公开、销毁等全环节安全保护水平。在业务系统上线、运营中，同步规划、同步建设、同步运行数据安全保障措施，进一步提升数据有效利用与安全保护平衡能力。
（作者：中国信通院院长 余晓晖）
