人工智慧掌控技术的产业发展对今后人类文明社会风气构成环境治理考验的是，社会风气掌控技术掌控网络系统公共存活应用领域领域的广为内嵌与解构，这涉及智能化机器的独立决策权与人类文明掌控权之间的新型分配秩序难题。近年来，随着自动驾驶、手术机器人、智能化卫浴、智能化招聘、智能化诊治等演算法重大决策掌控系统的商品化与社会风气化应用领域的日益普及，使得人类文明主体在关键性重大决策应用领域领域不断重新分配掌控权，而智能化机器独立决策权扩大的同时，又相应增加了人工智慧的伦理伦理、法律条文与社会风气监管难题。在此情景下，人工智慧治理重新特别强调人类文明要保证对智能化机器独立自主重大决策犯罪行为的掌控。但在如今非直接操作象征意义上，怎样区分更为抽象的掌控关系，怎样保持伦理规范和明确的人类文明职责？对此，便有了“有象征意义的人类文明掌控”（Meaningful Human Control，MHC）而此新兴人工智慧伦理伦理环境治理准则或其方法论架构来辅导课堂教学。
产业发展历程与方法论架构
近些年来，负职责创新、商业价值敏感度结构设计、伦理蔡荣等研究应用领域领域特别强调的研制期商业价值内嵌的伦理伦理结构设计经营理念，占据了人工智慧亚洲地区环境治理应用领域领域的主流。但是，即便在掌控技术研制早期期进行商业价值内嵌，可能将依然无法规避人工智慧在应用领域时引发的潜在风险。其原因主要就有以下两点：一方面，人工智慧是几项布森戈掌控技术，能够全面渗透人类文明存活空间并重塑社会风气生产关系。因此，辅导人工智慧应用领域的商业道德观是在动态演变的。另一方面，人工智慧掌控技术的插值速度非常快，尤其是在逐步取代人类文明重大决策的掌控权方面影响深远。在可预见的今后，人工智慧应用领域领域可能将出现“完全独立自主”级别的智能化机器掌控系统，或对人类文明社会风气秩序带来重大考验。在交通、医疗、卫浴等同人类文明日常生活紧密相关的应用领域领域，交予智能化机器代理重大决策，可能将并不符合人类文明的权利和仁义。因此，人类文明与机构而非人造掌控技术物或其演算法，应最终掌控低阶独立自主掌控系统的重大决策犯罪行为，并分担伦理伦理与法律条文职责。
而此架构性的假设前提，最早出现在对人类文明存活最具侵略性的人工智慧驱动的掌控系统——“防卫性独立自主武器掌控系统”（Lethal Autonomous Weapon Systems，LAWS）应用领域领域。2012年，五角大楼颁布了3000.09指令，首次在国别微观提出独立自主武器掌控系统的全开发周期要得到人类文明掌控并充分说明人类文明指挥官、操作者的意图。2014年，以色列政府向亚洲地区传达就LAWS的关键性功能实施MHC的经营理念，形成了广为共识。同年，联合国《特定致命性公约》正式开始将LAWS遵循MHC的伦理伦理议题纳入架构日程。直至当前，MHC已产业发展为国际社会风气探讨LAWS的伦理伦理、法律条文与公共行政架构的基本概念核心。不过，而此基本概念在课堂教学微观仍缺乏统一区分。主要就其原因在于，LAWS具有特殊性，并不是同今后人类文明存活与日常生活存在普遍关联的社会风气掌控技术掌控系统，不太可能将对传统公众日常生活模式进行颠覆。但从该应用领域领域对MHC基本概念的研究阐述，可以揭示人类文明掌控智能化机器并分担伦理职责的基本前提：作出有意识的决定、充分理解犯罪行为的必要性或其情景、掌握应用领域独立自主掌控系统的技能与知识。
不过，以上这些前提并不容易实现。人工智慧的根本伦理伦理考验是职责隔阂难题，这主要就是在复杂场景的交互式过程上才逐渐显现，导致掌控技术性、动力性、伦理性、政治性等多方其原因的混合介入。另外，职责隔阂也有多种类型，不只是伦理职责，还有应受责备、公职职责、主动职责等。人与低阶智能化机器的交互关系，普遍不是直接操作象征意义上的，不能被简单区分为“一对一”（操作者直接引导掌控技术设备或掌控系统的犯罪行为）的因果职责。因而，人类文明与智能化机器之间整体上是一种新颖的“分布式掌控”关系，以此作为职责归因的行动基础，就需要捷伊方法论架构。
MHC而此基本概念有两个基本构成：“有象征意义”与“掌控”。“有象征意义”指代人类文明掌控智能化机器犯罪行为并分担伦理职责的基础前提。“掌控”涉及人类文明主体对智能化机器的掌控形式的多元化。不同的掌控与职责形式的集合，有利于对智能化机器犯罪行为监督机制的实现。这为消解职责隔阂难题，提供了方法论切入点。德西奥（Filippo Santoni de Sio）和范登霍温（Jeroen van den Hoven）就MHC的伦理哲学基础进行了开创性论证。他们基于当代相容论的论证理路与认知科学、心灵哲学的最新研究成果，提供了一种社会风气掌控技术掌控系统视域下“追踪—追溯”双重前提的规则性架构。
“追踪”准则涉及人类文明掌控者与受控掌控系统之间的关系性本质，即掌控系统犯罪行为能够随时随地反映课堂教学情景中人类文明行动理由（意图、计划或是伦理理性）的程度或质量。而此基本概念在哲学与伦理伦理学中的意蕴，即允许非直接操作象征意义上的掌控形式。“追溯”是对“追踪”的补充，指代掌控系统犯罪行为应至少溯及一个负职责代理人（使用者、主管、结构设计师、立法者等）的能力。这些代理人要掌握掌控技术的显性知识和默会知识，并意识到自身的伦理承受者身份。
伦理伦理规约机制
目前，MHC方法论已规定了大致的内容与目标。根据“追踪—追溯”双重结构设计准则，实现MHC为导向的智能化机器伦理伦理结构设计，是以整体社会风气掌控技术掌控系统为对象，而不限于单一的掌控技术硬件或其研究期的商业价值内嵌。不过，将MHC的规范性指示转化为可行的操作存在一些困境：追踪标准需要确定那些代理人是谁、行动理由是什么；追溯标准需要识别这些代理人是否同时兼具掌控技术专长与伦理意识。
针对追踪准则的可操作性困境，梅卡奇（Giulio Mecacci）等人基于行动哲学、犯罪行为心理学和交通工程学的研究成果，提出了一种可联结、可解释人类文明行动理由与掌控系统犯罪行为之关系性的“理由接近度量表”（proximal scale of reasons）。追踪准则的操作性标准，需要代理人、行动理由对掌控系统犯罪行为产生影响的程度可量化，以此区分伦理与法律条文职责主体。以代理人与掌控系统在时间、空间上的近端和远端为划分依据，代理人可区分为掌控系统内部代理人与掌控系统外部代理人，然后可根据代理人在内外掌控系统的远近再进行四重角色的区分。
追溯准则的实现标准，需要能够衡量人类文明在多大程度上从掌控技术专长与伦理意识微观理解智能化机器的结构设计、部署与操作，即紧密稳定在掌控链上。但这里的抽象性要素存在可量化的困难。卡尔弗特（Simeon Calvert）开发了一种“评估级联表”（evaluation cascade table），可以为事关知识、能力和意图的纯粹定性评估提供实证基础。
首先，需要细化受控掌控系统中掌控技术专长与伦理意识的类型。对于智能化掌控系统而言，代理人的掌控技术专长可分为掌控系统性知识与重大决策能力。前者涉及应用领域智能化机器的（形式化与非形式化）知识以及既有（主动或被动的）经验，后者是实施行动理由（战略、战术、操作）的能力。伦理意识则包含基本商业价值准则（问责、透明度、可解释等）的理解与伦理的所有权意识（伦理伦理与法律条文职责、对他者的影响与自身的职责定位）。
其次，需要就知识、具身性到伦理感微观进行掌控系统掌控的能力，采用评估级联表进行感知调查。这是基于“李克特量表”（Likert scale）的综合应用领域，逐级从实施操作掌控、人类文明代理人的参与、代理人理解和使用该掌控系统的能力、代理人理解他们对掌控系统的伦理职责的能力，这四个方面对作为掌控主体的代理人参与程度进行感知调查，通过加总方式计分来判断参与程度的大小。
接下来研究的关键性是，在社会风气掌控技术掌控系统内“追踪—追溯”双重标准的整合反而成了难题。怎样判断满足追溯前提的掌控技术专长和伦理意识的代理人与实现追踪前提的代理人是同一主体，并且履行对应的法律条文法规，都需要进一步拓展MHC的哲学架构与案例研究。
总体而言，MHC作为伦理伦理准则的意蕴是要重申人工智慧应用领域应用领域领域的人类文明安代理，其方法论旨趣及课堂教学目标是要解决技术的掌控难题，从而充分说明人类文明的理由与意图。MHC研究的迅速推进，预示着人工智慧亚洲地区环境治理进入捷伊期。智能化掌控系统的操作者可能将不再被视为最主要就的追责主体，在智能化掌控系统掌控链上的代理人其参与程度将决定其职责地人工智慧的全生命产业发展周期。
（本文系国家社科基金重大项目“深入推进科技体制改革与完善国家科技环境治理体系研究”（21ZDA017）期性成果）
（作者单位：清华大学社会风气科学学院）
科学报作者：俞鼎
