日前，中华人民共和国中共中央办公厅下发《中华人民共和国国务院2023年度修法工作方案》。其中更为重要的是，人工智慧法草案等trained报请全国人民代表大会常务委员会表决，可见我省人工智慧应用领域修法将跃上新起点。
↑资料图片 T8300IC photo
其实，2017年中华人民共和国国务院下发的《第三代人工智慧产业发展发展规划》就提出“第二步”的战略部署，2020年，部分应用领域的人工智慧伦理道德规范化和相关经济政策先期创建。2025年，先期创建人工智慧法规、伦理道德规范化和经济政策管理体系，逐步形成人工智慧安全评估和控管能力。2030年，建成更加完善的人工智慧法规、伦理道德规范化和经济政策管理体系。
中国社会科学院国务院研究室研究员、科技与法研究中心主任、研究生指导老师杨延超在接受丹桂新闻采访时表示，需要既考量人工智慧风险，又要考量产业发展产业发展发展。人工智慧还属于控制技术产业发展发展的初期，切忌将很多问题明确规定得而要甚至过严。法律还应当以鼓励产业发展产业发展发展为主，要确定大的黄线和正面目录的修法思想。所谓大的黄线和正面目录，就是考量到人工智慧可能给社会产业发展发展带来的六大危害性，划设黄线。比如人工智慧无法用作诈欺、无法用作数据攻击等。
为什么说人工智慧修法条件已经成熟？
过去几年，我省人工智慧应用领域内部管理已经起跑。2022年3月1日已经开始实行的《网络信息服务项目演算法推荐管理工作明确规定》（下列全称“演算法所推荐管理工作明确规定”）中，聚合制备类演算法被列入五类演算法所推荐控制技术之一（聚合制备类、个人化发送类、次序优选类、索引过滤器类、运维决策类），受到市场监管。
2023年1月1日已经开始实行的《互联网信息服务项目广度制备管理工作明确规定》（下列全称“广度制备管理工作明确规定“）中，将广度制备作为演算法服务项目种类中风险较高的演算法率先修法市场监管，更进一步加强了对该应用领域的市场监管力度。
为了更进一步推动人工智慧应用领域的规范化和产业发展发展，国家网络信息办公室于2023年4月11日发布了《聚合式人工智慧服务项目管理工作办法（草案稿）》。
综合以上四份文件，随着演算法和人工智慧控制技术的产业发展发展，我省对其环境治理也逐步形成了“演算法环境治理——广度制备环境治理——聚合式人工智慧环境治理”的插值方向。
↑资料图片 T8300图虫创意
中国社会科学院国务院研究室研究员、科技与法研究中心主任、研究生指导老师杨延超教授长期研究人工智慧修法问题。在杨延超看来，以上几部管理工作办法的出台，体现的是随着人工智慧控制技术的进步，修法工作也进步。
杨延超解释，最已经开始出台的所推荐演算法相关规则是因为很多平台通过演算法来提升服务项目，使用用户画像来计算用户偏好，用户不需要检索，平台就会自动所推荐相关内容。所推荐演算法得到广泛应用以后，最先出台的便是关于所推荐演算法的管理工作规则。后来又出现了广度制备控制技术，包括“换脸”控制技术等，可以聚合语音、图像。这个过程也引发了人们对于权利的思考，包括是否会侵犯人身权等问题，所以出台了广度制备的管理工作规则。今年年初，ChatGPT这种聚合式人工智慧引发了一系列挑战，而且目前各个应用领域都在用大模型来完成聚合式人工智慧，聚合文字、图像，甚至代码、视频，可以看到人工智慧已经具备了一定的资料整合、推理、逻辑分析的能力，这是过去人才具备的能力，所以会产生个人隐私、数据安全、知识产权保护等一系列问题。出于对这些问题的担忧，又已经开始制定聚合式人工智慧的管理工作规则。这是一个控制技术与法律进化的脉络。
之所以在今年提出要把人工智慧法草案列入修法方案，杨延超表示，是因为人工智慧控制技术经过了多年的积累，今年得到了爆发式的增长。在整个控制技术产业发展中，大模型成为了一种突破，在此之前，某些局部应用领域，小模型解决了一定问题，但处在控制技术瓶颈中。这一次大模型的产业发展发展，带来了全新的可以实现的能力。OpenAI的试验让人们看到，大模型时代AI产生了类人的能力。在这么一个特殊的时期，修法者、管理工作者在思考产业发展产业发展发展的同时，也会考量到相应的风险，通过把规则制定出来，保证行业健康产业发展发展。
杨延超表示，过去我省已经制定的法律包括《个人信息保护法》《数据安全法》，以及上述关于所推荐演算法、广度制备的部门规章，还有智能驾驶相关明确规定，都成为人工智慧修法的前期积累。
对外经济贸易大学数字经济与法律创新研究中心执行主任张欣在接受丹桂新闻采访时表示，上述几部法律规范化虽然时间上有先后，但不是一个线性产业发展发展的过程，人工智慧法草案其实早有筹备，并且一直在推动，在部门规章层面这种小切口的修法有较快推进。
张欣也提出，目前对于人工智慧的修法，各方面的条件已经成熟，已经在次一层级有了一些低位阶的修法，这对上位阶的修法已经有了一定规范化基础。另一方面，公众的数字素养和对修法需求的认知，包括科技企业的合规意识，还有相关的控制技术标准和伦理道德等有了一定完善。在整个制度基础层面，人工智慧法修法的基础已经比较成熟。
修法困难何在？
人工智慧控制技术还处于发展初期，挑战重重
杨延超认为，目前修法的困难在于，人们对于人工智慧控制技术的规律还无法说有很好的掌握，仍然处于探索期。对于人工智慧控制技术可能产生什么样的风险，还需要总结和摸索，甚至出现了一些破坏性案例以后才能逐步完善。所以目前的修法只能是相对原则性的修法。
“各个法规之间配套是一个比较大的挑战。”张欣说，比如在法律层面，数据平台和演算法与人工智慧密不可分。之前已经有了个人信息保护法、电子商务法、网络安全法、数据安全法等，这些法律和即将制定的人工智慧法之间的关系是怎么样的，它的匹配是怎么样的，需要更进一步考量。第二个挑战是，目前我省已经在次一级的修法，比如部门规章、行政法规等层面已经有了一些修法的基础，在做更高位阶的基础性法律时，如何和下面的这些已有的法律规范化进行匹配。
↑资料图片 T8300IC photo
张欣说，第三个挑战在于人工智慧应用领域变化非常快，尤其是控制技术产业发展发展，聚合式人工智慧的出现。比如，欧盟的《人工智能法案》，制定的时候如果没有ChatGPT出现，它可能不会是今天的这么一个迅速改动的面貌，可能基本上已经通过了。但因为ChatGPT的出现，打乱了它制定的节奏。从欧盟《人工智慧法案》的制定就能看出，人工智慧应用领域修法的滞后性越来越明显。因此，不管对于我省还是其他国家，人工智慧修法既做到包容审慎，又给科技创新留下比较充足的弹性空间，能够具有一定前瞻性难度非常大。这可能需要修法控制技术上，包括修法制度上有一个开放、动态的弹性空间。
人工智慧会涉及到生产生活的方方面面，比如内容环境治理、数据保护、知识产权、智能驾驶等，也有人工智慧控制技术开发中的控制技术伦理，人工智慧应用、服务项目中可能产生的侵权问题等。是否这部法律也会像一个法典一样庞大？人工智慧法草案会有哪些内容是必备的？
↑资料图片 T8300图虫创意
杨延超表示，人工智慧在各个应用领域都有表现，比如无人驾驶、知识产权、金融等，在每个应用领域表现出来的法律关系、权利义务、法律责任都不同。修法的过程大概率会从部门法中产生的问题进行逐步梳理总结。
杨延超举例，比如在无人驾驶应用领域，产生的法律规则已经非常复杂，但是它的特点与聚合式人工智慧不同，需要做的是对传统交通法规的变更，过去驾驶员变成了机器，这里面对于交通事故过错责任、侵权责任的理解都会产生根本性变化。其他应用领域也是如此，修法应该在细分的应用领域有深耕细作，然后抽象出来做法典化升级。
张欣也认为，参照个人信息保护法、网络安全法。人工智慧法作为一个基础性的法律，可能不会像欧盟的《人工智慧法案》一样那么长；可能就人工智慧的用户，服务项目的提供者、开发者、部署者，这些主体的权利义务责任理清楚，而不会像一个法典那么庞大。
那么人工智慧修法应该有哪些必备内容？杨延超表示，不论什么应用领域的人工智慧修法，都离不开人工智慧三个要素的明确规定和三个原则的考量。所谓三要素就是：算力、演算法、数据，因为不管解决什么样的人工智慧问题都离不开这三个要素。所谓三个原则就是：产业发展产业发展发展、权利保护、伦理道德考量，制定的法律要保护人的权利要经得起现代人伦理道德的考量，还要能够促进产业发展的产业发展发展。
如何处理好风险与产业发展发展的关系？
雷西县划设黄线：人工智慧无法用作诈欺、数据攻击
制定法律如何既规避乱象，又不限制控制技术产业发展发展，实现良法善治？杨延超表示，这就要既考量人工智慧风险，又要考量产业发展产业发展发展。因为目前还属于控制技术产业发展发展的初期，切忌将很多问题明确规定得而要甚至过严。整部法律还应当以鼓励产业发展产业发展发展为主，要确定大的黄线和正面目录的修法思想。所谓大的黄线和正面目录就是考量到人工智慧可能给社会发展带来的六大危害性，划设黄线。比如人工智慧无法用作诈欺、数据攻击等。划好黄线，任何产业发展产业发展发展无法逾越。这样既给了产业发展产业发展发展极大空间，又保障了人类社会基本安全不会受到侵犯。
张欣表示，人工智慧环境治理一方面要进行敏捷环境治理，同时又要保证环境治理具有韧性。在提出这个环境治理架构和目标之后，要依靠一系列的环境治理工具将它落地，比如在人工智慧应用领域中，演算法影响评估、演算法认证、演算法审计等都是非常好的环境治理工具。有了这些工具之后就可以保证它跟这些控制技术的产业发展发展是不断同态调整的，这是一个持续动态调整和调优的过程。在人工智慧应用领域当中，不管是进行修法，还是在整个环境治理过程中，需要依赖一系列环境治理工具把它落地。
丹桂新闻首席记者 吴阳 实习生 李晨笑 北京报道
编辑 张莉 责编 冯玲玲
