我国日报5月10日电（记者 陈启昱）第十一届黄荣辉人工智慧科学技术奖颁奖礼暨2022我国人工智慧产业发展高峰会——人工智慧大数学模型的伦理道德与环境治理高峰论坛于5月7日下午在无锡召开。该高峰论坛由我国科学院自动化研究所人工智能伦理道德与环境治理中心秘书长扁果副研究员和我国社科院神学所信息技术神学研究所秘书长段加宁朔副研究员共同组织并主持。
高峰论坛邀请了香港信息技术大学电子与计算机工程学院冯雁(Pascale Fung)副教授、北京大学应用伦理道德学研究中心秘书长王国豫副教授、香港大学蒙苹(Helen Meng)副教授、Jaguaribe智慧RealAI首席行政官田天、蜜蜂集团AI信用风险控制相关人士杨舟、周武王信息技术人工智慧伦理道德与环境治理研究秘书长胡正坤、百度研究院高级副研究员曹建峰、穆萨Marcellin安全可靠合规性相关人士李娅莉等学界与工业界的研究者进行广度交互，著眼人工智慧大数学模型伦理道德环境治理难题展开深入探讨。
首先，会议主席扁果副研究员如是说了人工智慧大数学模型须要伦理道德环境治理的重要原因：人工智慧大数学模型被构筑，并作为一类社会风气服务提供后，潜在信用风险很快就变成虚无的信用风险，相对性于我们的社会风气。对于人工智慧的伦理道德和安全可靠，以往总是用一类结语的形式，而不是用一类主动的形式，所以我们遇到了很多人工智慧大数学模型增添的社会风气问题。其次，扁果如是说了本次高峰论坛目的，即透过我国学界和工业界广度交互，面对人工智慧大数学模型已出现的难题达成一致意见，推进伦理道德安全可靠环境治理的破冰。同时，我国人工智慧大数学模型发展不仅跟民众密切相关，也跟我国人工智慧大模型未来如何走出去，以及全世界人工智慧发展密切相关。
高峰论坛一共分为两个期，第一个期由获邀学界和工业界的研究者阐述对人工智慧大数学模型伦理道德安全可靠环境治理感受。第二个期围绕近期人工智慧大数学模型发生的伦理道德安全可靠事例进行互动式讨论，明确提出看法。
高峰论坛开始后，我国社科院神学所信息技术神学研究所秘书长、副研究员段加宁朔副教授作了专文”谈话式人工智慧与人类文明观念的电脑驯养”的演说。一方面指出现代的词汇学看法强调谈话式人工智慧只是电脑，既不具备人类文明观念，也无法认知词汇背后的事实，须要提防资本将人类文明与词汇数学模型区别混为一谈所增添的危险；另一方面如是说了以Christopher Manning为代表所明确提出的分布式系统的语法理论。区别于现代的词汇学看法，语意不一定要完全去暗指真实的世界，而是透过与其他语意的相关性，从整体的角度来被认知和把握，大词汇数学模型正是这样来确定语法。
段加宁朔指出，将词汇放在相关性的向量空间中进行语法的认知，会反过来改变人类文明，驯养人类文明的观念。谈话式大词汇数学模型的出现，一方面它能透过类人的表达能力，干涉甚至管理人类文明的日常事务，限制人类文明在社会风气中用第一人称来表达自己判断的权利；另一方面，大词汇数学模型将会用人类文明所熟悉的话语告诉我们什么该做什么不该做，进而对人类文明进行观念驯养。面对电脑对人类文明的驯养，段加宁朔认为核心的应对形式，一是加强交互沟通，包括人与人、人与电脑，不仅要了解人类文明怎么去修电脑，也要研究电脑如何来修理人类文明；二是寻找更好的隐喻，因为人类文明不仅要批判性地认知世界，还要超越自己对世界批判的局限性，走向更符合人类文明福祉的未来。
香港信息技术大学冯雁副教授以”伦理道德、环境治理和负责任的人工智慧—东西方比较”为题，从国际视野和技术实践的角度回应人工智慧伦理道德与环境治理面临的难题。透过如是说自己组织并参与国际峰会经历和经验，冯雁基于已有的ChatGPT大数学模型，以”负责任地设计和发布生成性AI数学模型”为关键词，从技术人员的角度论述了”是什么”和”怎么做”的难题。ChatGPT最初只作为科研项目发布，但透过加入人机交互界面，迅速变成网红产品。其爆红增添的伦理道德难题也是始料未及，这也给生成性AI的管理难题明确提出挑战。
冯雁指出，基于各国不同的环境治理形式，我们须要全世界性的、开放式科研环境，让各个国家、公司、学术机构和各位科学家以个人身份参加开放性的科学共研。只有真正的开源，才能共同认知大数学模型存在的难题和产生的根源，才能更好地进行管理。此外，冯雁明确提出未来科学家们可以开发能够量化大数学模型的测试工具。作为技术人员，不仅要考虑技术怎么去做的难题，更要考虑为什么要做的难题。因此，对于生成性AI未来科研的方向，冯雁认为大数学模型标志着人工智慧发展的转折点，研究人员须要进一步了解这些大数学模型为何具备这种类人思考的能力。
在专文《从人工智慧大数学模型伦理道德到有道德的人工智慧》的报告中，中科院自动化所扁果副研究员如是说，技术与伦理道德的交互确保我国新一代人工智慧的稳健发展。人工智慧学科在诞生之初就面临安全可靠与伦理道德难题，如果人工智慧大数学模型没有伦理道德安全可靠框架约束，信用风险将难以估量。比如，没有进行价值观校准的大数学模型在进行涉及道德两难决策时并没有人类文明的迟疑，显现出显著的数据偏见。对于我国在人工智慧大数学模型方面的进展，扁果认为，我国的人工智慧大数学模型能够公开发布、开源开放是非常重要的，是我国人工智慧大数学模型对世界的贡献，伦理道德安全可靠方面应做出更具代表性的进展从而实现人工智慧大数学模型的善用善治。
扁果认为，人工智慧的大数学模型，特别是广泛应用于谈话的生成式大数学模型最重要的难题是混为一谈了人类文明与人工智慧之间的界限，目前的人工智慧没有自我，谈话数学模型不应声称”我以为”。现在的人工智慧大数学模型还不具备心智能力，建构有道德的、合乎伦理道德的人工智能须要人类文明以及其他行动者的交互。由于人工智慧大数学模型在伦理道德与安全可靠方面的潜在信用风险已经以难以预期的形式迅速转化为虚无信用风险，暂停超越GPT-4能力的人工智慧大数学模型研发很有必要。暂停人工智慧大数学模型实验的目的不是停止技术的发展，而是尽可能护航大数学模型的伦理道德安全可靠。因此，从技术手段去破冰人工智慧大数学模型伦理道德安全可靠框架很有必要。
为此，扁果团队打造了”智善人工智慧伦理道德安全可靠平台体系”，体系中已发布的包括”智善共济”链接人工智能原则平台、”智善思齐”人工智慧环境治理公共服务平台、”智善如流”人工智慧社会风气伦理道德道德规范数据集与知识库、”智善观行”人工智慧大数学模型伦理道德安全可靠观测站。扁果如是说到，透过”智善共济”链接人工智慧原则平台的分析
扁果如是说到其团队的最终的目标是实现”上善若水”的人工智慧，认为超级智能的利他之心和共情能力也应该是”超级”的。关于人与未来超级智能如何和谐共生，扁果展示了其牵头发布的《自然生命与人工智慧生命共生的原则》，认为人类文明不能停留在要求通用人工智慧和超级智能怎么做的层面，还要反思人类文明应该怎么去做以及双方应当共同遵守的原则。
对于建构”上善若水”式人工智慧，扁果认为透过类脑人工智慧在科学技术层面是有希望的，困难可能在于人类文明须要做出的改变。从要求人工智慧大数学模型
北京大学王国豫副教授在《通用数学模型的中介性及其伦理道德意蕴》报告中认为，ChatGPT等生成式数学模型可以广泛应用于不同的场景，连接不同的需求。目前的大数学模型主要应用在自然词汇处理和计算机视觉领域，一个是教人工智慧要说人话，一个是教人工智慧自己看世界。
通用数学模型具有涌现性和同质性特征，在系统层面会面临算法、数据以及算力方面的伦理道德挑战，在社会风气层面会面临科学研究、经济与政治、存在论方面的伦理道德挑战。
从技术神学的视角看，通用数学模型的伦理道德挑战与数学模型的中介性相关，数学模型的中介性对社会风气生活产生了很大的影响。作为一类技术中介，通用数学模型可以调节人类文明认识和解释世界的过程。
从环境治理视角看，目前的具体措施包括开展通用数学模型社会风气与伦理道德信用风险的前沿研究、将伦理道德的相关成果转化为技术工具、建立数学模型发布、使用、改进、审查等全流程管理机制。
面对现期应对措施的局限性，王国豫认为应该从三个因素对建立开放式、全流程、价值嵌入的伦理道德工具做了展望：一是在充分伦理道德评估方面，要秉持开放的态度，充分评估数据和数学模型的伦理道德影响和信用风险点；二是在纳入伦理道德考量方面，从全流程的视角出发，将伦理道德考量纳入通用数学模型及其生态系统建设进程之中；三是探索伦理道德方法，充分探索”价值敏感设计”、”负责任创新”等伦理道德方法在通用数学模型语境下的可行性。
Jaguaribe智慧CEO田天的汇报题目为《大数学模型时代下的AI环境治理挑战及其应对》，从实践的角度探索了人工智慧的一系列安全可靠难题，包括相关人工智慧规则的制定、推动人工智慧安全可靠破冰以及针对大数学模型安全可靠与环境治理方面的一些想法。田天如是说，从2015年至今，人工智慧研究范式发生改变，大数学模型时代来临。
田天认为，大数学模型的安全可靠性面临挑战。一是诱导攻击，透过构筑虚拟角色、虚拟剧情、观念链引导等形式，使问询结果摆脱大数学模型内置安全可靠设置，让数学模型抛开立场输出危险结果。二是混为一谈攻击，透过不同的逻辑混为一谈问答，使得大数学模型面对不同的指令时出现逻辑混乱，回答出错。三是数学模型攻击，透过对输入添加细微扰动构筑对抗样本，使大数学模型判断出错，或透过数据投毒的形式，在数学模型中植入后门，在输入特定信息后触发干扰，导致数学模型输出错误。四是隐私数据泄露，利用公开网络环境下的数据进行数学模型训练，导致未经授权的攻击者访问到数学模型相关的隐私数据，导致隐私泄露。五是在数学模型使用方面，面临升级诈骗、网络攻击、虚假内容生成等安全可靠挑战。六是算法偏见和歧视难题，主要是价值取向的难题。七是数字鸿沟、知识产权侵犯等社会风气性信用风险。
最后，田天如是说了尝试建构对生成式人工智慧服务的安全可靠评估能力方面的工作，透过建设安全可靠评估系统来建构针对广度融合服务系统性的安全可靠评估能力。评估维度主要涉及输入输出内容合规性性的评估、检测训练运行数据有关的安全可靠性、检查是否具备隐性标识及标识可用性、检测算法设计和生成内容是否符合伦理道德要求。在应对方案探索方面，田天如是说了RealAI发布的业内首个企业级人工智慧安全可靠平台RealSafe、广度合成音视频检测平台DeepReal以及AI合成文本检测工具。
n
