控制技术凶悍，宜缓缓图之。自1956年“人工智慧”尖萼跨学科的正式诞生后，尖萼处在各应用领域交叠的科学已经取得了长足进步的发展，尤其是在近几年各类投资资金以商品化和非商业为目的的带动下更成为一门人人皆谈的“集大成者”。
但实际上，在人工智慧各行业龙头应用领域的人类学家和处在特长的法沃德国大众间，始终坐落着一条难以违逆的隔阂，那是受流行文化影响的德国大众对AI控制技术的高期待与现实生活控制标准规范较高间的矛盾。以复旦大学信息学院主任、复旦大学高瓴人工智慧学院执行主任文继荣的话来说是，“如今近似于《西部世界》的科幻片对德国大众认识人工智慧控制技术是具备虚假的。”
的确，无论是科幻片《Her》中的那哥人工智慧，却是《莉莎塔》中的莉莎塔都把人工智慧系统描绘成两个感情丰富、具备自主意识的“生物”，仿佛除了那钢铁躯体之外，其与人类文明已经食果蝠。
然而，现实生活却是纵使他们可以基于深度学习训练智能副手，使其深明人类文明的习惯和特征，但那也仅仅是对于人类文明行为数据的分析和概括，绝非是科学研究人员在对人类文明个体的运行逻辑进行“逆向工程”后从0孕育出两个具备大脑结构和人类文明思维方式的亚种。换言之，Siri可以绝非是“懂你”，而只是对你的一举一动给出了该有的是输出结果。
事实上，人类文明对他们自身的感情产生机制和神经系统奥妙都还没有全面的情况下，是难以用代码和电脑“拷贝”两个“我”的。恰似北京大学人工智慧科学研究院主任、中科院张钹院士的观点，“AI最大难题是他们对神经系统了解很少的情况下去做人工智慧。”而由此派生出的有关什么是爱，什么是美，感情究竟是客观却是直觉等诸多难题不要说是电脑，是对人类文明来讲也是足以上升到哲学高度的毁灭者痛点。
但原理未明并不代表冠上“人工智能”控制技术的应用应用领域在他们身边Engilbert，而其中应用应用领域的较为普遍的情景，同时也引起非常多争论的往往是在私营部门，最典型的是收容在各个角落里的人脸探头，其引起的有关个人隐私和安全的争论甚至盖过了人们对控制技术本身的
对此，对人工智慧控制技术科学研究较为深入的国家和地区纷纷给出了自己的“AI伦理道德准则”，如澳大利亚就I伦理道德准则》将目光聚焦在了可信赖、伦理道德准则和全生命周期。
其中，在欧盟《伦理道德准则》的执行摘要中就提到，“人工智慧是这个时代最具变革性的力量之一，它可以为个人和社会带来巨大利益，但同时执行摘要也会带来某些风险。而这些风险应该得到妥善管理。总的来说，AI带来的收益大于风险。他们必须遵循「最大化A1的收益并将其带来的风险降到最低」的原则。为了确保不偏离这一方向，他们需要制定两个以人为中心的A发展方向，时刻铭记A1的发展并不是为了发展其本身，最终目标应该是为人类文明谋福祉。”
而中国在这方面也迈出了第一步。2019年5月25日，北京智源人工智慧科学研究院人工智慧伦理道德与安全科学研究中心揭牌成立。同时，北京智源人工智慧研究院联合北京大学、北京大学、中科院自动化科学研究所、中科院计算控制技术科学研究所等单位，共同发布《人工智慧北京共识》，提出人工智慧的研发、使用、治理应该遵循的15条原则：
研发
人工智慧的科学研究与开发应遵循以下原则：
造福：人工智慧应被用来促进社会与人类文明文明的进步，推动自然与社会的可持续发展，造福全人类文明与环境，增进社会与生态的福祉。服务于人：人工智慧的研发应服务于人类文明，符合人类文明价值观，符合人类文明的整体利益；应充分尊重人类文明的个人隐私、尊严、自由、自主、权利；人工智慧不应被用来针对、利用或伤害人类文明。负责：人工智慧的研发者应充分考虑并尽力降低、避免其成果所带来的潜在伦理道德、法律、社会风险与隐患。控制风险：人工智慧及其产品的研发者应不断提升模型与系统的成熟度、鲁棒性、可靠性、可控性，实现人工智慧系统的数据安全、系统自身的安全以及对外部环境的安全。合乎伦理道德：人工智慧的研发应采用符合伦理道德的设计方法以使得系统可信，包括但不限于：使系统尽可能公正，减少系统中的歧视与偏见；提高系统透明性，增强系统可解释度、可预测性，使系统可追溯、可核查、可问责等。多样与包容：人工智慧的发展应该体现多样性与包容性，尽可能地为惠及更多的人而设计，尤其是那些控制技术应用应用领域中容易被忽视的、缺乏代表性的群体。开放共享：鼓励建立人工智慧开放平台，避免数据与平台垄断，最大范围共享人工智慧发展成果，促进不同地域、行业借助人工智慧机会均等地发展。
使用
人工智慧的使用应遵循以下原则：
善用与慎用：人工智慧的使用者应具备使人工智慧系统按照设计运行所必需的知识和能力，并对其所可能带来的潜在影响具备充分认识，避免误用、滥用，以最大化人工智慧带来的益处、最小化其风险。知情与同意：应采取措施确保人工智慧系统的利益相关者对人工智慧系统对其权益的影响做到充分的知情与同意。在未预期情况发生时，应建立合理的数据与服务撤销机制，以确保用户自身权益不受侵害。教育与培训：人工智慧的利益相关者应能够通过教育与培训在心理、感情、技能等各方面适应人工智慧发展带来的影响。治理
人工智慧的治理应遵循以下原则：
优化就业：对人工智慧对人类文明就业的潜在影响，应采取包容的态度。对一些可能对现有人类文明就业产生巨大冲击的人工智慧应用应用领域的推广，应采取谨慎的态度。鼓励探索人机协同，创造更能发挥人类文明优势和特点的新工作。和谐与合作：应积极开展合作建立跨学科、跨应用领域、跨部门、跨机构、跨地域、全球性、综合性的人工智慧治理生态系统，避免恶意竞争，共享治理经验，以优化共生的理念共同应对人工智慧带来的影响。适应与适度：应积极考虑对人工智慧准则、政策法规等的适应性修订，使之适应人工智慧的发展。人工智慧治理措施应与人工智慧发展状况相匹配，既不阻碍其合理利用，又确保其对社会和自然有益。细化与落实：应积极考虑人工智慧不同情景、不同应用领域发展的具体情况，制定更加具体、细化的准则；促进人工智慧准则及细则的实施，并贯穿于人工智能研发与应用应用领域的整个生命周期。长远规划：鼓励对增强智能、通用智能和超级智能的潜在影响进行持续科学研究，以确保未来人工智慧始终向对社会和自然有益的方向发展。以上是《人工智慧北京共识》的主要内容人工智慧的发展关乎全社会、全人类文明及环境的未来。上述准则对推进人工智慧的研发、使用、治理和长远规划提出倡议。通过推动人工智慧的健康发展，助力于人类文明命运共同体的构建，实现对人类文明和自然有益的人工智慧。
