本序文自中国科学院季刊《Engineering》2018年第1期
作者：吴仪，任奎，贾焰
8,4(1):1-2.
萨德基
信息安全可靠控制技术是一类特定的根结控制技术，为其所服务项目的下层应用应用领域而合作开发，随著下层应用应用领域进一步的数据服务、普及化和智能，安全可靠控制技术显得愈来愈关键。近几年，云排序、边沿排序、物联网、人工智慧、轻工业4.0、大数据和区块链控制技术等新经济应用领域前端排序和信息控制技术急速普及化，负面影响不可估量，但也增添了紧迫的安全可靠考验。
中国科学院吴仪院士等在中国科学院季刊《Engineering》发表文章指出，随著信息安全可靠事件在数量和体量上的快速快速增长，绝大多数前端控制技术所谓充斥著一连串的安全可靠和个人隐私安全漏洞，如何为那些新控制技术的使用者提供更多可以保证安全可靠和个人隐私交互自然环境的高效率服务项目是几项十分迫切的各项任务。为此，文章介绍了云排序控制技术、物联网、人工智慧、机器学习模型等的发展现状、趋势和在信息安全可靠方面面临的考验。
信息安全可靠控制技术是一类特定的根结控制技术，它为其所服务项目的下层应用应用领域而合作开发。随著那些下层应用应用领域显得愈来愈数据服务、普及化和智能，安全可靠控制技术在当下也显得越来越关键。
近几年，我们缔造了云排序、边沿排序、物联网（IoT）、人工智慧（AI）、轻工业4.0、大数据和区块链控制技术等新经济应用领域的前端排序和信息控制技术的急速普及化。虽然那些控制技术具有十分大的负面影响潜力，但它也增添了十分大且无可避免的安全可靠考验。观察表明，安全可靠事件在数目和体量上都快速快速增长，绝大多数前端控制技术所谓地充斥著一连串的安全可靠和个人隐私安全漏洞。
因此，为那些新控制技术的使用者提供更多可以保证安全可靠和个人隐私交互自然环境的高效率服务项目成为几项十分迫切的各项任务。随著网络研究的最前沿扩展到未合作开发的应用领域，那些新经济控制技术的特征使其难以指涉传统的安全可靠事例。辨识那些新经济控制技术的新特性，仔细观察其所需要的新安全可靠市场需求，然后将它正确地资源整合到合作开发过程的早期阶段是至关重要的。
为了碰上炼金术和商业性应用应用领域中所涉及信息量的爆发式快速增长，工程实践中对于排序和储存能力的市场需求促使了云排序控制技术的发展。在这样的背景下，云排序作为一类资源整合大量排序资源并提供更多经济低成本新浪网服务项目的商业性模式，对资源有限的云客户是十分便利的。尽管这种新控制技术前景广阔，但其特定特征也可能导致前所未有的安全可靠问题，进而限制了它的广泛应用应用领域。这其中，缺乏数据个人隐私保护被视为云排序的主要安全可靠问题之一，尤其是对专有数据或高度敏感的数据记录而言。不仅如此，使问题显得更为棘手的原因还在于传统加密控制技术导致的数据质量的损失，即损害数据的原始功能，如关键字搜索和数学排序等。解决那些安全可靠考验的潜在研究方向包括通过创新性数据加密方法将密文域操作的功能进一步加强以支持更为复杂的应用应用领域程序，与现有方法相比，这种方法可以提供更多更强大的安全可靠保证，和实际中更加高速的运行效率。
数据服务网的另一个关键未来方向是物联网，其中，各种形式的互连物理设备（通常包括嵌入式电子设备、软件、传感器、执行器等）共同执行复杂的传感和排序各项任务，并提供更多前所未有的服务项目。将物联网融入我们的生活将彻底改变人们与物理世界的互动方式，并将为医疗保健、运输和制造等应用领域增添十分大的好处。
但是，。急速快速增长的各种类型的物联网数据服务设备为敌手提供更多了十分大而广泛的网络攻击入口。此外，物联网设备的异构接口、系统和硬件的组合对保护那些设备同样构成了重大考验。未能保护物联网设备可能会导致攻击者访问私人信息和（或）对设备进行未经授权的控制。
通信协议的多样化也增加了物联网设备可能遭受的威胁。目前使用的各种无线接入控制技术不仅增加了物联网的复杂性，还暴露出了大量的安全漏洞。那些安全漏洞的存在可能允许入侵者嗅探物联网设备生成的数据或危害设备本身。为了解决这个问题，研究人员必须提供更多解决方案来保护联网的物联网设备，使使用者能够在各种设备上执行安全可靠策略，并能更好地控制和管理敏感信息，减轻更新设备所增添的压力。
新一代排序机科学发展的核心工具——人工智慧为信息安全可靠增添了一连串机遇和考验。
一方面，从网络钓鱼检测和监控系统到基本密码算法等的安全可靠控制技术在人工智慧的协作下显得越来越强大和智能。例如，传统的垃圾邮件检测模型正在通过与严格的网络钓鱼分析相关的专用机器学习模型进行更新，那些模型的检测准确率可以达到99％以上。使用人工智慧代替视频分析员可以提高效率和准确性，其威胁感知能力也可以得到提升。此外，随著生成对抗网络（GAN）的出现，人工智慧可能在不久的将来革新密码控制技术。人工智慧增添的所有安全可靠控制技术进步都归功于其自我学习和自我增强能力。人工智慧能够挖掘和学习各种类型的数据，如垃圾邮件、语音消息和视频，然后更新自动检测/防御系统。持续的自我培训将继续增强以人工智慧为核心的安全可靠系统的性能，包括其稳定性、准确性、效率和可扩展性。因此，人工智慧具有十分大的潜力来改变未来的安全可靠态势。
另一方面，人工智慧也在拓展黑客能力的界限。由人工智慧驱动的自主黑客攻击机可以制作敏感信息并发现排序机系统中的安全漏洞，从而使与黑客对抗显得更加困难。更糟糕的是，人工智慧能够从大量如个人偏好一类的看似不敏感的数据中推导学习敏感信息。那些事实使我们相信，装备了人工智慧武器的黑客将进行更复杂也更隐蔽的自动配对攻击，这将需要我们进一步合作开发更为有效的检测和应对控制技术。
若从另一个角度考虑人工智慧与信息安全可靠之间的相互作用，可以发现人工智慧控制技术本身也正面临着对抗自然环境中的各种安全可靠考验。某些各项任务的机器学习模型被认为是宝贵的知识产权，通常需要经过大量的数据与长时间的机器学习才能获得。不仅如此，模型还可能依赖敏感的培训数据，或可能在安全可靠应用应用领域程序中运行。然而，在没有训练数据或模型参数的先验知识的情况下，机器学习模型可能被窃取。这种窃取的受害者就包括了一些新浪网机器学习服务项目的提供更多方，如BigML和亚马逊机器学习。此外，集中参与者的身份。因此，保护机器学习模型和训练数据亦将成为一个关键且具考验性的问题。
此外，机器学习模型，特别是深度神经网络，可能会被人类肉眼察觉不到的对抗样本所迷惑。以图像辨识为例，只要敌手在图像上添加特定的肉眼不可见的干扰信息，深度神经网络就可能将人眼看起来像鸟儿的图像辨识为船。这种脆弱性成为人工智慧在自动驾驶汽车和排序机辅助诊断等安全可靠性要求十分高的场景中应用应用领域所面对的关键风险。因此，不久的将来在有效检测对抗样本方面需进行大量的研究工作。
新应用应用领域所面对的急速变化的安全可靠威胁的出现，信息安全可靠控制技术的最前沿也急速拓展。新的信息安全可靠控制技术需要将网络、排序系统、安全可靠理论和工程基础作为多学科课题进行整体研究与实践。通过调查实际应用应用领域的系统功能和安全可靠市场需求，我们最终可以解决急速出现的具有高度考验性的全新安全可靠问题并共同构建真正安全可靠的网络空间。
注：本文内容呈现略有调整，若需可查看原文。
改编原文：
Binxing Fang, Kui Ren, Yan Jia.The New Frontiers of Cybersecurity[J].Engineering,2018,4(1):1-2.
作者介绍
吴仪，网络空间安全可靠专家，中国科学院院士。
长期从事网络与信息安全可靠技术研究工作，1989年开始研究排序机病毒防御控制技术，90年代末从事排序机安全可靠事件入侵检测方面的研究工作，1999年提出建设国家信息安全可靠基础设施的理念，并组织建设了相关系统，为保证国家信息安全可靠工作奠定了坚实的控制技术基础。
网络强国：第五疆域争夺战
最前沿研究：个人隐私排序的概念、框架及趋势
最前沿研究：深度学习中的对抗性攻击和防御
战略研究：金融零售支付风险控制的现状、考验与对策
中国科学院季刊
工程造福人类
科技开创未来
微
注：论文反映的是研究成果进展，不代表《中国工程科学》杂志社的观点。
