人工智能将如何改变网络信息安全
在互联网时代，每人每天都需要通过网络接收、发送大量的信息。人们会通过即时通讯、邮箱等方式相互联系。互联网上鱼龙混杂，大家或多或少都对自己的网络安全有所顾虑。另外，随着人工智能技术的日益发展，网络信息安全领域也发生着巨大的变化，面临着重大的挑战与机遇。人工智能是一把双刃剑，它可以是信息攻击方的手段，更是防御方的重要武器。人工智能技术将会如何改变信息安全领域，面对挑战我们又如何利用它来加强网络信息安全呢，这些问题吸引了网络安全从业者的思考。为此，记者近期采访了网络安全专家张国威，邀请他分享对网络安全问题的见解，说明人工智能技术对于网络信息安全的影响，旨在为国内企业输送一些保障网络安全的经验。
张国威曾作为技术专家与主管，为21cn企业邮箱以及189邮箱设计名为“美杜莎反垃圾邮件系统”的邮件安全系统。该系统可以对文字型及图片型垃圾邮件进行识别过滤，并且具有初步的智能自我学习功能，不断完善对信息的判断能力。21N企业邮箱也凭借该系统，于2012年中国信息安全大会上得到与会国家部门及行业协会领导的一致认可，荣获“中国信息安全值得信赖品牌奖”。
近年来，随着人工智能技术的发展，网络安全也面临着越来越大的挑战，网络攻击手段逐渐往多样化、精准化的方向发展，训练数据集投毒、算法投毒、黑盒攻击等新型攻击手段让信息安全面临重大的泄露风险。作为国内知名的网络安全专家，张国威也一直在进行着自己的探索和创新。他研发了一系列具有极高应用价值的先进技术成果，包括“基于云存储的私有云数据备份系统V1.0”、“基于区块链技术的智能路由器网络架构设计系统V1.0”等。其中，技术成果“基于人工智能的网络架构安全检测系统V1.0”将人工技能技术应用在网络检测上，在网络安全智能化上取得了突破性的技术发展，为国内网络安全的发展提供了强大的技术引擎。
通常，人工智能算法往往需要大量的数据以及庞大的计算资源作为支撑。随着计算机硬件的迅猛发展以及互联网时代下海量信息的积累，这使得构建复杂的人工智能算法变得可能，对于不法分子来说，人工智能也逐渐变成窃取信息的手段。“在网络攻击手段逐渐智能化的背景下，传统的、基于已知攻击特征和威胁情报的安全技术存在覆盖率低、准确性不高、滞后性强等弊端，导致传统安全技术已经难以抵御不断演变的高级威胁。”张国威指出了目前网络安全面临的重大挑战，而训练数据集投毒、算法投毒、黑盒攻击则是主要的智能攻击手段，需要网络安全从业者重点关注如何应对这些新型攻击。其中，训练数据集投毒通过向数据集中引入不正确的标签，将AI系统的学习引到错误的方向上，以使模型将学到的特征模式与错误的标签相关联，从而实现为攻击者的目的。数据集通常包含数百万个样本，攻击者也可能入侵数据存储系统并向其引入中毒样本来破坏本来有效的数据集。即使训练集中仅含有3%的数据污染，数据投毒依然可以让模型精确度下降11%。而算法投毒攻击针对联邦学习算法的威胁尤其巨大，攻击者可以掌握那些受自己控制节点的设备运作，因此他们可以操纵节点上的运行数据和算法来毒化模型。近年来，一种神秘的攻击手段--黑盒攻击也越发引起从业者的广泛关注。黑盒攻击可以对安全模型进行大量查询，根据查询本身以及模型输出结果不断执行迭代以此来重构模型本身的行为，从而构建对抗样本。由于它能够训练并构建“代理网络”，待训练结束之后代理网络能够逼近目标模型的输出数据集，因此网络防御模型面临巨大的不确定性。
“攻击手段在不断演变，新时代互联网安全的思维模式也应该开始从传统的“事件响应式”向持续“智能响应式”转变，从“已知威胁检测”向“未知威胁检测”发展，利用人工智能技术和机器学习算法，构建全面预测、基础防护、响应能力和恢复能力。”张国威指出了未来网络安全从业者需要做出的改变，不断使用人工智能提升网络安全能力。人工智能可凭借其强大的大规模运算能力，通过迅速排查、筛选数百万次事件，以发现异常、风险和未知威胁的信号。张国威表示，人工智能技术在防御领域的天然优势，使其在“发现和阻止黑客入侵工控设备、预防恶意软件和文件被执行、提高安全运营中心的运营效率、量化风险、网络流量异常检测、检测恶意应用”这六大关键创新领域，得到了有效应用。在信息安全检测领域，张国威研发的技术成果“基于人工智能的网络架构安全检测系统V1.0”为行业如何引入人工智能技术提供宝贵的技术参考。该系统引入人工智能深度学习算法，在处理海量数据、多源异构数据、实时动态数据时具有显著的优势。它能从海量数据中学习数据变化规律，根据特征再对数据进行分类、聚类等处理，能大幅度提升效率和准确度。在异常响应上，该系统结合人工智能技术赋予的预测能力，建立预测模型，提供动态防御能力，大幅提升网络安全事件的快速响应能力。张国威表示。在广州君行网络科技有限公司引入该系统后，网络检测效率得到了大幅提升，成功应对多次算法攻击以及黑盒攻击，为企业的网路安全以及数据安全提供了有力的保障。同时也可以预见，在未来该系统也会应用到更多的企业信息网络的建设。
“人工智能对信息安全来说无疑是一把双刃剑，它带来巨大技术革新的同时，亦带来了前所未有的全新挑战。由于防御体系的系统性、性能远不如企业，个人数据安全更是面临巨大的隐患。因此，针对数据的采集以及数据隐私问题更应该被严格对待，将网络安全和数据保护放在首位。”张国威表示，他未来同样把目光投放到人工智能在个人数据安全的应用方向，为消费者提供安全可靠的数据存储备份方案。 （文/国样）
