下一波重大网络攻击很可能涉及人工智能系统，而且攻击活动可能将很快发生：在最近召开的一次网络安全会议上，100位受访行业专家中的62位认为，首轮AI强化型网络攻击很可能在接下来12个月内出现。
这并不是说机器人将很快成为网络攻击活动中的主体。相反，人工智能将继续遵循现有网络攻击的套路(例如身份窃取、拒绝服务攻击以及密码破解)，只是具备更为强大的能力与执行效率。但凭这一点，足以造成经济损失、情感伤害甚至人身威胁等危险后果。规模更大的攻击活动甚至有可能导致数十万人陷入无电可用的境地，关闭医院甚至影响到国家安全。
AI决策制定的研究者警告称，AI仍然很难解释人类行为，而人类也并不真正相信AI系统作出的重大决策。因此与电影桥段有所不同，AI能够为网络攻击以及网络防御带来的并非由计算机选定目标并自动施以攻击。人们仍然需要自行创建AI攻击系统，并设定特定目标再将其启动。但尽管如此，AI的介入仍然会进一步升级目前的网络犯罪与网络安全体系，进而成为攻击者与防御者之间军备竞赛的核心支柱之一。
AI的优势
除了不需要进食与休息之外，计算机相较于人类黑客团队还拥有另一大根本性优势，以自动化方式提升复杂攻击的速度与执行效率。
截至目前，自动化的实际效果仍然存在局限。几十年以来，病毒程序自动复制等能力已经属于非常基本的AI型功能，其能够在无需人类指令操纵的前提下完成在计算机之间的传播。
另外，程序员还会利用自有技能对不同黑客元素进行自动化升级。举例来说，分布式攻击利用多台计算机或设备上的远程程序将服务器吞没。
2016年10月导致部分互联网体系瘫痪的攻击活动就采用了这种实现方式。在某些情况下，普通攻击亦可通过脚本形式起效，从而允许技术水平较低的用户选定目标并发动攻击。
不过AI能够帮助人类网络犯罪分子定制攻击手段。举例来说，鱼叉式钓鱼攻击要求攻击者获取潜在目标的个人信息以及其它详细资料，具体包括银行帐户或者其选择的医疗保险公司。AI系统能够帮助攻击者快速收集、组织并处理大型数据库，从而对信息进行关联与识别，最终简化攻击实施门槛并加快攻击执行速度。另外，工作量的降低将使得网络犯罪分子能够发动大量小规模攻击。由于单次攻击的影响较为有限，因此这类活动即使被检测到也往往会受到忽视。
AI系统甚至可被用于从多个来源处同时提取信息，从而发现那些易受攻击活动影响的目标。举例来说，住院的病患或者身处疗养院的老人可能不会注意到自己的帐户余额已经被恶意人士所窃取。
提升适应能力
AI支持型攻击者在遇到阻力，或者网络安全专家修复了原有漏洞时将能够快速作出反应。在这种情况下，AI可能会在无需人为指示的前提下转而利用另一项漏洞，或者对系统进行扫描以找到新的可行入侵方式。
这可能意味着人类应急工作者及防御者将无法跟上AI方案的进攻速度。这极有可能引发新一轮编程与技术性军备竞赛，其中防御者开发出AI助手以发现并抵御攻击活动，甚至打造出拥有报复性攻击能力的AI方案。
AI同样可能带来的危险
自主操作可能导致AI系统攻击其本不应攻击，甚至可能造成意外损失的系统。
举例来说，原本只打算窃取资金的攻击者在运行AI软件后，其也许会决定将目标指向医院计算机，这极易导致人身伤害甚至是死亡等严重后果。无人机的自主运行能力也存在类似的问题：人类仍需要负责做出关于目标选取的决定。
尽管后果与影响如此重要，但大多数在遭遇第一次AI攻击时并不会注意到此类重大变化。对于大多数受影响群体，其面临的结果与人为触发的攻击将基本相同。但随着我们不断利用互联网机器人系统改进自身家庭环境、工厂、办公室乃至交通运输系统，人工智能引发的潜在威胁必将不断提升。
本文转自d1net（转载）