Select Language

AI社区

数据要素产业

你不知道吧?人工智能也有它的“难言之隐”

12-22 09:06 TAG: 人工智能 数据安全

不可否认,得力于物联网各类应用的逐步落地,也令互联网变得更具开放性与包容性,然而,这些新兴技术为人们生活带来便捷的同时,针对联网设备的各种安全威胁也随之而来。如今,网络安全已迈入包含物联网、云计算、大数据等在内的‘大安全’时代,安全的边界也变得愈发模糊,面对不断恶化与复杂的安全形势,如何利用当下最热门的人工智能技术,提升安全产业自然也就成为安全领域的关注热点。然而,任何技术都有其局限性,人工智能自然也不例外。

你不知道吧?人工智能也有它的“难言之隐”

在Gartner发布2017年度新兴技术成熟度曲线报告中,无处不在的人工智能成为关注热点,而在安全领域人工智能也为行业发展带来了新契机,人工智能凭其自动化以及强大的数据分析能力,为实现更快更精准的漏洞发现和修复,带来了可能。也正因如此,有越来越多的企业和安全厂商开始利用其技术优势对抗网络安全威胁与网络异常检测,升级网络安全检测体系。

有一点必须肯定,就是人工智能对于网络安全是绝对有益的。自去年WannaCry肆虐全球后,人们终于见识到勒索软件的威力,不敢情敌。另一方面,随着恶意软件像病毒一样不断自我变异,安全研究人员发现不使用人工智能,几乎不可能发展出恰当的响应策略。但我们必须明白的是,人工智能并非“万能药”。事实上,与其他任何技术一样,也存在自身技术的局限性。

说来尴尬,AI可能不适合低功耗设备

实际上,绝大多数的物联网设备通常都是低功耗小数据量的,倘若恶意攻击者已将恶意软件植入到这一层次,可以说,人工智能基本上也就不顶用了。原因在于,人工智能需要大量内存、计算能力及大数据才可以发挥作用,数据必须发送到云端进行处理才能受到AI的响应,而物联网设备通常不具备这几个条件。这就像发生车祸时,车载AI会自动拨打报警电话并报告车辆所处位置,但车祸已经发生事实改变不了,而车辆自动报警可能比等路人报警要节省时间,但却无法预防撞车。换言之,人工智能只有助于设备完全失控之前检测出有哪里不对劲,或在最坏的情况下,让你不至于失去整个IoT基础设施。

AI无法分析自己不知道的东西

现实世界是缤纷多彩且不受控的,因此AI能在严格控制的网络上运行良好,但却无法‘网络’以外的未知。我们说,人工智能有四大痛点,即影子IT、BYOD项目、SaaS系统和雇员,不论我们给AI注入多少大数据,都得同时解决这4个痛点,而这却是几乎不可能完成的任务。

尤其是在一家企业当中,总有一些雇员会通过不安全的Wi-Fi网络,在个人笔记本电脑上打开企业办公邮件,其结果就是敏感的数据就此流失,面对此种情况,人工智能甚至都不知道发生了这件事,其最终结果就是,公司内部应用可以受到AI保护,防止用户误操作,而对于雇员使用的那些终端设备却无法感知。不仅如此,只提供智能手机App,却不提供企业访问控制、实时日志的云系统,又如何引入AI呢?这种情况,企业是没有办法成功利用机器学习的。

AI也可用于欺骗AI

你可曾想到,安全人员用AI优化威胁检测的同时,攻击者也在琢磨如何用AI规避检测。一方面,企业用AI获得更高的准确率检测攻击;另一方面,攻击者也再用AI开发更智能且会进化的恶意软件规避检测。可以说,恶意软件就是用AI来逃过AI的检测,且这些恶意软件一旦成功骗过一次公司的AI检测关卡,以后就可以很轻松的在公司网络内横向移动而不触发任何警报,公司的AI会将恶意软件的各种探测行为当做统计错误加以排除。当检测到恶意软件时,企业的安全防线早已被洞穿,伤害已经造成。

在思科发布的最新调查报告中我们看到,39%的首席信息安全官(CISO)称其公司依赖自动化推动网络安全工作,另有34%称其公司依赖机器学习,32%称其高度依赖人工智能。尽管这些CISO们都很看好AI,然而除了识别恶意行为,该技术在安全领域中的其他应用场景并不是很多。可见,人工智能并非安全圈内游戏规则颠覆者。

记得上海交通大学软件学院教授陈海波曾经说过:“人工智能最令我感到震撼的是,在一个封闭的环境可以做得如此之好,但同时也让他感到失望的是,在一个开放的环境却做得如此之差”。因此,与其将人工智能视为安全领域的救星,不如将精力放在更基本的控制、监视、策略等方面上,切莫过度炒作夸大其词。