【科技日報】戴上“白帽子” 人工智能投身網(wǎng)絡(luò)安全攻防戰(zhàn)
發(fā)布日期：2019-04-15 供稿：科技日報 編輯：吳楠 審核：王征 閱讀次數(shù)：
原文標(biāo)題：戴上“白帽子” 人工智能投身網(wǎng)絡(luò)安全攻防戰(zhàn)
原文鏈接：http://digitalpaper.stdaily.com/http_www.kjrb.com/kjrb/html/2019-04/15/content_419163.htm?div=-1
面對計(jì)算機(jī)系統(tǒng)和網(wǎng)絡(luò)的缺陷和漏洞,，黑客們找準(zhǔn)機(jī)會實(shí)施攻擊,，白帽黑客則利用黑客技術(shù)來測試網(wǎng)絡(luò)和系統(tǒng)的性能以判定它們能夠承受入侵的強(qiáng)弱程度,。短短幾年時間，人工智能已進(jìn)駐多個行業(yè),，落地?zé)o數(shù)場景,。其中一些行業(yè)和場景已為大家所熟知,，還有一些正在進(jìn)入我們的視野，在網(wǎng)絡(luò)安全領(lǐng)域,，AI“白帽”正成為網(wǎng)絡(luò)安全工程師的得力助手,。
據(jù)報道，近日美國市場調(diào)研公司CB Insights發(fā)布報告預(yù)測了2019年人工智能行業(yè)的發(fā)展趨勢,，其中一個趨勢便是用人工智能發(fā)現(xiàn)網(wǎng)絡(luò)威脅,。
正在賦能網(wǎng)絡(luò)安全
“人工智能技術(shù)的蓬勃發(fā)展，為網(wǎng)絡(luò)安全攻防帶來的,，不僅有機(jī)遇,，也有挑戰(zhàn)?！北本├砉ご髮W(xué)網(wǎng)絡(luò)攻防對抗技術(shù)研究所所長閆懷志接受科技日報記者采訪時說,。
先說好的一面。360安全研究院鄒權(quán)臣博士告訴科技日報記者,，目前人工智能已經(jīng)應(yīng)用于惡意代碼檢測,、惡意流量檢測、威脅情報收集,、軟件漏洞挖掘等網(wǎng)絡(luò)安全領(lǐng)域,。
“例如在惡意代碼檢測方面，人工智能通過對惡意程序的API調(diào)用序列,、系統(tǒng)CPU利用率,、收發(fā)的數(shù)據(jù)包等信息，自動識別惡意代碼的特征,，進(jìn)而判定分類,。”鄒權(quán)臣介紹,，相比于傳統(tǒng)的基于動靜態(tài)分析的特征檢測,、啟發(fā)式檢測技術(shù)，人工智能可以大幅度提升檢測的準(zhǔn)確率,。
360安全研究院研究員張德岳介紹,，在軟件漏洞挖掘方面，采用人工智能技術(shù)從漏洞相關(guān)的數(shù)據(jù)中提取經(jīng)驗(yàn)和知識,，并用訓(xùn)練好的模型提高漏洞挖掘的精度和效率,，可以緩解當(dāng)前該領(lǐng)域研究遇到的一些瓶頸問題，具體應(yīng)用場景包括漏洞程序篩選、源代碼漏洞點(diǎn)預(yù)測等,。
“人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用日益廣泛,，運(yùn)用人工智能賦能網(wǎng)絡(luò)空間安全，主要體現(xiàn)在主動防御,、威脅分析,、策略生成、態(tài)勢感知,、攻防對抗等諸多方面,。”閆懷志說,，其中包括采用人工神經(jīng)網(wǎng)絡(luò)技術(shù),，來檢測入侵行為、蠕蟲病毒等安全風(fēng)險源,；采用專家系統(tǒng)技術(shù),，進(jìn)行安全規(guī)劃、安全運(yùn)行中心管理等,；此外人工智能方法還有助于網(wǎng)絡(luò)空間安全環(huán)境的治理,，比如打擊網(wǎng)絡(luò)詐騙。
具備明顯“過人之處”
與傳統(tǒng)的應(yīng)對網(wǎng)絡(luò)安全的方式相比,，人工智能確實(shí)展示了其“過人之處”,。
在閆懷志看來，人工智能方法在解決人力所不及的安全大數(shù)據(jù)統(tǒng)計(jì)和抽取規(guī)律方面具備天然優(yōu)勢,，它能夠全面提高威脅攻擊的識別,、響應(yīng)和反制速度，提升風(fēng)險防范的預(yù)見性和準(zhǔn)確性,。特別是在異常行為檢測等應(yīng)用場景模糊的非精確識別和匹配方面,，更是如此。
“人工智能針對未知威脅和攻擊的檢測也更出色,。因?yàn)閭鹘y(tǒng)的特征匹配方法對未知威脅幾乎無能為力,，而人工智能方法有時不需要先驗(yàn)知識，對未知威脅的檢測能力較強(qiáng),?！遍Z懷志說。
不得不說,，人工智能系統(tǒng)還具備成本效益優(yōu)勢,。閆懷志認(rèn)為，人工智能可以在第一時間發(fā)現(xiàn)和識別預(yù)防威脅,，并立即啟動應(yīng)急響應(yīng),，高效的智能檢測流程有助于減少人工參與,、簡化流程、降低成本,、減小損失,。
“傳統(tǒng)的應(yīng)對網(wǎng)絡(luò)安全的方法依賴于人工硬編碼定義、提取特征的方式完成相關(guān)任務(wù),，而人工智能可以直接對原始數(shù)據(jù)進(jìn)行訓(xùn)練,，從大量的數(shù)據(jù)中提取特征，自動完成分類判定的工作,?！睆埖略勒f,，如此一來后者既可以提高網(wǎng)絡(luò)安全中預(yù)測,、防范、檢測,、銷控等各個風(fēng)險環(huán)節(jié)的自動化和智能化程度,，又能提升響應(yīng)速度和判定的準(zhǔn)確率。
不能靠它包打天下
“雖然人工智能攪動了網(wǎng)絡(luò)安全領(lǐng)域的一池春水,，但是應(yīng)該理性看待人工智能在應(yīng)對網(wǎng)絡(luò)安全方面的優(yōu)缺點(diǎn),，不能指望全靠人工智能來包打天下?！遍Z懷志說,，人工智能在應(yīng)對網(wǎng)絡(luò)安全問題時，也有較強(qiáng)的局限性,。
鄒權(quán)臣分析,，這一方面受限于人工智能算法本身的能力。因?yàn)閭鹘y(tǒng)的機(jī)器學(xué)習(xí)技術(shù)依賴特征提取,，而算法的效果和性能又依賴識別和提取特征的準(zhǔn)確性,。深度學(xué)習(xí)具有在高維數(shù)據(jù)中自動提取特征的能力，同時面臨著持續(xù)學(xué)習(xí),、數(shù)據(jù)饑餓,、可解釋性等問題。
“另一方面機(jī)器學(xué)習(xí),、特別是深度學(xué)習(xí)過分依賴數(shù)據(jù),，但在惡意代碼檢測、軟件漏洞挖掘等領(lǐng)域,，目前仍然存在數(shù)據(jù)收集困難的問題,，缺少較好的數(shù)據(jù)集用于訓(xùn)練，影響對相關(guān)領(lǐng)域的研究,?！编u權(quán)臣補(bǔ)充說,，另外人工智能嚴(yán)重依賴于耗費(fèi)計(jì)算資源，復(fù)雜的深度學(xué)習(xí)網(wǎng)絡(luò)需要同時計(jì)算成百上千萬次的計(jì)算,，需要強(qiáng)大的人工智能芯片計(jì)算力的支撐,。
閆懷志則從不同方面總結(jié)了人工智能的不足。比如,，易于忽視或者拋棄人類專家在網(wǎng)絡(luò)安全領(lǐng)域的知識和經(jīng)驗(yàn)積累,，對網(wǎng)絡(luò)安全的復(fù)雜應(yīng)用場景考慮不足，對于已知威脅的檢測效率遠(yuǎn)低于傳統(tǒng)的精確特征識別方法等,。
“使用神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)等算法,，能夠較好地識別出未知攻擊威脅風(fēng)險，達(dá)到‘知其然’的目的,，但是這些算法通常無法揭示產(chǎn)生這種安全風(fēng)險的基本機(jī)理,，也就是‘不知其所以然’，從而為從源頭防御這種攻擊風(fēng)險帶來極大障礙,?！遍Z懷志說。
脆弱面帶來安全風(fēng)險
人工智能在應(yīng)對網(wǎng)絡(luò)安全問題時,，有時甚至?xí)宫F(xiàn)出脆弱的一面,。
“一個真實(shí)環(huán)境中的人工智能系統(tǒng)，會面臨數(shù)據(jù)安全,、模型/算法安全,、實(shí)現(xiàn)安全等多方面的安全威脅?！睆埖略栏嬖V科技日報記者,。
張德岳舉例說，在數(shù)據(jù)安全方面,，在數(shù)據(jù)收集與標(biāo)注時出現(xiàn)錯誤或注入惡意數(shù)據(jù),，將導(dǎo)致數(shù)據(jù)污染攻擊；在模型/算法安全方面,，針對人工智能算法存在黑盒和白盒對抗樣本攻擊,，可導(dǎo)致識別系統(tǒng)出現(xiàn)混亂；在實(shí)現(xiàn)安全方面,，除了人工智能系統(tǒng)本身的代碼實(shí)現(xiàn),，其所基于的人工智能框架以及所依賴的第三方軟件庫中的軟件實(shí)現(xiàn)漏洞，也都可能導(dǎo)致嚴(yán)重安全問題,。
“人工智能對現(xiàn)有網(wǎng)絡(luò)安全格局的影響,，離不開算法、數(shù)據(jù)和計(jì)算能力3個方面,，其容易遭受攻擊的弱點(diǎn)也來自于此,?！遍Z懷志總結(jié)說。
對于防范人工智能的脆弱性所帶來的安全風(fēng)險,，閆懷志指出：首先要從體系架構(gòu),、系統(tǒng)算法容錯容侵設(shè)計(jì)、漏洞檢測和修復(fù),、安全配置等方面來增強(qiáng)人工智能系統(tǒng)自身的安全性,；其次，要用其所長,，盡量減小其暴露給外界的潛在攻擊面,；最后要構(gòu)建網(wǎng)絡(luò)空間安全綜合防御體系，從安全技術(shù)和安全管理等層面來協(xié)同防范安全攻擊,，間接減緩攻擊者直接針對人工智能系統(tǒng)發(fā)起攻擊以及攻擊成功的可能性,。
來自360安全研究院的專家也給出多個建議，其中包括：在數(shù)據(jù)獲取過程中,，要加強(qiáng)對數(shù)據(jù)來源的控制與過濾,，在一定程度上保證數(shù)據(jù)安全可靠；在數(shù)據(jù)傳輸過程中,，要使用更加安全的傳輸協(xié)議與加密算法；在人工智能系統(tǒng)的實(shí)現(xiàn)中,，要保證代碼質(zhì)量并進(jìn)行完善的測試,，此外還要及時更新或修補(bǔ)框架或依賴庫中存在的漏洞等。
分享到：
