未來(lái)幾年，人工智能將成為網(wǎng)絡(luò)威脅和公司應(yīng)對(duì)這些威脅的主要因素。以下是應(yīng)對(duì)這些新威脅以及決定如何將人工智能融入網(wǎng)絡(luò)安全運(yùn)營(yíng)時(shí)需要牢記的一些主要趨勢(shì)。

人工智能極大地加快了網(wǎng)絡(luò)威脅形勢(shì)的變化速度。它大大降低了全球網(wǎng)絡(luò)犯罪分子的進(jìn)入門檻，從廣泛使用的強(qiáng)大社交工程工具（如大型語(yǔ)言模型(LLM)和深度偽造）到人工智能驅(qū)動(dòng)的監(jiān)控和數(shù)據(jù)分析。與此同時(shí)，企業(yè)越來(lái)越多地使用人工智能通過(guò)漏洞評(píng)估、補(bǔ)救和自動(dòng)化安全任務(wù)來(lái)加強(qiáng)其網(wǎng)絡(luò)防御。

趨勢(shì)一：人工智能將推動(dòng)新一波社會(huì)工程攻擊

LLM和深度偽造的出現(xiàn)將使社會(huì)工程變得更加有效。根據(jù)《2024年數(shù)據(jù)泄露調(diào)查報(bào)告》，68%的泄露事件涉及人為因素。這就是為什么網(wǎng)絡(luò)犯罪分子利用其武器庫(kù)中的新AI武器來(lái)欺騙和操縱員工以滲透網(wǎng)絡(luò)、竊取敏感信息并竊取資金。

例如，網(wǎng)絡(luò)犯罪分子正在使用LLM大量制作高度個(gè)性化且令人信服的網(wǎng)絡(luò)釣魚(yú)信息，受害者更有可能點(diǎn)擊這些信息。谷歌報(bào)告稱，公司應(yīng)該預(yù)料到LLM會(huì)被“用于網(wǎng)絡(luò)釣魚(yú)、短信和其他社會(huì)工程操作”。與此同時(shí)，微軟已經(jīng)觀察到全球主要網(wǎng)絡(luò)犯罪組織廣泛使用LLM。

網(wǎng)絡(luò)犯罪分子還利用深度偽造發(fā)起復(fù)雜的多層次網(wǎng)絡(luò)攻擊。例如，受害者收到網(wǎng)絡(luò)釣魚(yú)信息后，可能會(huì)打電話確認(rèn)，最終與深度偽造的對(duì)話者交談。

趨勢(shì)二：人工智能將迫使企業(yè)重新評(píng)估現(xiàn)有的網(wǎng)絡(luò)安全流程

雖然人工智能為企業(yè)提供了比以往更廣泛的網(wǎng)絡(luò)安全工具，但該技術(shù)的快速發(fā)展也引發(fā)了一場(chǎng)人工智能軍備競(jìng)賽——隨著防御能力的提高，入侵方法也在不斷改進(jìn)。這意味著首席信息安全官和其他安全領(lǐng)導(dǎo)者將不得不重新評(píng)估幾種主要的網(wǎng)絡(luò)安全機(jī)制。

例如，深度偽造將使生物特征身份驗(yàn)證變得不那么有效，最新研究發(fā)現(xiàn)，到2026年，30%的企業(yè)將不再認(rèn)為這些“身份驗(yàn)證解決方案單獨(dú)來(lái)看是可靠的”。各家企業(yè)正在建立支持人工智能的“身份威脅檢測(cè)和響應(yīng)”工具，例如根據(jù)內(nèi)容、發(fā)件人憑證和電子郵件標(biāo)頭信息分析消息的網(wǎng)絡(luò)釣魚(yú)防御。但網(wǎng)絡(luò)犯罪分子也在借助LLM和其他人工智能工具開(kāi)發(fā)變通方法，而網(wǎng)絡(luò)釣魚(yú)仍然是最常見(jiàn)且成本第二高的初始攻擊媒介。

預(yù)計(jì)到2025年，人工智能將要求企業(yè)在應(yīng)用和數(shù)據(jù)安全方面的支出至少增加15%。這與其他研究一致，例如普華永道最近的一份報(bào)告發(fā)現(xiàn)，79%的高管將在2024年增加網(wǎng)絡(luò)支出，高于2023年的64%。首席信息安全官和其他安全領(lǐng)導(dǎo)者必須確定如何盡可能有效地進(jìn)行這些投資。

趨勢(shì)三：人工智能將對(duì)供應(yīng)鏈網(wǎng)絡(luò)安全產(chǎn)生重大影響

供應(yīng)鏈泄露是最具破壞性的網(wǎng)絡(luò)攻擊之一。SolarWinds黑客攻擊是有史以來(lái)最大的入侵事件之一，該企業(yè)發(fā)現(xiàn)“最有可能的攻擊媒介是通過(guò)第三方應(yīng)用獲取憑證和/或訪問(wèn)?！备鶕?jù)Verizon的最新數(shù)據(jù)，2023年至2024年間，涉及泄露的“供應(yīng)鏈互連”數(shù)量增加了68%。

預(yù)計(jì)到2025年，全球45%的組織將遭受針對(duì)其軟件供應(yīng)鏈的網(wǎng)絡(luò)攻擊，這一數(shù)字比2021年增加了三倍。供應(yīng)鏈網(wǎng)絡(luò)攻擊的新時(shí)代已經(jīng)到來(lái)。IBM報(bào)告稱，2023年27%的總違規(guī)行為可歸因于對(duì)軟件或業(yè)務(wù)合作伙伴供應(yīng)鏈的攻擊。

企業(yè)可以使用人工智能來(lái)運(yùn)行模擬，以反映潛在的供應(yīng)鏈攻擊，檢測(cè)欺詐和惡意網(wǎng)絡(luò)活動(dòng)，并幫助企業(yè)在發(fā)生違規(guī)時(shí)縮短響應(yīng)時(shí)間。但人工智能也允許網(wǎng)絡(luò)犯罪分子探測(cè)供應(yīng)鏈中潛在的薄弱環(huán)節(jié)，并發(fā)起社會(huì)工程攻擊，讓他們立足于關(guān)鍵接入點(diǎn)。這些提醒我們，在整個(gè)供應(yīng)鏈中實(shí)施正確的安全協(xié)議至關(guān)重要，從人工智能識(shí)別和響應(yīng)系統(tǒng)到高質(zhì)量的網(wǎng)絡(luò)安全意識(shí)培訓(xùn)。

趨勢(shì)四：人工智能時(shí)代，全面的網(wǎng)絡(luò)安全至關(guān)重要

人工智能軍備競(jìng)賽愈演愈烈，企業(yè)不能再等待最新的網(wǎng)絡(luò)安全技術(shù)發(fā)布。在社交工程仍然是大多數(shù)網(wǎng)絡(luò)攻擊的首選策略的時(shí)代，安全領(lǐng)導(dǎo)者必須確保在企業(yè)的各個(gè)層面培養(yǎng)網(wǎng)絡(luò)安全文化，并為員工提供保護(hù)組織所需的資源。

IBM表示，員工培訓(xùn)是數(shù)據(jù)泄露總體成本中最重要的緩解因素之一，其作用超過(guò)了保險(xiǎn)、加密、人工智能驅(qū)動(dòng)的洞察力和其他資源。人工智能和網(wǎng)絡(luò)安全培訓(xùn)應(yīng)該相輔相成。預(yù)計(jì)到2028年，威脅檢測(cè)和事件響應(yīng)中的多智能體人工智能占人工智能實(shí)施的比例將從5%上升到70%，主要用于增強(qiáng)員工能力，而不是取代員工。

網(wǎng)絡(luò)安全意識(shí)培訓(xùn)必須不斷發(fā)展以滿足人工智能時(shí)代的需求。這不僅僅意味著培訓(xùn)員工識(shí)別復(fù)雜的LLM生成的網(wǎng)絡(luò)釣魚(yú)消息和深度偽造。它還意味著利用人工智能生成預(yù)測(cè)行為檔案，通過(guò)定制干預(yù)措施解決員工的特定弱點(diǎn)，并在員工不再信任自己的眼睛和耳朵的時(shí)代賦予員工阻止網(wǎng)絡(luò)攻擊的能力。企業(yè)必須優(yōu)先投資于人工智能增強(qiáng)員工隊(duì)伍，而不僅僅是任務(wù)自動(dòng)化。為GenAI帶來(lái)的短期支出增加和長(zhǎng)期技能需求變化做好準(zhǔn)備。

近90%的組織仍在研究或試用生成式人工智能，因此很難預(yù)測(cè)哪些技術(shù)和應(yīng)用會(huì)隨著炒作周期而消退，哪些技術(shù)和應(yīng)用會(huì)繼續(xù)存在。但企業(yè)可以通過(guò)制定全面的網(wǎng)絡(luò)安全戰(zhàn)略來(lái)應(yīng)對(duì)未來(lái)的任何情況，該戰(zhàn)略既能利用人工智能的力量，又能讓員工做好準(zhǔn)備，抵御這項(xiàng)革命性技術(shù)帶來(lái)的快速演變的威脅。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。