近年來，網絡安全格局發生了重大變化，尤其是隨著防御者和攻擊者都采用了人工智能 (AI) 和自動化技術。ReliaQuest 年度網絡威脅報告：2024 強調了一個令人擔憂的趨勢：威脅行為者越來越多地利用人工智能和自動化來提高攻擊的效率和有效性。這包括開發惡意版本的人工智能模型，如 ChatGPT，它們被用于生成惡意軟件、進行拒絕服務 (DoS) 攻擊，甚至為網絡釣魚頁面編寫 HTML 代碼。

　　這些發展的影響是深遠的。通過利用人工智能，威脅行為者可以自動化其攻擊鏈的各個階段，例如利用 Citrix Bleed (CVE-2023-4966) 等漏洞，從而提高攻擊的速度和規模。例如，已經開發了名為 WormGPT 和 FraudGPT 的人工智能驅動模型，能夠自動執行以前需要大量人力和技術知識的任務。

　　勒索和復雜攻擊不斷增加

　　報告還揭示了勒索活動的急劇增加，勒索數據泄露網站上列出的實體數量創下了歷史新高。使用“雙重勒索”策略的情況持續增加，攻擊者不僅加密組織的數據，還威脅如果不支付贖金，就公開發布數據。值得注意的是，LockBit 勒索軟件組織創下了新紀錄，一年內列出了一千多個實體的名字。

　　此外，網絡犯罪分子中人工智能工具的激增增強了他們進行復雜社會工程攻擊的能力。網絡釣魚仍然是獲得網絡初始訪問權限的主要方法，人工智能的進步使得創建更具說服力的網絡釣魚誘餌和場景成為可能。

　　ReliaQuest 報告解釋說：“GenAI 還可能自動化 BEC 中使用的魚叉式網絡釣魚策略。機器學習算法可以分析網上大量可用的個人信息，以創建受害者的個性化檔案。通過‘學習’目標的偏好、關系和活動，人工智能系統可以制作極具欺騙性的電子郵件。”

　　主動防御策略

　　為了應對這些不斷演變的威脅，我們敦促各組織將人工智能和機器學習整合到其網絡安全策略中，以實現更主動的防御。通過利用人工智能，組織可以增強其檢測能力，自動響應安全事件，并進行更全面的行為分析，以盡早發現可疑活動。

　　為了有效應對報告中討論的威脅，ReliaQuest 建議安全防御者采用多層防御策略。這包括加強電子郵件安全性、實施強大的可移動媒體策略以及通過嚴格的測試和修補來保護面向公眾的資產。此外，采用能夠識別和緩解人工智能攻擊的先進檢測和響應技術至關重要。

　　人工智能在網絡安全中的雙重用途

　　人工智能在網絡安全中的雙重用途既帶來了機遇，也帶來了挑戰。

　　雖然人工智能可以顯著增強組織抵御攻擊的能力，但它也使攻擊者能夠執行更復雜和自動化的攻擊。網絡防御者和攻擊者之間正在進行的軍備競賽凸顯了網絡安全策略需要不斷創新，并采用先進技術以跟上不斷變化的威脅形勢。

　　通過了解人工智能驅動的網絡威脅并主動將人工智能融入網絡安全實踐，組織可以更好地準備應對這些新興挑戰。成功的關鍵在于不僅要利用人工智能進行防御，還要更深入地了解威脅行為者的策略、技術和程序，從而能夠更明智、更有效地應對網絡威脅。

　　作者： Tony Bradley