FIND研究員：魏心兪
AI潮流來襲，自2022年末生成式AI的興起，更是加速AI技術在各產業中的應用。在網路安全中，AI可以更快地檢測可能的威脅、利用自動化密集地任務防禦網路攻擊，對於保護者來說，AI提供了方便快速的保護方式。相反地，對於網路攻擊者而言，AI興起幫助他們擴大攻擊範圍、縮短攻擊空白時間，並執行更為複雜的網路攻擊。因此，在現今網路環境下，AI究竟是提升網路安全的盾牌，還是助長攻擊的矛，對於企業該如何去制定對應策略，已然成為重要課題。
【AI如何成為網路安全的盾？】
AI可以即時識別網路中的威脅，並做出適當反應，AI的反應速度跟範圍比人工反應更快更大，因此許多企業會採取用人工為主AI為輔的方式，讓負責網路訊安全的員工專注於在規劃更複雜且具有策略意義的活動上，而AI則是幫助員工自動處理日常分析與漏洞掃描等的日常任務。AI的資訊安全應用所提供的優勢：
偵測與回應進階威脅
AI可以透過機器學習分析大量的數據，包括網路流量、端點日誌、使用者行為模式等，從中辨識異常活動。有別於傳統的檢測方法，AI是透過關注網路上的可疑行為，而非已知的惡意軟體來偵測出網路釣魚的跡象或是未知的攻擊媒介。例如，由AI驅動的安全資訊與事件管理(Security Information and Event Management, SIEM)可以即時過濾並優先處理重要警訊，讓網路安全團隊能夠專注於真正的威脅。
預測攻擊並強化防禦
AI透過分析過去數據並結合趨勢，預測潛在的網路威脅，並在攻擊前就採取防禦措施，這對於防止更進階的威脅極為重要。例如，魚叉式網路釣魚攻擊會試圖冒充公司高層登入公司系統，進而對企業網路及系統早成損害，而AI透過分析歷史報告及攻擊者行為模式，幫助企業辨別真偽並實施零信任，避免憾事發生。
自動化與效率提升
即使政府與學校不斷培養網路安全領域的人才，但對企業而言，人才短缺問題一直是企業面臨的挑戰。然而，AI可以自動化處理耗時且繁瑣的日常性網路安全偵測任務，例如漏洞掃描、日誌分析和事件分類，而AI能夠24小時全年無休的運作，因此企業不用擔心休假日或下班後會被有心人士攻擊卻來不及預防，也減少因為人工會因為疲勞或分神所產生的人為錯誤，提高企業整體安全性。
抵禦高度複雜的攻擊
即便網路攻擊方式層出不窮，但AI搭配機器學習為企業提供快速適應的能力，透過不停地更新網路安全檢測模型，來應對不斷變化的攻擊手法。例如，面對像進階持續性威脅(Advanced Persistent Threat, APT)時，AI持續學習並更新防禦策略，以確保企業的網路安全防禦措施能夠與時俱進。
圖 1 ：Microsoft Security Copilot，微軟利用AI保護網路安全的方法
資料來源：https://learn.microsoft.com/zh-tw/copilot/security/microsoft-security-copilot
【AI如何成為網路攻擊的矛？】
AI可以為防禦者帶來便利，同時也可以攻擊者帶來創新。網路攻擊者利用AI提升現有的攻擊模式及自動化程度，協助駭客在短時間內進行快速、大量且範圍更大的網路攻擊。而AI與人類的不同是，AI缺乏道德觀念及判斷，因此利用AI在進行攻擊時，AI可能會錯誤地攻擊到駭客無意攻擊的地方，並造成更大的災害。AI被應用在網路攻擊所帶來的威脅：
生成式AI的網路釣魚攻擊
網路釣魚攻擊在網路安全領域中最常見的攻擊模式，在過去網路釣魚很容易被幾個關鍵字所識破。然而，自生成式AI推出之後，攻擊者利用生成式AI，例如ChatGPT，來製作對目標而言，極具有說服力的網路釣魚郵件。利用自然語言處理(Natural Language Processing, NLP)模仿企業高層或相關人士的寫作風格，使檢測更難偵測成功，導致受害者上當。
深偽技術與社交工程攻擊
深偽技術(Deepfake)是一種AI人體圖像合成技術的應用，攻擊者會利用深偽技術製作企業高層或主管的假影片或假錄音，配合社交工程攻擊，欺騙員工移轉公司資金或是共用機密資料，造成公司巨大的損失。然而，隨著深偽技術越來越擬真，使得企業在檢測這類型的威脅時，越來越難以辨別。
AI強化的惡意軟體
在過去，惡意軟體僅會使用固定的攻擊模式進行電腦攻擊，然而AI出現使攻擊者使用機器學習訓練惡意軟體，讓惡意軟體能夠動態地改變代碼或其他行為以避免被防毒軟體檢測到，使得防毒軟體的防禦效果大幅降低。同時，利用AI改良後的惡意軟體進行攻擊時，惡意軟體甚至可以在攻擊過程中調整攻擊模式，殺得防禦者猝不及防。
自動化大規模攻擊
AI自動化攻擊能幫助攻擊者自動執行漏洞掃描及進行不間斷攻擊，其運行速度比以往手動處理更加快速，同時規模也更加廣泛，讓網路攻擊能夠更有效率。例如：攻擊者使用AI工具快速掃描漏洞，搭配分散式阻斷服務攻擊(Distributed Denial-of-Service Attack, DDoS)，並自動執行攻擊，讓防禦者不僅未能及時修補漏洞，甚至疲於應對這些攻擊。
【AI時代的網路安全挑戰與對策】
AI的出現讓網路安全中的防禦方和攻擊方都獲得了新的技術手段，使得雙方的對抗變得更加複雜。防禦者可以透過AI分析大量數據來偵測異常行為，提高威脅的預測能力；另一方面，攻擊者則利用AI來執行自動化攻擊並創造出更難以識別的新興攻擊方式，甚至利用深度學習來規避檢測，讓傳統防禦手段逐漸面臨挑戰。
面對這樣的挑戰，企業應根據自身的規模與資源，制定適合的網路安全策略。例如，大企業可利用自身資源，建立AI驅動的安全運營中心，導入零信任架構，並強化網路安全團隊與AI的協作，以全面提升防禦能力。相比之下，中小企業若資源有限，則可善用現有的AI網路安全解決方案，例如購買市售具有AI防護的套裝軟體，或是導入網路安全相關的管理機制、培育網路安全人才等措施，以降低技術門檻並提升安全防護。無論企業規模大小，透過適當的AI應用，都能強化網路安全防禦，確保自身在AI驅動的數位時代中立於不敗之地。
參考資料來源：
１.https://www.itnews.com.au/feature/ai-in-cybersecurity-weapon-or-shield-614579
2.https://www.fortinet.com/resources/cyberglossary/artificial-intelligence-in-cybersecurity
3.https://www.webasha.com/blog/dark-web-ai-cybersecurity-risks-how-artificial-intelligence-is-shaping-the-future-of-cybercrime-and-defense#sec4
4.https://learn.microsoft.com/zh-tw/copilot/security/microsoft-security-copilot
5.https://www.cisco.com/site/us/en/products/security/hypershield/index.html#tabs-75e6b10f0b-item-2243522fa5-tab
