FIND研究員:李啟榮
軟體安全足以動搖國本,連美國軍方都開始重視「軟體成分清單(Software Bill of Materials,SBOM)」的重要性,希望從源頭把關每個軟體組成和元件的安全性,減少漏洞和風險暴露而被駭客利用。另外,隨著美國與中國在「生成式人工智慧(Generative AI)」的軍備競賽愈演愈烈,美國陸軍希望在軍用AI的開發上,導入SBOM的概念,揭露軟體成分,以利與美軍後勤體系進一步整合。
【技術發展背景】
美國陸軍採購後勤技術部(Army for Acquisition, Logistics, and Technology)首席副部長楊邦(Young Bang)有感於美軍逐步導入人工智慧,作為武器控制、部隊通訊、指揮決策的關鍵角色,以SBOM為靈感,提出了配合美國陸軍採購需求的「AI BOM(AI成份清單)」的倡議,稱作「Project Linchpin」。
圖 1 美國陸軍採購後勤技術部 首席副部長 楊邦
資料來源: (Edwards, 2023)
楊邦接著表示,AI成份清單需要將AI引擎的演算法、參數設定、資料集(Dataset)等成分揭露出來,來預防木馬程式潛伏、資料集下毒(Data poisoning)等風險,讓AI所使用的提示詞(Prompt)避免產生意料之外的結果。
【技術介紹與應用現況】
AI BOM就跟SBOM一樣,內容清單要交代AI模型的摘要資訊、模型架構、預期用途和注意事項 (Mor-Ofek, 2024)。包括:
模型摘要資訊:模型名稱、模型類別、模型版本號、外連函式庫、模型開發者名稱、模型簽署證明(Attestation)
模型架構:前代繼承模型(Parent model)、基準模型(Base model)、模型架構和模型家族、軟體和硬體、下載函式庫、資料集、輸入輸出端
模型用途:預期用途說明、禁止使用之用途說明、例外(非預期且非禁止)用途說明
注意事項:AI模型倫理道德使用限制、AI模型使用對環境之影響(例:碳排、能耗)
AI BOM的理念雖然立意良好,但在要付諸實行之前卻遇上國防承包商的反彈,怕有機密疑慮。因此,「AI BOM」此一概念得做出調整、改弦更張,預計將改為「概要卡(Summary card)」的方式,僅列舉非產業敏感項目,來評斷AI業者自行提出的公開資料,是否值得被美軍採用 (Demarest, 2024)。
【未來展望/挑戰】
AI BOM的概念,起初是美軍針對中國藉由AI軟硬體紅色供應鏈,將生成式AI武器化作出的回應,藉由讓生成式AI用途透明化,讓AI更容易被信任和掌握;但在要付諸實行的過程中,卻因為生成式AI的部分技術細節仍有機敏考量,而不如SBOM那樣地順利推廣並被採納。
在生成式AI的導入過程中,往往會遇到AI演算法透明化、個資隱私、技術機密等多方面折衷與妥協,若不同的生成式AI相關應用,要串接成完整的AI BOM,勢必取得相關各方的通力合作,以及來自業主和使用者的信任,才有機會實現生成式AI的安全、透明及高效率。
封面圖片來源:123RF
參考資料來源:
1.Demarest, C. (2023, June 1). US Army may ask defense industry to disclose AI algorithms. Retrieved from Defense News: https://www.defensenews.com/artificial-intelligence/2023/05/31/us-army-may-ask-defense-industry-to-disclose-ai-algorithms/
2.Demarest, C. (2024, Apr 23). Army may swap AI bill of materials for simpler ‘baseball cards’. Retrieved from C4ISRnet: https://www.c4isrnet.com/artificial-intelligence/2024/04/23/army-may-swap-ai-bill-of-materials-for-simpler-baseball-cards/
3.Edwards, J. (2023, June 1). Young Bang: Army Eyes ‘Bill of Materials’ for AI Algorithms. Retrieved from ExecutiveGov: https://executivegov.com/2023/06/young-bang-army-eyes-bill-of-materials-for-ai-algorithms/
4.Mor-Ofek, D. (2024, March 15). It’s Time to Talk About AI/ML BOM (Artificial Intelligence Bill of Materials) And Vulnerability Management. Retrieved from C2A Security: https://c2a-sec.com/its-time-to-talk-about-ai-ml-bom-artificial-intelligence-bill-of-materials-and-vulnerability-management/
5.Pomerleau, M. (2023, May 25). Army looking at the possibility of ‘AI BOMs’. Retrieved from DefenseScoop: https://defensescoop.com/2023/05/25/army-looking-at-the-possibility-of-ai-boms-bill-of-materials/
6.Underwood, K. (2023, May 25). S. Army Is Considering AI Bill of Materials. Retrieved from AFCEA International: https://www.afcea.org/signal-media/cyber-edge/us-army-considering-ai-bill-materials