FIND研究員：李啟榮
AI代理人（AI Agent）是一種用AI模擬真人作業的功能型模組，與傳統AI機器人相比，除具有某種程度的自主判斷和決策力之外，也發展出對周遭環境和情報的認知、理解能力；而雲端本身是一個宏大的架構，各種模組和機能環環相扣，牽一髮而動全身；若能將AI代理人導入到雲端運算領域，就有望減輕雲端架構維運管理的負擔，並與AI全自動開發部署在雲端環境協同作業，為雲端生態系寫下新頁。
【技術發展背景】
雲端運算是一種技術和資金都很密集的IT營運模式，除了要將本地端遷移到雲端部署外，也要勞心費神地進行著系統上雲後的維運、監控、管理等作業，才能確保萬無一失、降低事故衝擊。另外，雲端的運作從早期投注大量人力實施開發維運，演變為現代以AI為主軸的開發維運型態，可以從源頭由AI自動寫程式、自動部署、自動測試，到上線部署後的AI監控、偵錯、效能調校、安全防護等環節，由AI代理人一條龍包辦，以應付瞬息萬變的雲端環境挑戰。
【技術介紹與應用現況】
依據由微軟、加州大學柏克萊分校、伊利諾大學等機構組成之研究團隊，在2024年於ACM發表的論文（Shetty, et al., 2024），該團隊設計一套稱為「AIOpsLab」的系統，以「統籌者模組（Orchestrator）」為各項指令和數據的中介橋樑，串接幕後運作的AI Agent、AIOps工作排程器、效能監測暨偵錯模組、微服務模組（如Helm、Kubernetes），以效能監控模組蒐集到的運作數據為基底，回傳到中樞統籌模組，並在AI Agent幕後運作下，經由中樞統籌模組微服務模組、AIOps工作排程模組，下達對應的指令並蒐集回傳數據，有望以微服務模組來實現自動化效能改善和問題排除作業。
圖 1：AIOpsLab架構簡圖
資料來源：Shetty, et al., 2024
另外，同一團隊也在ArXiv網站上傳研究文章（Chen, et al., 2025），依據前述成果進行更深入的剖析，推出「代理人雲端介面（Agent-Cloud-Interface）」，並以雲端效能和偵錯測試為主軸，從Agent端經由中樞統籌模組，發動微服務的效能和錯誤測試，並在中樞統籌模組進行分析後，將測試結果回傳給Agent端；AI Agent可依據測試數據，進行雲端系統體質調校的建議，以便從源頭解決維運監控方面的問題，保障系統穩定性。
圖 1：AIOpsLab架構簡圖
圖 2：AIOpsLab測試情境與流程
資料來源：Chen, et al., 2025
【未來展望／挑戰】
藉由讓AI代理人幕後掌握雲端平台的開發維運作業，除了能省下人力和維護成本外，也能實現24小時不間斷監控，並藉由AI代理人輔助下，省下繁複的開發和改版的時間和流程；而AI代理人的潛力不止於此，甚至有機會隨著物聯網、邊緣運算、6G的普及，降低AI代理人的入手門檻，進而成為與使用者形影不離的隨身良伴，提升日常工作效率和步調，小兵立大功。
參考資料來源：
Chen, Y., Shetty, M., Somashekar, G., Ma, M., Simmhan, Y., Mace, J., . . . Rajmohan, S. (2025, January 12). AIOpsLab: A Holistic Framework to Evaluate AI Agents for Enabling Autonomous Clouds. doi:10.48550/arXiv.2501.06706
Shetty, M., Chen, Y., Somashekar, G., Ma, M., Simmhan, Y., Zhang, X., . . . Rajmohan, S. (2024). Building AI Agents for Autonomous Clouds: Challenges and Design Principles. 2024 ACM Symposium on Cloud Computing (pp. 99-110). Redmond, WA: ACM. doi:10.1145/3698038.3698525
