檢索增強生成（Retrieval-augmented generation，RAG）正以前所未有的速度改變大型語言模型 （Large Language Model，LLM）的應用面貌。RAG透過整合外部知識庫讓LLM不再只是憑空想像而能即時汲取相關資訊，提升回應的準確性、可靠性和時效性。然而，這項技術同時也帶來了全新的安全挑戰，根據彭博最新研究報告揭露了一個驚人事實：RAG不僅沒有讓AI更安全，反而潛藏新的越獄風險。更令人擔憂的是，趨勢科技的調查發現，全球有超過3,000台RAG核心元件完全暴露在網路上，形同將系統曝露於高風險環境。

圖1：RAG運作原理圖

圖片來源：本文作者由AI 生成（Claude）

RAG運作原理

RAG結合了資料檢索與語言生成模型的能力，讓LLM能即時引用外部知識庫的資訊來回答問題。簡單來說，就是讓AI不只靠自己想，而是先去查詢再回答。

RAG的核心流程如下：

知識來源：彙整文字文件、資料庫或知識圖譜等多元資料構建成專屬知識庫。

索引與嵌入：將資訊轉為語意向量、捕捉語義，方便系統快速進行比對。

向量資料庫：儲存嵌入資料，支援高效的檢索系統。

檢索器：根據查詢問題，從向量資料庫找出最相關的資料內容。

生成器：整合查詢與檢索內容，生成精準回應。

整個過程就像給LLM裝上了一個超級搜尋引擎，讓AI能夠回答特定問題，大幅提升了實用性。

RAG的安全挑戰

RAG 帶來了許多便利，但它複雜架構也帶來了新的安全風險：

模型越獄風險

研究顯示，當 RAG 將大量知識引入模型中可能因上下文提示意外觸發LLM給出不當的回應。本意為提升安全性的知識庫，卻可能因大量文件而讓模型生成不安全回應，形同越獄。

資料洩露與隱私

RAG系統中常常會複製敏感資料到新的儲存空間，例如向量資料庫儲存的嵌入可能透過「反向攻擊」還原敏感資訊。不當處理還可能導致用戶間資料交叉洩露，甚至敏感資訊被未經授權地存取。

資料投毒與竄改

惡意資料可被注入知識庫，影響輸出結果；攻擊者也可能直接篡改向量資料庫，誤導模型導致模型產生錯誤或惡意的回應。

存取控制不足

權限管理不當，或是過度分享資料，都可能讓機密資料暴露給不該存取的人。許多儲存和快取系統的保護不足，也可能導致客戶資料互相洩露。

元件暴露

許多RAG相關伺服器（如 llama.cpp、Ollama、ChromaDB）和Weaviate伺服器，未受保護地暴露於網際網路，缺乏基本的認證機制，讓攻擊者可以輕易讀取、篡改甚至刪除儲存的文件，導致機密資料外洩、服務中斷。

緩解策略

為安全部署RAG，企業可採取以下措施：

輸入過濾：掃描上傳檔案，過濾提示注入，修訂個人身份資訊（Personally Identifiable Information，PII）。

嚴格存取控制：採用角色存取控制（Role-based Access Control，RBAC）和最低權限原則，限制知識庫訪問。

資料加密：加密靜態與傳輸中的資料，探索同態加密或差分隱私等進階技術。

持續監控：即時監測異常檢索模式，快速應對威脅。

零信任原則：僅允許預批准連線，強化雲端部署安全。

紅隊演練：模擬攻擊，識別提示注入或資料投毒等弱點。

事實核查：內建自我檢查，驗證輸出準確性，減少幻覺。

結論

RAG技術為AI帶來革命性進步已廣泛應用於智慧客服、企業知識搜尋與金融報告生成等領域；但其安全挑戰不容忽視。從模型越獄到元件暴露，企業需採取多層次策略，結合嚴格驗證、加密、監控與零信任原則，才能在釋放RAG潛力的同時，保護資料與系統安全。隨著AI技術演進，持續審計與客製化安全方案將是成功關鍵。未來，如何設計具備內建風險意識的RAG架構，將成為安全AI系統的關鍵指標。

參考資料來源：

1.邁向代理式 AI 之路：暴露在外的基石

https://www.trendmicro.com/zh_tw/research/24/k/agentic-ai.html

2.【臺灣資安大會直擊】LLM從訓練資料蒐集到投入應用階段都有風險，專家盤點4大類13種攻擊手法

https://www.ithome.com.tw/news/168752

3.AI本地部署的天坑？RAG曝出重大安全漏洞

https://www.secrss.com/articles/78300

4.Security Risks with RAG Architectures

https://ironcorelabs.com/security-risks-rag/

5.UNDERSTANDING AND MITIGATING RISKS OF GENERATIVE AI

IN FINANCIAL SERVICES

https://assets.bbhub.io/company/sites/51/2025/04/arXiv-Understanding-and-Mitigating-Risks-of-Generative-AI-in-Financial-Services-FINAL-4-25-25.pdf

隨著數位科技發展，觀光旅遊產業透過5G、人工智慧（AI）與物聯網（IoT）等技術，能提供個人化推薦、智慧導覽、虛實整合及數位支付等服務，不僅提升旅客體驗，也優化業者營運效率，推動產業升級。

數位轉型帶動旅遊型態變革

傳統旅遊模式仰賴人工導覽與紙本的旅遊指南獲得資訊，而智慧科技的發展讓旅客可透過行動裝置即時獲取資訊之外，還能在應用程式中預定票券，並整合行動支付功能，並在景點中透過數位科技享受沉浸式的旅遊體驗。

主要趨勢包括：

數位平台整合：旅遊MaaS（Mobility as a Service）結合多種交通工具、住宿、景點門票等服務，提供一站式旅遊體驗。

AI驅動的個人化體驗：透過大數據分析與AI推薦系統，旅遊APP可根據使用者行為提供客製化行程建議。

沉浸式體驗：擴增實境（AR）、虛擬實境（VR）技術應用於智慧導覽，讓旅客能夠在數位空間內探索歷史文化或體驗景點特色。

無接觸服務：疫情後，無接觸支付、智慧訂房、自助報到等功能受到重視，降低人員接觸風險，提高旅遊便利性。

永續智慧旅遊：透過大數據分析與智慧交通調度，減少觀光熱點的過度開發與擁擠，推動綠色旅遊發展。

MaaS 驅動智慧觀光新體驗

MaaS（Mobility as a Service）移動服務平台在智慧觀光旅遊生態系中扮演著關鍵角色。透過與交通運輸、觀光業者及餐飲業者的合作，MaaS 提供一站式的旅遊與交通整合服務。結合票券平台、訂房網站與行動支付，MaaS 能有效串聯個人化服務，讓消費者輕鬆規劃並預訂行程，提升旅遊便利性。此外，智慧行動票證平台的導入，使旅客能夠透過數位票證便捷搭乘交通工具並享受各項旅遊服務，進一步推動旅遊產業的數位化與智慧發展。

圖1 : MaaS於智慧觀光產業之應用模式

圖片來源 : 本文作者研究整理，2025年4月

目前，許多國家已積極將 MaaS 與智慧觀光相結合。日本政府自 2018 年起推動 MaaS 計畫，其中 MyRoute APP 是成功案例之一。該平台在九州地區提供多元交通整合服務，旅客可透過 APP 預訂火車、公車、計程車等交通方式，並享有專屬優惠。此外，MyRoute 也整合當地景點、餐廳與購物資訊，讓旅遊更加便利。芬蘭 Ylläs 地區則透過雪地運輸 MaaS 平台、AR 導覽及智慧票務等技術，成功提升旅客體驗與停留時間，展現智慧觀光的無限可能。

圖2 : my route 日本出遊的APP

圖片來源 : Google Play

智慧觀光的未來發展

未來，隨著 AI 技術的普及，智慧觀光產業將提供更個人化的旅行體驗。然而，目前仍面臨跨平台整合、數據隱私保護及永續發展等挑戰。如何串聯交通、住宿、景點等服務，打造無縫的旅遊體驗，是未來發展的關鍵。同時，業者需強化資安措施，確保用戶隱私不受侵犯，並透過數據分析優化旅遊熱點管理，以避免過度開發，實現永續旅遊。未來，政府與企業如何攜手運用數位科技推動產業轉型，將是智慧觀光發展的重要議題。

參考資料來源 :

1.https://www.sciencedirect.com/science/article/pii/S2210539523000755

2.https://udn.com/news/story/9652/8503304

3.https://play.google.com/store/apps/details?id=jp.co.toyota.myroute&hl=zh_TW