Gentrice
技術架構

代理式 AI 與安全優先架構

從訊號擷取、知識圖譜推論到代理自主執行的三層式架構。專為地端部署與隔離網路環境設計,已落地於政府、法務與企業關鍵任務場景。

代理式 AI

不只回答問題,而是自主完成任務

代理式 AI(Agentic AI)能夠自主進行推論、規劃,並執行複雜的多步驟任務。以下四個技術核心——執行循環、多層次 DLP、Agent 防護架構、知識圖譜——構成我們在政府、法務與企業場域安全落地的基礎。

推論、規劃與執行循環

代理式 AI 與傳統問答式 AI 的根本差異在於「自主執行多步驟任務」的能力。代理在接收目標後,先進行推論(分析當前狀態與限制),再產生執行計畫(將任務拆解為子步驟),最後呼叫工具或其他代理完成各步驟,並根據回饋動態調整計畫。

實作參考
  • 目標驅動:代理自主決定「如何達成」而非等待逐步指令
  • 多代理協作:規劃代理、執行代理、驗證代理各司其職
  • 工具調用:呼叫外部 API、資料庫、搜尋引擎、文件生成工具
  • 回饋循環:根據執行結果持續優化推論與行動策略

多層次 DLP 實作

資料防洩(Data Loss Prevention, DLP)在 AI 代理環境中尤為關鍵——代理的工具調用與自動輸出能力,使敏感資料外洩的風險遠高於傳統系統。我們採用五層遞進式防護,在延遲影響最小的前提下,實現高精準的敏感資料偵測。

實作參考
  • Tier 0–1:不可變規則與黑名單即時查詢(< 1ms)
  • Tier 2:Regex 模式比對——台灣身分證號、電話、帳號、prompt injection 特徵(< 5ms)
  • Tier 2.5:Embedding 相似度比對,偵測改寫或混淆的攻擊
  • Tier 3–4:行為異常偵測 + LLM-as-Judge 語意分析(高風險請求)

完整的技術架構、規則分類、法規對應與部署說明

閱讀 DLP 白皮書

AI Agent 防護架構

AI 代理面臨的威脅遠比傳統應用複雜。參照 OWASP Agentic AI Top 10 與 Agent Threat Rules 框架,我們識別並防禦十類主要攻擊向量——涵蓋從輸入端的 prompt injection、到代理運行中的工具污染與權限升級,直至輸出端的上下文洩漏。

實作參考
  • Prompt Injection:編碼攻擊(base-N、Unicode 混淆)、指令覆蓋偵測
  • Context Exfiltration:API Key 洩漏、系統提示詞竊取、憑證擷取防護
  • Tool Poisoning & Excessive Autonomy:惡意工具回應偵測、代理無限循環熔斷
  • RAG 資料污染:知識庫寫入驗證與語意一致性檢查

完整的 10 大威脅分類、五層偵測規則、CVE 對應與合規框架

閱讀 Agent 威脅白皮書

知識圖譜與 LLM 幻覺抑制

LLM 幻覺(hallucination)的根本原因是模型在缺乏事實錨點的情況下進行生成。知識圖譜提供結構化的實體關係網絡,作為 RAG 的事實基礎,讓 LLM 的每一個陳述都能對應到可驗證的圖譜節點——而非依賴訓練資料中的統計模式。

實作參考
  • 圖譜節點作為事實錨點,防止 LLM 自由發揮
  • pgvector 語意搜尋從圖譜中精準檢索相關子圖
  • 跨系統實體解析確保同一實體在不同資料源中的一致性
  • 圖譜更新觸發 RAG 快取失效,確保知識時效性
部署架構

地端部署與隔離網路

完全地端運行

所有元件——應用伺服器、資料庫、AI 推論引擎、知識圖譜、監控工具——全部部署於客戶的物理環境中。無需任何外部網路連線。

隔離網路支援

專為完全隔離網路環境設計。AI 模型本地推論,系統更新透過安全離線媒介傳遞,無任何雲端依賴。已驗證於政府與法務等高度機敏場域。

混合架構選項

部分客戶需要雲地混合的彈性——核心資料與 AI 推論維持地端,特定管理或協作功能可連接安全雲端服務。透過 LLM Router 統一路由,讓地端與雲端模型的切換完全透明,不影響上層應用。

地端 AI 資源管理系統
地端 GPU 與 AI 資源管理系統截圖
零雲端依賴
完全資料控制
離線更新
安全設計

安全優先的架構設計

安全不是事後附加的功能,而是從架構設計第一天就嵌入每個層面——從 DLP 引擎、LDAP 身份驗證到不可竄改的稽核日誌,均有實際落地案例驗證。

零信任架構

LDAP/AD 身份驗證結合短效 JWT Token,每筆請求獨立驗證身份與權限。無預設信任,無論來自內網或外網。

資料主權與本地推論

AI 推論透過 vLLM 完全在客戶環境執行,資料不離開組織邊界。支援完全隔離網路(Air-Gapped)部署,模型更新透過安全離線媒介傳遞。

內建 DLP 引擎

資料防洩引擎在請求進入 LLM 前即時掃描,偵測身分證號、電話號碼、帳號等敏感資料模式,以及 prompt injection 攻擊,並自動阻斷高風險請求。

不可竄改稽核日誌

所有 AI 請求、資料存取與系統操作均寫入完整稽核軌跡,附帶唯一追蹤 ID,滿足政府與醫療法規合規要求。

智能架構

三層式智能架構

擷取 → 理解 → 行動:每一層都獨立運作,同時與其他層緊密整合,驅動代理系統的完整推論與執行循環。

擷取 Capture

通訊 / 訊號 / 設備

第一層擷取所有原始訊號——VoIP 語音通話、SNMP 設備自動探索、網路流量雙向側錄、感測器事件。透過自主開發的通訊協定平台,資料在進入系統的第一時間完成加密與結構化,為後續代理推論奠定基礎。

關鍵能力
  • VoIP 語音即時擷取與錄製
  • SNMP 多廠商設備自動探索與指紋辨識
  • 網路流量雙向側錄(Elasticsearch 時序儲存)
  • 邊緣預處理與端到端加密

理解 Understand

知識圖譜 / AI 推論 / 異常偵測

第二層將原始資料轉化為可操作的知識。本體論驅動的知識圖譜建立實體關聯;本地 LLM 執行語意理解;Isolation Forest 模型對時序資料進行即時網路異常偵測,精準識別可疑行為模式。

關鍵能力
  • 圖資料庫知識圖譜 + 向量語意搜尋(RAG)
  • 本地 vLLM 推論,資料不離場
  • Isolation Forest 網路流量異常偵測
  • 跨系統實體解析與關聯建立

行動 Act

代理執行 / 自動化 / 決策

第三層將理解轉化為自主行動。代理工作流程根據分析結果自動生成法律文件草稿、觸發告警升級、執行能源調度決策,或透過 BullMQ 背景隊列協調跨系統任務,在無人介入的情況下完成複雜的多步驟操作。

關鍵能力
  • AI 代理自動文件生成(法律文書、報告、摘要)
  • 智能告警分級與自動升級
  • 能源調度與峰值削減自動決策
  • BullMQ 跨系統任務協調引擎
整合方法論

系統整合方法論

01

場域評估

深入了解現有基礎設施、安全需求、合規要求與業務流程,確定代理系統整合範圍與優先順序。

02

架構設計

根據評估結果設計代理系統架構,包含 LLM 路由策略、知識圖譜建模、DLP 規則、網路拓撲與故障復原機制。

03

漸進式部署

以模組化方式逐步部署,每個階段都經過完整測試與驗證,確保對現有營運零影響,支援藍綠切換。

04

持續維運

部署完成後提供長期維運支持,包含 24/7 監控、代理模型更新、效能最佳化與合規報告。

長期維運

DevOps 與長期維運

部署只是開始。我們提供完整的長期維運框架,確保代理系統在整個生命週期中持續進化、模型更新與最佳化。

基礎設施即代碼

所有基礎設施配置都以代碼管理,實現版本控制、自動化部署與可重複的環境建置。

持續監控與回應

24/7 智能監控系統,結合自動告警分級與事件回應流程,將平均修復時間降至最低。

漸進式升級

透過藍綠部署與金絲雀發布策略,實現零停機更新。每次升級都經過完整的回歸測試與驗證。

想深入了解我們的技術架構?

我們的工程團隊可以針對您的環境進行技術深度對談,包含代理系統設計、DLP 配置與地端部署規劃。

預約技術諮詢