AI Agent

Components(組成) of an AI Agent

LLM,Memory,Planning,Tools Vector Search,Web Search,APIs,etc.

---

相關筆記

• Tool Use(工具使用)
• Planning(規劃)
• Reflection(反思)
• Multi-Agent(多代理協作)
• hermes-agent-研究報告：Agent 框架實例
• Harness-Engineering-研究筆記：Agent 的運行環境設計

Agentic RAG(代理型 RAG)

傳統RAG和AI Agent概念的創新架構

特徵：

• 自主決策：具備反思、規劃、工具調用等功能，提供管理檢索策略

• 迭代改進：引入回饋迴路，以提高檢索準確性和回應相關性

• 工作流程最佳化：動態協調任務，提高即時應用程式的效率

面臨挑戰：

• 協調複雜性

• 計算開銷

• 可擴展性限制

---

相關筆記

• 模組化 RAG (Modular RAG)：前一階段
• Single-Agent Agentic RAG! Router：單代理架構
• Agentic Corrective RAG
• Adaptive Agentic RAG
• Multi-Agent Agentic RAG Systems：多代理架構
• Hierarchical Agentic RAG Systems：階層式架構
• Backend Flow：實作：智慧客服的 Agentic RAG Tool 流程
• 2026-06-07-AI-research：論文：Agentic retrieval 新方向

Reflection(反思)

這是整個流程最基礎的設計，它會去反思(自我回饋)或是評估這個答案是否正確或是否為最佳化，它就會一直去迭代，若過程中有錯誤它就會去改進，最後輸出內容

---

相關筆記

• Evaluator-Optimizer(評估者-優化者)
• Agentic Corrective RAG：在 RAG 中的應用

Planning(規劃)

它是整個流程核心的設計，它會去把複雜的問題拆解成很多個小問題或簡單的問題，讓整個流程可以按照這些小問題來把複雜的問題給解決

---

相關筆記

• Orchestrator-Workers(協調者-執行者)
• SADE：網路領域實例：用排障 SOP 約束 agent 的規劃

Tool Use(工具使用)

有時候LLM可能沒有這個問題的答案或是沒有預訓練到這個部分，它就可以調用外部工具、API、或是其他工具來提供更準確的答案

---

相關筆記

• function_calling_llm：Tool Use 的底層機制
• llm-研究筆記：CLI 工具中的 tool calling
• Backend Flow：實作：智慧客服的 Tool Services

Multi-Agent(多代理協作)

就是現在每個Agent都一個專業領域的專家，現在這些人在一個團隊，如果有問題，會把問題給專門的專家回答，分工合作

---

相關筆記

• Multi-Agent Agentic RAG Systems：在 RAG 中的應用
• MAS-SLM-Telecom-Troubleshooting：網路領域實例：多代理排障
• Confucius：網路領域實例

Single-Agent Agentic RAG: Router

工作流程：

• Query Submission and Evaluation(查詢提交和評估)

• Knowledge Source Selection

  • Structured DB(結構化資料庫)

  • Semantic Search(語意搜尋)

  • Web Search

  • Recommendation Systems(推薦系統)

• Data Integration and LLM Synthesis(資料整合與大型語言模型合成)

• Output Generation

特點與優勢：

• Centralized Simplicity(集中是簡易型)

• Efficiency & Resource Optimization(效率和資源最佳化)

• Dynamic Routing(動態路由)

• Versatility Across Tools(工具通用性)

• Ideal for Simpler Systems(適用於簡單的系統)

---

相關筆記

• Routing(路由)：底層設計模式
• Agentic RAG(代理型 RAG)：總覽

Multi-Agent Agentic RAG Systems

工作流程：

• Query Submission

• Specialized Retrieval Agents(專用檢索代理)

  • 可能會有好幾個代理去做不同的事情，像是代理一可能會去查資料庫，而代理二去web查資料，而代理三則是調用API查詢等等

• Tool Access and Data Retrieval(工具存取和資料擷取)

  • Vector Search

  • Text-to-SQL

  • Web Search

  • APIs

• Data Integration and LLM Synthesis

• Output Generation

特點與優勢：

• Modularity

• Scalability(可擴充性)

• Task Specialization(任務專業化)

• Efficiency:指的是給專門的代理，可以減少知識量不足的問題，提高了複雜工作流程的效能

挑戰：

• Coordination Complexity(協調複雜性)

• Computational Overhead(計算開銷)

• Data Integration(資料整合):因為使用不同的LLM，所以要把輸出綜合起來不簡單

---

相關筆記

• Multi-Agent(多代理協作)：底層設計模式
• Hierarchical Agentic RAG Systems：加上階層的版本
• Agentic RAG(代理型 RAG)：總覽

Hierarchical Agentic RAG Systems

工作流程：

• Query Reception(查詢接收)

• Strategic Decision-Making(策略決策)

• Delegation to Subordinate Agents(分派給下級代理)

• Aggregation and Synthesis(聚合與綜合)

• Response Delivery(回應交付)

特點與優勢：

• Strategic Prioritization(策略優先排序)

• Scalability(可擴充性)

• Enhanced Decision-Making(增強決策能力)

挑戰：

• Coordination Complexity(協調複雜性)

• Resource Allocation(資源分配)

---

相關筆記

• Orchestrator-Workers(協調者-執行者)：底層設計模式
• Multi-Agent Agentic RAG Systems：扁平版本
• Agentic RAG(代理型 RAG)：總覽

Agentic Corrective RAG

Corrective RAG想法：引入了自我修正的檢索機制，能夠動態評估檢索的文檔，糾正以提高優化查詢與生產品質

調整 Corrective RAG方法：

• Document Relevance Evaluation(文件相關性評估)

• Query Refinement and Augmentation(查詢最佳化和增強)

• Dynamic Retrieval from External Sources(從外部來源動態檢索)

• Response Synthesis(回應合成)

工作流程：

• Context Retrieval Agent(上下文檢索代理)

• Relevance Evaluation Agent(相關性評估代理)

• Query Refinement Agent(查詢最佳化代理)

• External Knowledge Retrieval Agent(外部知識檢索代理)

• Response Synthesis Agent(響應合成代理)

特點和優勢：

• Iterative Correction(迭代糾錯):用動態辨識和修正步相關或模糊的檢索結果，提高準確性

• Dynamic Adaptability(動態適應性):結合即時網路搜尋與查詢最佳化

• Agentic Modularity(代理模組化)

• Factuality Assurance(事實性保證):最大降低幻覺或是錯誤資訊的風險

---

相關筆記

• Reflection(反思)：自我修正的設計模式
• Evaluator-Optimizer(評估者-優化者)：評估檢索結果再修正
• Agentic RAG(代理型 RAG)：總覽

Adaptive Agentic RAG

Adaptive RAG想法：會根據傳入的查詢複雜度來動態調整處理的策略，白話就是會先看一眼這個問題的難易度，看要丟給誰去做處理

調整Adaptive RAG方法：

• Straightforward Queries(直接查詢)

• Simple Queries

• Complex Queries(複雜查詢)

工作流程：

• Classifier Role(分類器角色)

  • 用比較小的LLM來看問題的難易度

  • 會自動標記資料集進行訓練，資料集可能來自過去LLM的結果或是查詢模式

• Dynamic Strategy Selection(動態策略選擇)

  • 非常簡單問題直接給LLM

  • 簡單問題，就用單步檢索過程取得上下文

  • 複雜問題，啟動多步驟檢索，確保迭代改進和增強推理

• LLM Integration(LLM整合)

  • 將檢索到的資訊做同整

  • 與分類器之間可分別複雜查詢進行細化

特點與優勢：

• Dynamic Adaptability(動態適應性)

• Resource Efficiency(資源效率)

• Enhanced Accuracy(提高準確性)

• Flexibility(靈活性)

---

相關筆記

• Routing(路由)：依查詢複雜度選擇策略
• Agentic RAG(代理型 RAG)：總覽