lindragon@notes:~/rag$cat "模組化 RAG (Modular RAG).md"

// RAG / note

模組化 RAG (Modular RAG)

模組化 RAG (Modular RAG)

它很像樂高積木，每個模組獨立運作，但可以建構成一個靈活可用的系統，它打破傳統RAG「檢索-生成」的單線流程，像是重寫-檢索-生成、生成-閱讀、遞迴檢索

技術核心： 強調系統的靈活性與可定制性，將流程分解為獨立的組件

EX：

  • 檢索模組：針對不同資料來源，設計專門的檢索策略

  • 記憶模組：可以記住以前檢索結果，變成一個記憶池讓LLM可以在後續任務使用以前的資料

機制： 結合了混合檢索策略（同時使用關鍵字和向量檢索）以及外部工具與 API 的整合（例如串接即時股價 API）

優點： 組件可獨立更換或優化，使其非常適合處理複雜的多領域任務

  • 混合檢索策略：將稀疏檢索方法（例如稀疏編碼器-BM25）與密集檢索技術[21]（例如 DPR - 密集段落檢索）相結合，以最大限度地提高各種查詢類型的準確性。

  • 工具整合：整合外部 API、資料庫或運算工具來處理專門的任務，例如即時資料分析或特定領域的運算

  • 可組合管道：模組化 RAG 允許檢索器、生成器和其他組件獨立地進行替換、增強或重新配置，從而能夠高度適應特定的用例

缺點：

  • 大部分功能需要客製化，所以難用一種解決方案應付所有領域的問題

參考資料：https://ithelp.ithome.com.tw/m/articles/10349310

相關筆記