隨著大型語言模型（LLM）被廣泛採用，企業面臨一個非常實際的問題：當模型的問題依賴於內部文件、即時資料或特定領域知識時，如何讓模型準確地回答這些問題？畢竟，模型的訓練資料是有限的、有時間邊界的，不可能涵蓋企業特定的業務知識或持續更新的資訊。
一個直覺的想法是：既然上下文視窗（context window）越來越大，從 8K 到 128K，現在甚至超過一百萬 token，為什麼不直接把相關文件塞進提示詞裡，讓模型從這些素材中直接回答？
然而，能夠處理長上下文，和能夠在企業場景中穩定、高效、可控地提供正確答案，是完全不同的兩回事。盲目依賴長上下文會帶來一系列嚴峻的挑戰，包括成本爆炸、注意力稀釋和知識更新不及時。
為了解決這些痛點，一種稱為檢索增強生成（Retrieval-Augmented Generation，簡稱 RAG）的技術應運而生。在模型生成答案之前，RAG 先檢索精確的外部知識。與單純以暴力方式擴展上下文長度相比，RAG 以更低的成本、更高的準確性和更強的可控性滿足了企業對事實準確性和知識新鮮度的要求。因此，它已成為建構可信 AI 應用的關鍵基礎。
在本教學中，我們將系統性地講解 RAG 是什麼，追溯其出現的背景和核心原理，然後探討它從基礎形式到進階形式的演進，以及未來可能的發展方向。