Dify 是什麼?16.1 萬星開源 LLM 應用平台懶人包:RAG 知識庫與 AI Agent 視覺化建置教學
Dify 是 GitHub 突破 16.1 萬星的開源 LLM 應用開發平台,整合視覺化 Chatflow、企業級 RAG 知識庫與 Agent 工具呼叫。本文完整解析 Dify 架構、Docker Compose 一鍵部署、與 n8n 差異及實戰避坑技巧。
企業想導入 AI 客服或內部知識庫問答,最常卡在一個尷尬的斷層:工程師自己用 Python 硬寫向量資料庫與 Prompt 串接,維護起來既耗時又難讓非技術人員微調;直接買現成 SaaS 聊天機器人,又怕公司機敏文件外洩,或被綁死在單一模型供應商。
在 GitHub 累積突破 16.1 萬顆星 的開源專案 Dify(langgenius/dify),就是為了填補這個斷層而誕生。它是一套整合 LLMOps(大型語言模型維運管理,涵蓋提示詞測試、對話紀錄追蹤與效能監控) 的開源 AI 應用開發平台。
透過 Dify 的視覺化畫布,產品經理與工程師可以在同一個介面裡完成 Prompt 編排、RAG(Retrieval-Augmented Generation,檢索增強生成,先從企業內部文件找出相關段落再交給 AI 回答,大幅降低胡說八道機率的技術) 知識庫建置、以及 AI Agent 工具呼叫流程。
建置完成後,不需要另外寫前端網頁或後端伺服器,只要按一下發布,Dify 就會直接幫你生成可嵌入官網的 WebApp 聊天室,或是標準化的 RESTful API 端點,讓公司既有的 ERP、CRM 或 LINE 官方帳號直接呼叫。
不論你想在本機用 Docker(把整套系統連同資料庫環境打包在一起執行的容器技術) 測試,還是部署在企業私有雲裡搭配地端模型運行,這篇懶人包都會帶你一次掌握它的核心價值與落地細節。

Dify 核心架構拆解:為什麼它能成為企業級 RAG 與 Agent 首選?
市面上自稱能做 AI 工作流的工具很多,Dify 之所以能拿到 16.1 萬星的超高關注度,關鍵在於它不是把大模型當成一個孤立的文字產生器,而是完整建構了「模型層、資料層、編排層、觀測層」四個支柱。
視覺化 Chatflow 與 Workflow 雙引擎
Dify 將應用拆成兩種邏輯模式。第一種是 Chatflow(對話流),專為多輪問答設計,內建對話記憶管理、使用者意圖分類器,以及追蹤追問上下文的能力,非常適合客服機器人與內部顧問助理。
第二種是 Workflow(工作流),偏向單次輸入、批次處理的自動化任務,例如輸入一篇長篇法規文件,平行拆分成三個摘要、合規檢查與關鍵字萃取節點,最後組合成一份結構化報告輸出。兩者皆支援條件分支、迭代迴圈與變數聚合,讓複雜邏輯一目了然。
開箱即用的企業級 RAG 知識庫管線
很多人自己寫 RAG 踩過無數坑,往往死在「文件切片切得太碎」或「表格 PDF 讀出來變亂碼」。Dify 把整套檔案處理管線直接做成視覺化精靈。
你只要把 PDF、Word、Markdown 或網頁網址丟進知識庫,Dify 會自動執行文字清洗、支援自訂分段長度與重疊字元(Overlap),並提供三種檢索策略:向量語意檢索(Vector Search)、全文關鍵字檢索(Full-Text Search),以及結合兩者並搭配 Rerank(重排序模型,把最精準的參考段落排到最前面) 的混合檢索模式,直接拉高回答準確率。
多模型無縫切換與 API 統一閘道
在模型供應商戰國時代,今天可能想用 Claude 寫文案、明天想換 Gemini 讀長文件、機敏資料則必須走地端 Ollama 跑 Llama 或 Qwen。Dify 在後台提供統一的 Model Provider 管理介面,只要填好各家 API Key,就能在畫布上對單一節點隨時切換底層模型,完全不用重寫任何一行程式碼。
延伸閱讀:Anthropic 官方 2.3 萬星 Claude 免費互動課程懶人包:從提示工程、Tool Use 到提示詞評測一次上手
Dify vs. n8n vs. LangFlow:三大開源 AI 編排工具怎麼選?
台灣團隊在規劃 AI 基礎設施時,最常把 Dify 跟 n8n 放在一起比較,或是猶豫要不要用純 LangChain 生態的 LangFlow。下表從產品定位、RAG 完整度、外部軟體串接力與維運對象四個面向進行對比:
| 比較維度 | Dify(langgenius/dify) |
n8n(n8n-io/n8n) |
LangFlow(langflow-ai/langflow) |
|---|---|---|---|
| 核心定位 | AI 原生應用與 RAG 開發平台 | 跨軟體工作流自動化引擎 | LangChain 元件視覺化實驗室 |
| RAG 知識庫能力 | 極強(內建切片 UI、混合檢索、Rerank 與引用標註) | 基礎(需自行串接外部向量資料庫與切分節點) | 中等(偏重組裝 Python 向量元件,缺乏管理後台) |
| 外部 SaaS 串接數 | 數十種常用工具與自訂 OpenAPI/MCP 擴充 | 極強(400+ 原生軟體節點、完整 Webhook 生態) | 較少(需靠 Python 自訂元件) |
| 一鍵發布 WebApp | 原生內建(直接產生分享網址與嵌入視窗) | 無(需自行開發前端或透過聊天軟體串接) | 僅提供簡易測試沙盒與 API |
| LLMOps 監控與日誌 | 完整(每筆對話 Token 消耗、延遲、使用者回饋標記) | 僅記錄工作流執行成功與失敗狀態 | 需另接 LangSmith 等第三方追蹤工具 |
| 最適合的團隊成員 | 產品經理、AI 應用工程師、知識庫管理員 | 營運自動化工程師、成長駭客、IT 系統管理員 | 熟悉 Python 與 LangChain 架構的研發人員 |
從表格對比可以清楚看出:如果你要解決的是「如何讓公司文件變成一個好用、可追蹤引用來源、且能直接發給員工或客戶使用的 AI 問答系統」,Dify 是絕對首選;如果你要解決的是「每天定時抓一百個網站資料寫進 Notion 再發 Slack 通知」,請交給 n8n,兩者搭配甚至能發揮 1+1 大於 2 的威力。
10 分鐘實戰部署:用 Docker Compose 自架企業內部 Dify 平台
Dify 是一個包含前端網頁、Python 後端 API、非同步任務佇列、PostgreSQL 資料庫、Redis 快取與 Weaviate/Qdrant 向量資料庫的完整微服務架構。官方強烈建議使用 docker compose 一次拉起整套服務,步驟如下:
步驟一:確認硬體與環境需求
在開始之前,請確保主機已經安裝好 Git 與 Docker Compose(V2 以上版本)。硬體建議至少配置 2 核心 CPU 與 4GB 記憶體(若要同時在本機啟用複雜文件解析或多人併發查詢,建議 4 核心 / 8GB RAM 以上)。
步驟二:下載原始碼並複製環境設定檔
打開終端機,依序執行以下指令取得 Dify 專案並切換到 Docker 設定目錄:
git clone https://github.com/langgenius/dify.git
cd dify/docker
cp .env.example .env
如果需要修改對外埠號(預設為 80 Port),或是更換內建的向量資料庫引擎(例如從預設的 Weaviate 改為 Qdrant),都可以直接編輯剛複製出來的 .env 檔案。
步驟三:一鍵啟動整套微服務
執行啟動指令,系統會自動下載所需的容器映像檔並在背景建立網路與資料庫:
docker compose up -d
等待約 1~2 分鐘後,輸入 docker compose ps 確認所有容器狀態皆為 running 或 healthy。
步驟四:初始化管理員帳號與模型設定
打開瀏覽器前往 http://localhost/install(若部署在遠端伺服器請替換為該主機 IP),設定第一個超級管理員帳號與密碼。登入後點擊右上角頭像進入「設定 → 模型供應商」,填入你的 OpenAI、Anthropic、Google Gemini API Key,或是選擇 Ollama 填入本機模型位址(Docker 容器內請使用 http://host.docker.internal:11434),即可開始建立第一個知識庫與 AI 應用。
延伸閱讀:微軟 12.4 萬星 Generative AI for Beginners 21 堂免費課程懶人包:從提示工程、RAG 到 AI 代理一次學完
Dify 企業落地最常見的 4 個高價值應用場景
許多台灣企業導入 Dify 後,並不是只拿來當「公司版 ChatGPT」,而是直接切入以下四種能立即省下人力的流程:
- SOP 與技術手冊智慧問答庫:將數百頁的產品規格書、ISO 流程或人資請假規定上傳至 Dify 知識庫,開啟「顯示引用與歸屬(Citation)」功能。員工問問題時,AI 不只給出答案,還會附上「出自哪一份文件第幾段」,讓管理層敢放心使用。
- 多語系客服工單意圖分流:在 Chatflow 最前端放一個「問題分類器(Question Classifier)」節點,把進來的訊息自動區分為「退換貨查詢」、「技術報修」、「帳務發票」三條分支,各自走不同的提示詞與資料庫檢索邏輯,最後透過 HTTP 請求節點寫回企業內部工單系統。
- 結合外部工具的 AI Agent 助理:在 Dify 內建或自訂工具(Custom Tool / OpenAPI),讓 Agent 可以即時查詢今日匯率、公司 ERP 庫存餘額或天氣預報,再彙整成完整的商務回覆。
- 內容行銷與多平台改寫流水線:利用 Workflow 模式設計一條內容生產線:輸入一篇技術新聞稿,同時分岔出「LinkedIn 專業長文」、「Threads 短貼文」與「電子報摘要」三個平行 LLM 節點,最後統一匯出。
硬體、費用與授權門檻評估
- 軟體授權費用:Dify 採用 Apache 2.0 衍生授權(附帶部分多租戶商業條款),絕大多數個人學習、企業內部部署或為單一客戶建置系統都完全免費。只有當你要把 Dify 當成自己的 SaaS 產品對外賣帳號、且需要移除官方 Logo 與做多租戶計費時,才需要聯繫官方取得商業授權。
- 雲端版 vs. 自架版:官方有提供 Dify Cloud 免費額度(含 200 次免費訊息測試與 50 份知識庫文件上限),適合零基礎想先體驗畫布操作的人;一旦進入正式商業測試或涉及公司內部文件,強烈建議改用自架版,省去額度焦慮與資安審查關卡。
- 隱形成本提醒:很多人以為自架 Dify 就零成本,但其實 RAG 在「建立索引(Embedding)」與「重排序(Rerank)」階段都會消耗模型 Token。若上傳上萬頁文件使用雲端 Embedding API,第一次建庫仍會產生費用;對預算敏感的團隊,建議在本地端搭配開源的
bge-m3等多語系嵌入模型,繁體中文檢索效果好又不用額外付 API 費。
實戰避坑指南:導入 Dify 必查的 5 個細節
- 千萬別用預設切片處理表格型 PDF:PDF 裡的複雜合併儲存格,用預設純文字解析器切完往往支離破碎。遇到價格表或規格表,建議先轉成 Markdown 格式再匯入,或是在解析器設定中啟用支援版面分析的 ETL 工具(如 Unstructured 或 MinerU)。
- 記得設定向量資料庫的持久化磁碟掛載:在
dify/docker/volumes目錄下存放著所有的 PostgreSQL 資料與上傳檔案。系統升級前務必完整備份整個volumes資料夾,切勿直接執行docker compose down -v(-v會連同磁碟區一併刪除)。 - Prompt 裡要明確限制「找不到就說不知道」:即使接了知識庫,當問題超出文件範圍時,部分大型語言模型還是會忍不住憑記憶補完。務必在系統提示詞加上明確約束:「僅依據檢索到的上下文回答,若上下文未提及,請直接告知無法確認,嚴禁自行推測。」
- 開啟 Rerank 模型提升繁體中文精準度:只靠單一向量檢索容易漏掉專有名詞或產品型號(例如型號
AX-500)。實戰上一定要切換成「混合檢索(向量+全文)」,並掛上一個支援中文的 Rerank 模型,回答命中率通常能提升一個檔次。 - 注意版本升級時的資料庫遷移(Migration):Dify 更新速度極快,每次升級
docker compose pull後,務必檢查官方 Release Notes 是否有說明需要調整.env新增變數,否則 API 容器可能會卡在啟動循環。
官方影音與實戰導讀
為了幫助初次接觸的讀者快速掌握介面操作,Dify 官方 YouTube 頻道持續更新了完整的快速入門與實戰指南系列,其中《Dify Quickstart Guide: Build Your First AI Workflow》最值得優先觀看:
影片與頻道實戰看點: - 從空白畫布建立第一條 Workflow:示範如何拖拉 Start、LLM 與 Answer 節點,並即時在右側預覽區進行單步除錯(Debug),一眼看清每個節點的 Token 消耗與耗時。 - 知識庫調校實戰:展示如何上傳檔案、預覽切片(Chunking)結果,並測試不同 Top-K 與分數閾值(Score Threshold)對檢索品質的影響。 - 一鍵發布與 API 串接:示範如何將做好的應用直接產生公開分享連結,並取得 cURL / Python API 呼叫範例。
常見問題(FAQ)
Q1:Dify 支援繁體中文知識庫嗎?效果好不好?
支援得非常好,但關鍵不在 Dify 本身,而在你選用的 Embedding(向量嵌入)模型 與 Rerank 模型。若使用 OpenAI 的 text-embedding-3-large、bge-m3 或 Cohere 的多語系模型,繁體中文的語意理解與跨語言檢索(例如用英文專有名詞搜中文文件)都能達到相當高的準確率。
Q2:不懂寫程式的人,可以只用 Dify 架設客服機器人嗎?
可以。只要有人幫忙用 Docker Compose 把主機跑起來(甚至先用官方雲端免費版),後續建立知識庫、上傳 PDF、調整系統提示詞、測試對話效果,以及最後複製一段 <script> 嵌入公司官網,全程都在網頁圖形介面完成,不需要寫任何 Python 或 JavaScript。
Q3:Dify 可以完全離線在沒有網路的內網環境運行嗎?
可以。只要在內網主機事先拉取好 Dify 的 Docker 映像檔,並在同一內網部署好 Ollama 或 vLLM 來提供本機大語言模型與本機 Embedding 模型,整套系統就可以在完全斷網的環境下穩定運作,滿足最高等級的資安稽核要求。
Q4:Dify 的知識庫文件更新後,舊資料會自動覆蓋嗎?
如果在知識庫內針對同一份文件進行重新上傳或透過 API 同步更新,Dify 會重新計算切片與向量索引;若企業文件每天都在變動,建議利用 Dify 提供的知識庫 API 搭配 n8n 排程,定時自動把最新檔案推播更新,避免人工重複上傳。