Dify 是什麼?16.1 萬星開源 LLM 應用平台懶人包:RAG 知識庫與 AI Agent 視覺化建置教學

Dify 是 GitHub 突破 16.1 萬星的開源 LLM 應用開發平台,整合視覺化 Chatflow、企業級 RAG 知識庫與 Agent 工具呼叫。本文完整解析 Dify 架構、Docker Compose 一鍵部署、與 n8n 差異及實戰避坑技巧。

Share
Dify 16.1 萬星開源 LLM 應用開發平台官方視覺圖,呈現工作流編排與 RAG 知識庫管理介面
Dify 官方開源 LLM 應用編排與 RAG 開發平台介面(圖片來源:GitHub langgenius/dify) 圖片來源:GitHub langgenius/dify。

企業想導入 AI 客服或內部知識庫問答,最常卡在一個尷尬的斷層:工程師自己用 Python 硬寫向量資料庫與 Prompt 串接,維護起來既耗時又難讓非技術人員微調;直接買現成 SaaS 聊天機器人,又怕公司機敏文件外洩,或被綁死在單一模型供應商。

在 GitHub 累積突破 16.1 萬顆星 的開源專案 Dify(langgenius/dify),就是為了填補這個斷層而誕生。它是一套整合 LLMOps(大型語言模型維運管理,涵蓋提示詞測試、對話紀錄追蹤與效能監控) 的開源 AI 應用開發平台。

透過 Dify 的視覺化畫布,產品經理與工程師可以在同一個介面裡完成 Prompt 編排、RAG(Retrieval-Augmented Generation,檢索增強生成,先從企業內部文件找出相關段落再交給 AI 回答,大幅降低胡說八道機率的技術) 知識庫建置、以及 AI Agent 工具呼叫流程。

建置完成後,不需要另外寫前端網頁或後端伺服器,只要按一下發布,Dify 就會直接幫你生成可嵌入官網的 WebApp 聊天室,或是標準化的 RESTful API 端點,讓公司既有的 ERP、CRM 或 LINE 官方帳號直接呼叫。

不論你想在本機用 Docker(把整套系統連同資料庫環境打包在一起執行的容器技術) 測試,還是部署在企業私有雲裡搭配地端模型運行,這篇懶人包都會帶你一次掌握它的核心價值與落地細節。

Dify 16.1 萬星開源 LLM 應用開發平台官方視覺圖,呈現工作流編排與 RAG 知識庫管理介面
Dify 官方開源 LLM 應用編排與 RAG 開發平台介面(圖片來源:GitHub langgenius/dify) 圖片來源:GitHub langgenius/dify。

Dify 核心架構拆解:為什麼它能成為企業級 RAG 與 Agent 首選?

市面上自稱能做 AI 工作流的工具很多,Dify 之所以能拿到 16.1 萬星的超高關注度,關鍵在於它不是把大模型當成一個孤立的文字產生器,而是完整建構了「模型層、資料層、編排層、觀測層」四個支柱。

視覺化 Chatflow 與 Workflow 雙引擎

Dify 將應用拆成兩種邏輯模式。第一種是 Chatflow(對話流),專為多輪問答設計,內建對話記憶管理、使用者意圖分類器,以及追蹤追問上下文的能力,非常適合客服機器人與內部顧問助理。

第二種是 Workflow(工作流),偏向單次輸入、批次處理的自動化任務,例如輸入一篇長篇法規文件,平行拆分成三個摘要、合規檢查與關鍵字萃取節點,最後組合成一份結構化報告輸出。兩者皆支援條件分支、迭代迴圈與變數聚合,讓複雜邏輯一目了然。

開箱即用的企業級 RAG 知識庫管線

很多人自己寫 RAG 踩過無數坑,往往死在「文件切片切得太碎」或「表格 PDF 讀出來變亂碼」。Dify 把整套檔案處理管線直接做成視覺化精靈。

你只要把 PDF、Word、Markdown 或網頁網址丟進知識庫,Dify 會自動執行文字清洗、支援自訂分段長度與重疊字元(Overlap),並提供三種檢索策略:向量語意檢索(Vector Search)、全文關鍵字檢索(Full-Text Search),以及結合兩者並搭配 Rerank(重排序模型,把最精準的參考段落排到最前面) 的混合檢索模式,直接拉高回答準確率。

多模型無縫切換與 API 統一閘道

在模型供應商戰國時代,今天可能想用 Claude 寫文案、明天想換 Gemini 讀長文件、機敏資料則必須走地端 Ollama 跑 Llama 或 Qwen。Dify 在後台提供統一的 Model Provider 管理介面,只要填好各家 API Key,就能在畫布上對單一節點隨時切換底層模型,完全不用重寫任何一行程式碼。

延伸閱讀:Anthropic 官方 2.3 萬星 Claude 免費互動課程懶人包:從提示工程、Tool Use 到提示詞評測一次上手

Dify vs. n8n vs. LangFlow:三大開源 AI 編排工具怎麼選?

台灣團隊在規劃 AI 基礎設施時,最常把 Dify 跟 n8n 放在一起比較,或是猶豫要不要用純 LangChain 生態的 LangFlow。下表從產品定位、RAG 完整度、外部軟體串接力與維運對象四個面向進行對比:

比較維度 Dify(langgenius/dify) n8n(n8n-io/n8n) LangFlow(langflow-ai/langflow)
核心定位 AI 原生應用與 RAG 開發平台 跨軟體工作流自動化引擎 LangChain 元件視覺化實驗室
RAG 知識庫能力 極強(內建切片 UI、混合檢索、Rerank 與引用標註) 基礎(需自行串接外部向量資料庫與切分節點) 中等(偏重組裝 Python 向量元件,缺乏管理後台)
外部 SaaS 串接數 數十種常用工具與自訂 OpenAPI/MCP 擴充 極強(400+ 原生軟體節點、完整 Webhook 生態) 較少(需靠 Python 自訂元件)
一鍵發布 WebApp 原生內建(直接產生分享網址與嵌入視窗) 無(需自行開發前端或透過聊天軟體串接) 僅提供簡易測試沙盒與 API
LLMOps 監控與日誌 完整(每筆對話 Token 消耗、延遲、使用者回饋標記) 僅記錄工作流執行成功與失敗狀態 需另接 LangSmith 等第三方追蹤工具
最適合的團隊成員 產品經理、AI 應用工程師、知識庫管理員 營運自動化工程師、成長駭客、IT 系統管理員 熟悉 Python 與 LangChain 架構的研發人員

從表格對比可以清楚看出:如果你要解決的是「如何讓公司文件變成一個好用、可追蹤引用來源、且能直接發給員工或客戶使用的 AI 問答系統」,Dify 是絕對首選;如果你要解決的是「每天定時抓一百個網站資料寫進 Notion 再發 Slack 通知」,請交給 n8n,兩者搭配甚至能發揮 1+1 大於 2 的威力。

10 分鐘實戰部署:用 Docker Compose 自架企業內部 Dify 平台

Dify 是一個包含前端網頁、Python 後端 API、非同步任務佇列、PostgreSQL 資料庫、Redis 快取與 Weaviate/Qdrant 向量資料庫的完整微服務架構。官方強烈建議使用 docker compose 一次拉起整套服務,步驟如下:

步驟一:確認硬體與環境需求

在開始之前,請確保主機已經安裝好 Git 與 Docker Compose(V2 以上版本)。硬體建議至少配置 2 核心 CPU 與 4GB 記憶體(若要同時在本機啟用複雜文件解析或多人併發查詢,建議 4 核心 / 8GB RAM 以上)。

步驟二:下載原始碼並複製環境設定檔

打開終端機,依序執行以下指令取得 Dify 專案並切換到 Docker 設定目錄:

git clone https://github.com/langgenius/dify.git
cd dify/docker
cp .env.example .env

如果需要修改對外埠號(預設為 80 Port),或是更換內建的向量資料庫引擎(例如從預設的 Weaviate 改為 Qdrant),都可以直接編輯剛複製出來的 .env 檔案。

步驟三:一鍵啟動整套微服務

執行啟動指令,系統會自動下載所需的容器映像檔並在背景建立網路與資料庫:

docker compose up -d

等待約 1~2 分鐘後,輸入 docker compose ps 確認所有容器狀態皆為 running 或 healthy。

步驟四:初始化管理員帳號與模型設定

打開瀏覽器前往 http://localhost/install(若部署在遠端伺服器請替換為該主機 IP),設定第一個超級管理員帳號與密碼。登入後點擊右上角頭像進入「設定 → 模型供應商」,填入你的 OpenAI、Anthropic、Google Gemini API Key,或是選擇 Ollama 填入本機模型位址(Docker 容器內請使用 http://host.docker.internal:11434),即可開始建立第一個知識庫與 AI 應用。

延伸閱讀:微軟 12.4 萬星 Generative AI for Beginners 21 堂免費課程懶人包:從提示工程、RAG 到 AI 代理一次學完

Dify 企業落地最常見的 4 個高價值應用場景

許多台灣企業導入 Dify 後,並不是只拿來當「公司版 ChatGPT」,而是直接切入以下四種能立即省下人力的流程:

  1. SOP 與技術手冊智慧問答庫:將數百頁的產品規格書、ISO 流程或人資請假規定上傳至 Dify 知識庫,開啟「顯示引用與歸屬(Citation)」功能。員工問問題時,AI 不只給出答案,還會附上「出自哪一份文件第幾段」,讓管理層敢放心使用。
  2. 多語系客服工單意圖分流:在 Chatflow 最前端放一個「問題分類器(Question Classifier)」節點,把進來的訊息自動區分為「退換貨查詢」、「技術報修」、「帳務發票」三條分支,各自走不同的提示詞與資料庫檢索邏輯,最後透過 HTTP 請求節點寫回企業內部工單系統。
  3. 結合外部工具的 AI Agent 助理:在 Dify 內建或自訂工具(Custom Tool / OpenAPI),讓 Agent 可以即時查詢今日匯率、公司 ERP 庫存餘額或天氣預報,再彙整成完整的商務回覆。
  4. 內容行銷與多平台改寫流水線:利用 Workflow 模式設計一條內容生產線:輸入一篇技術新聞稿,同時分岔出「LinkedIn 專業長文」、「Threads 短貼文」與「電子報摘要」三個平行 LLM 節點,最後統一匯出。

硬體、費用與授權門檻評估

  • 軟體授權費用:Dify 採用 Apache 2.0 衍生授權(附帶部分多租戶商業條款),絕大多數個人學習、企業內部部署或為單一客戶建置系統都完全免費。只有當你要把 Dify 當成自己的 SaaS 產品對外賣帳號、且需要移除官方 Logo 與做多租戶計費時,才需要聯繫官方取得商業授權。
  • 雲端版 vs. 自架版:官方有提供 Dify Cloud 免費額度(含 200 次免費訊息測試與 50 份知識庫文件上限),適合零基礎想先體驗畫布操作的人;一旦進入正式商業測試或涉及公司內部文件,強烈建議改用自架版,省去額度焦慮與資安審查關卡。
  • 隱形成本提醒:很多人以為自架 Dify 就零成本,但其實 RAG 在「建立索引(Embedding)」與「重排序(Rerank)」階段都會消耗模型 Token。若上傳上萬頁文件使用雲端 Embedding API,第一次建庫仍會產生費用;對預算敏感的團隊,建議在本地端搭配開源的 bge-m3 等多語系嵌入模型,繁體中文檢索效果好又不用額外付 API 費。

實戰避坑指南:導入 Dify 必查的 5 個細節

  1. 千萬別用預設切片處理表格型 PDF:PDF 裡的複雜合併儲存格,用預設純文字解析器切完往往支離破碎。遇到價格表或規格表,建議先轉成 Markdown 格式再匯入,或是在解析器設定中啟用支援版面分析的 ETL 工具(如 Unstructured 或 MinerU)。
  2. 記得設定向量資料庫的持久化磁碟掛載:在 dify/docker/volumes 目錄下存放著所有的 PostgreSQL 資料與上傳檔案。系統升級前務必完整備份整個 volumes 資料夾,切勿直接執行 docker compose down -v(-v 會連同磁碟區一併刪除)。
  3. Prompt 裡要明確限制「找不到就說不知道」:即使接了知識庫,當問題超出文件範圍時,部分大型語言模型還是會忍不住憑記憶補完。務必在系統提示詞加上明確約束:「僅依據檢索到的上下文回答,若上下文未提及,請直接告知無法確認,嚴禁自行推測。」
  4. 開啟 Rerank 模型提升繁體中文精準度:只靠單一向量檢索容易漏掉專有名詞或產品型號(例如型號 AX-500)。實戰上一定要切換成「混合檢索(向量+全文)」,並掛上一個支援中文的 Rerank 模型,回答命中率通常能提升一個檔次。
  5. 注意版本升級時的資料庫遷移(Migration):Dify 更新速度極快,每次升級 docker compose pull 後,務必檢查官方 Release Notes 是否有說明需要調整 .env 新增變數,否則 API 容器可能會卡在啟動循環。

官方影音與實戰導讀

為了幫助初次接觸的讀者快速掌握介面操作,Dify 官方 YouTube 頻道持續更新了完整的快速入門與實戰指南系列,其中《Dify Quickstart Guide: Build Your First AI Workflow》最值得優先觀看:

影片與頻道實戰看點: - 從空白畫布建立第一條 Workflow:示範如何拖拉 Start、LLM 與 Answer 節點,並即時在右側預覽區進行單步除錯(Debug),一眼看清每個節點的 Token 消耗與耗時。 - 知識庫調校實戰:展示如何上傳檔案、預覽切片(Chunking)結果,並測試不同 Top-K 與分數閾值(Score Threshold)對檢索品質的影響。 - 一鍵發布與 API 串接:示範如何將做好的應用直接產生公開分享連結,並取得 cURL / Python API 呼叫範例。

常見問題(FAQ)

Q1:Dify 支援繁體中文知識庫嗎?效果好不好?

支援得非常好,但關鍵不在 Dify 本身,而在你選用的 Embedding(向量嵌入)模型 與 Rerank 模型。若使用 OpenAI 的 text-embedding-3-large、bge-m3 或 Cohere 的多語系模型,繁體中文的語意理解與跨語言檢索(例如用英文專有名詞搜中文文件)都能達到相當高的準確率。

Q2:不懂寫程式的人,可以只用 Dify 架設客服機器人嗎?

可以。只要有人幫忙用 Docker Compose 把主機跑起來(甚至先用官方雲端免費版),後續建立知識庫、上傳 PDF、調整系統提示詞、測試對話效果,以及最後複製一段 <script> 嵌入公司官網,全程都在網頁圖形介面完成,不需要寫任何 Python 或 JavaScript。

Q3:Dify 可以完全離線在沒有網路的內網環境運行嗎?

可以。只要在內網主機事先拉取好 Dify 的 Docker 映像檔,並在同一內網部署好 Ollama 或 vLLM 來提供本機大語言模型與本機 Embedding 模型,整套系統就可以在完全斷網的環境下穩定運作,滿足最高等級的資安稽核要求。

Q4:Dify 的知識庫文件更新後,舊資料會自動覆蓋嗎?

如果在知識庫內針對同一份文件進行重新上傳或透過 API 同步更新,Dify 會重新計算切片與向量索引;若企業文件每天都在變動,建議利用 Dify 提供的知識庫 API 搭配 n8n 排程,定時自動把最新檔案推播更新,避免人工重複上傳。

資料來源

Read more