電腦裡自架一個私人 ChatGPT?Open WebUI 16 萬星開源介面教學:離線問答、# 讀檔與團隊部署

Open WebUI 在 GitHub 累積近 16 萬顆星,是目前最像 ChatGPT 的開源本地 AI 網頁介面。本文詳解 Docker 一鍵安裝、串接 Ollama 與 Claude/Gemini、# 符號本地 RAG 讀檔技巧、硬體門檻與多人權限設定。

Share
Open WebUI 16 萬星開源本地 AI 網頁介面官方視覺圖,展示類 ChatGPT 對話畫面與多模型切換功能
Open WebUI 官方多模型對話與本地 AI 操作介面(圖片來源:GitHub open-webui/open-webui) 圖片來源:GitHub open-webui/open-webui。

用過終端機黑底白字跑本地模型的人都知道,雖然 Ollama 讓下載與執行開源大模型變簡單了,但整天盯著冷冰冰的命令列聊天,既不能上傳 PDF 合約,也沒有歷史對話側邊欄,更別提分享給不會寫程式的同事一起用。

Open WebUI(GitHub 專案 open-webui/open-webui)正是為了解決這個最後一哩路而生,目前星數已達 15.9 萬~16 萬顆星。它是一套功能極度完整、操作手感幾乎與 ChatGPT 網頁版無異的開源前端介面。

只要用 Docker(一種把程式與執行環境打包成獨立容器、跨平台一鍵啟動的技術) 跑起來,它就能直接連接你電腦裡的 Ollama(本機運行開源大模型的引擎),或者任何相容 OpenAI 格式的 API,包含 vLLM、LM Studio,甚至雲端的 OpenAI、Claude 與 Gemini。

最受台灣個人工作者與中小企業歡迎的,是它支援完全離線運作。你可以直接用 # 符號把整份財報 PDF、Word 企劃書或程式碼資料夾丟進對話框做本地 RAG(檢索增強生成,先搜尋檔案段落再交給模型回答的技術),機敏資料完全不經過外部伺服器。

從語音通話、網頁即時渲染(Artifacts)、聯網搜尋到細緻的多人權限管理,這篇教學將帶你從零把這座「私人 AI 工作站」架設起來。

Open WebUI 16 萬星開源本地 AI 網頁介面官方視覺圖,展示類 ChatGPT 對話畫面與多模型切換功能
Open WebUI 官方多模型對話與本地 AI 操作介面(圖片來源:GitHub open-webui/open-webui) 圖片來源:GitHub open-webui/open-webui。
官方發表與操作展示影片。

為什麼 Open WebUI 能拿下 16 萬星?五大核心亮點解析

在開源社群裡,幫本地模型套殼的網頁介面不下幾十種,Open WebUI 之所以能拉開與其他工具的差距,是因為它把「個人隱私」與「團隊生產力」兩件事同時做到了極致。

1. 幾乎零學習成本的類 ChatGPT 介面與 Artifacts 預覽

打開 Open WebUI,左側是整齊的對話歷史與資料夾分類,上方可以隨時切換模型,甚至能「一個問題同時送給兩個模型」並排比對回答品質。當 AI 產出 HTML 網頁、SVG 圖表或 Mermaid 流程圖時,右側會直接彈出類似 Claude Artifacts 的即時渲染預覽視窗,不需要複製貼上到別處看結果。

2. # 符號一鍵啟動本地 RAG 文件問答

你不需要像建企業系統那樣先寫一堆向量資料庫腳本。在 Open WebUI 的「Workspace → Knowledge」上傳公司手冊或論文 PDF 後,聊天時只要打一個 # 字號就能把指定文件或整個資料夾掛載進來提問。系統會在本地完成切分與向量檢索,並標註答案源自哪份檔案。

3. 聯網搜尋(Web Search)與網址即時抓取

跑本地模型的最大痛點就是知識停在訓練截止日。Open WebUI 內建聯網搜尋功能,你可以串接免費自架的 SearXNG 搜尋引擎,或是 Google PSE、Brave Search API;甚至直接在對話框輸入 #https://某個網頁網址,它就會即時把網頁內文抓下來交給本地模型摘要分析。

4. 支援語音通話與多模態圖片辨識

接上支援視覺的模型(例如 Llama 3.2 Vision 或 Qwen-VL)後,你可以直接拖曳截圖或拍好的收據照片請 AI 辨識內容。同時內建語音轉文字(STT)與文字轉語音(TTS),想用講話的方式跟本地 AI 練習英文口說也沒有問題。

5. 內建多人帳號與細緻權限管理(RBAC)

對中小企業來說,這點最實用。管理員可以在後台開啟「多使用者註冊」,設定哪個部門只能用公司內網的離線模型、誰可以使用雲端付費 API,還能預設好各種角色的 System Prompt(系統提示詞,用來規定 AI 身分與回答格式的隱藏指令),讓同事一登入就能直接選用「繁中公文潤飾助手」或「Python 除錯專家」。

延伸閱讀:Mac mini M4 16GB / 24GB / 48GB 本地跑 AI 實測:Ollama 與 MLX 速度差多少、能順跑幾 B 模型?

Open WebUI vs. ChatGPT Plus vs. LM Studio:哪一種方案最適合你?

在動手安裝之前,先把 Open WebUI 與一般人最常使用的商業訂閱服務(ChatGPT Plus)以及純本機桌面軟體(LM Studio)做個橫向對比,幫你確認自己的真實需求:

比較項目 Open WebUI + Ollama(自架) ChatGPT Plus(商業訂閱) LM Studio(桌面軟體)
月費成本 0 元(若僅用本地模型) 每月 20 美元(約新台幣 650 元) 0 元(個人免費使用)
資料隱私性 極高(可完全斷網於內網運作) 資料經由 OpenAI 雲端伺服器處理 極高(純單機桌面應用程式)
多人共用與權限 完整支援(瀏覽器登入、RBAC 權限) 需升級 Team / Enterprise 高價方案 不支援(僅限單機操作)
模型選擇自由度 可混用 Ollama 本地模型與各家雲端 API 僅限 OpenAI 自家模型 專注於本地 GGUF / MLX 模型下載與執行
本地 RAG 知識庫 內建完整知識庫管理與 # 呼叫 僅支援單次上傳附件或自建 GPTs 支援基礎單檔文件問答,無團隊共享知識庫
硬體依賴度 跑本地模型需看 GPU/統一記憶體規格 無(完全靠雲端算力,手機也能跑) 高(完全吃本機顯示卡或 Mac 記憶體)

對比結果很清楚:如果你是一人使用且不想碰任何終端機指令,LM Studio 點兩下就能安裝是最省事的;但只要你想「用手機或平板連回家裡電腦的 AI」、「建立可重複使用的企業文件知識庫」,或是「讓整個團隊透過瀏覽器共用同一套 AI 介面」,Open WebUI 是目前開源界無可取代的唯一解。

5 分鐘實戰安裝:Docker 一鍵啟動 Open WebUI(含 Ollama 連線)

Open WebUI 官方提供兩種主要安裝方式:Python pip 安裝與 Docker 部署。為了避免 Python 套件版本衝突,強烈建議直接使用 Docker 安裝,升級與備份都只要一行指令。

情境 A:本機已經安裝好 Ollama(最常見,Mac / Windows 適用)

如果你已經在電腦上裝好了 Ollama 桌面版,請先確認 Ollama 正在背景運行,接著打開終端機貼上以下指令:

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

這裡的 --add-host=host.docker.internal:host-gateway 非常關鍵,它能讓 Docker 容器裡的 Open WebUI 順利穿過網路隔離,找到你宿主機上跑在 11434 埠號的 Ollama 服務。

情境 B:想在沒有裝 Ollama 的 Linux 主機上一次全裝好

若你租了一台有 NVIDIA 顯示卡的雲端主機,想一口氣把 Open WebUI 與 Ollama 打包啟動,可以使用官方提供的 :ollama 整合映像檔:

docker run -d -p 3000:8080 --gpus=all \
  -v ollama:/root/.ollama \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:ollama

啟動與初始化

指令執行完畢並等待映像檔下載完成後,打開瀏覽器輸入 http://localhost:3000。第一個註冊的帳號會自動成為系統超級管理員(Admin),登入後點擊左上角的模型下拉選單,就能看到你本機 Ollama 已經下載好的所有模型。

如果之後想同時串接 OpenAI、Claude 或 Gemini,只要點擊左下角頭像進入「管理員控制台(Admin Panel)→ 設定 → 外部連線」,把 API Key 貼進去,就能在同一個介面上自由混用本地與雲端模型。

延伸閱讀:OpenAI Cookbook 7.7 萬星官方實戰食譜庫:RAG、Function Calling 與微調程式碼範例免費拿

硬體門檻怎麼抓?不跑本地模型也能用 Open WebUI 嗎?

很多人有個誤解,以為裝 Open WebUI 一定要買幾十萬的顯示卡。其實必須拆成「介面本身」與「背後的模型」兩件事來看:

  1. 純當成多模型統一前端(串接雲端 API):Open WebUI 本身只是一個網頁服務,對硬體要求極低,2 核心 CPU、2GB 記憶體的舊筆電或便宜 VPS 就能順暢跑起。你可以把 OpenAI、Claude、Gemini 的 API 全部集中到這個介面裡,用多少付多少(Pay-as-you-go),每月用量不高時甚至比花新台幣 650 元買單一家的訂閱還便宜。
  2. 純離線跑本地中小型模型(7B~14B 參數):如果你追求資料完全不出門,建議準備 16GB 以上統一記憶體的 Apple Silicon Mac(M1/M2/M3/M4),或是 具備 8GB~12GB VRAM 的 NVIDIA RTX 顯示卡。這個等級可以順暢運行 Qwen 2.5 7B/14B、Llama 3.1 8B 或 Gemma 2 9B 等繁體中文表現優異的模型。
  3. 團隊共用進階模型(32B~70B 參數):若要讓 5~10 位同事同時查詢大型知識庫並維持流暢的每秒輸出字數,建議配置 48GB~64GB 記憶體的 Mac Studio 或 雙卡 RTX 3090 / 4090(48GB VRAM) 主機,並將底層引擎換成支援高併發批次處理的 vLLM。

實戰避坑指南:部署 Open WebUI 最常踩的 5 個雷

  1. Ollama 抓不到模型清單(顯示空白):這通常是因為 Ollama 預設只監聽 127.0.0.1 本機回環位址,導致 Docker 容器連不到。請在宿主機設定環境變數 OLLAMA_HOST=0.0.0.0 後重啟 Ollama,並在 Open WebUI 後台確認 Ollama Base URL 為 http://host.docker.internal:11434。
  2. 第一次啟動等了好幾分鐘網頁打不開:Open WebUI 容器第一次啟動時,會在背景自動下載預設的本地 Embedding 模型(用來幫 # 讀檔做向量運算)與前端資源。在網速較慢的環境下可能要等 2~3 分鐘,可用 docker logs -f open-webui 查看下載進度,千萬不要以為當機就強制砍掉重裝。
  3. 開放團隊使用卻忘記關閉「新用戶自動註冊」:如果你透過 Cloudflare Tunnel 或反向代理把 Open WebUI 掛到公網網址上,一定要在管理員設定裡將「Enable New Sign Ups」關閉,改由管理員手動建立帳號,否則任何知道網址的路人都能註冊進來消耗你的 API 額度或電腦算力。
  4. 用預設參數讀長篇中文 PDF 漏掉重點:預設的 Chunk Size(分段大小)偏小,遇到前後文關聯強的合約或財報容易斷章取義。建議到後台「文件設定(Documents)」把 Chunk Size 調高至 1000~1500 字元、Overlap 設為 200,並把回傳參考段落數量 Top K 從預設的 3 提高到 5~8。
  5. 忘記掛載 Volume 導致更新後紀錄全失:執行 docker run 時絕對不能漏掉 -v open-webui:/app/backend/data。這行指令會把你的帳號、對話紀錄與上傳的知識庫文件獨立保存在 Docker Volume 裡,日後使用 Watchtower 或手動更新映像檔時資料才會完整保留。

官方影音與實戰導讀

如果你想看實際在本地端把 Open WebUI 與 Ollama 串起來、現場測試讀檔與介面設定的完整畫面,可以參考以下這支熱門教學影片:

影片重點導讀: - 環境準備與 Docker 指令實測:從確認 Ollama 運作狀態開始,一步步執行 Docker 容器啟動指令並進入初始化登入畫面。 - 系統介面與核心功能導覽:實際示範如何切換多模型對話、設定個人化系統提示詞,以及使用 # 符號匯入本地文件進行問答測試。 - 進階設定與擴充技巧:說明如何開啟聯網搜尋、調整參數溫度(Temperature)與上下文長度(Context Length),讓本地模型發揮最佳表現。

常見問題(FAQ)

Q1:Open WebUI 本身有包含 AI 模型嗎?安裝完就能直接聊天嗎?

沒有。Open WebUI 只是一個「網頁操作介面(Frontend)」,就像瀏覽器或方向盤一樣,背後必須接上引擎才能動。你必須先在本機裝好 Ollama(並執行過 ollama run 下載至少一個模型),或者在後台填入 OpenAI、Claude、Gemini 等雲端 API Key,才能開始對話。

Q2:用手機或公司的電腦,可以連回家裡電腦的 Open WebUI 嗎?

可以。最安全又不用申請固定 IP 的做法,是在同一台電腦上安裝 Tailscale(免費的虛擬內網工具)或設定 Cloudflare Tunnel。設定好之後,你在外面用手機瀏覽器打開專屬網址,就能像用 ChatGPT App 一樣直接呼叫家裡主機的算力與私人知識庫。

Q3:Open WebUI 可以商業使用嗎?公司內部架設需要付費嗎?

Open WebUI 採用開源授權(針對大規模商業雲端託管與去品牌化有特定 CLA/商業授權條款規範)。對絕大多數個人開發者、學校實驗室以及公司內部架設給員工使用的情境來說,都是完全免費且可自由部署的;只有當你要將其重新包裝並對外販售商業服務時,才需要遵守官方的企業授權規定。

Q4:我的對話紀錄與上傳的 PDF 檔案會被傳送給誰?

只要你使用的是本機 Ollama 模型與預設的本地 Embedding 模型,100% 的資料都只會留在你電腦的 Docker Volume 硬碟空間裡,不會傳送給任何第三方。唯有當你自己手動切換成 OpenAI、Claude 等雲端 API 模型時,該次對話的內容才會透過加密連線送往對應的 API 伺服器。

資料來源

Read more