電腦裡自架一個私人 ChatGPT?Open WebUI 16 萬星開源介面教學:離線問答、# 讀檔與團隊部署
Open WebUI 在 GitHub 累積近 16 萬顆星,是目前最像 ChatGPT 的開源本地 AI 網頁介面。本文詳解 Docker 一鍵安裝、串接 Ollama 與 Claude/Gemini、# 符號本地 RAG 讀檔技巧、硬體門檻與多人權限設定。
用過終端機黑底白字跑本地模型的人都知道,雖然 Ollama 讓下載與執行開源大模型變簡單了,但整天盯著冷冰冰的命令列聊天,既不能上傳 PDF 合約,也沒有歷史對話側邊欄,更別提分享給不會寫程式的同事一起用。
Open WebUI(GitHub 專案 open-webui/open-webui)正是為了解決這個最後一哩路而生,目前星數已達 15.9 萬~16 萬顆星。它是一套功能極度完整、操作手感幾乎與 ChatGPT 網頁版無異的開源前端介面。
只要用 Docker(一種把程式與執行環境打包成獨立容器、跨平台一鍵啟動的技術) 跑起來,它就能直接連接你電腦裡的 Ollama(本機運行開源大模型的引擎),或者任何相容 OpenAI 格式的 API,包含 vLLM、LM Studio,甚至雲端的 OpenAI、Claude 與 Gemini。
最受台灣個人工作者與中小企業歡迎的,是它支援完全離線運作。你可以直接用 # 符號把整份財報 PDF、Word 企劃書或程式碼資料夾丟進對話框做本地 RAG(檢索增強生成,先搜尋檔案段落再交給模型回答的技術),機敏資料完全不經過外部伺服器。
從語音通話、網頁即時渲染(Artifacts)、聯網搜尋到細緻的多人權限管理,這篇教學將帶你從零把這座「私人 AI 工作站」架設起來。

為什麼 Open WebUI 能拿下 16 萬星?五大核心亮點解析
在開源社群裡,幫本地模型套殼的網頁介面不下幾十種,Open WebUI 之所以能拉開與其他工具的差距,是因為它把「個人隱私」與「團隊生產力」兩件事同時做到了極致。
1. 幾乎零學習成本的類 ChatGPT 介面與 Artifacts 預覽
打開 Open WebUI,左側是整齊的對話歷史與資料夾分類,上方可以隨時切換模型,甚至能「一個問題同時送給兩個模型」並排比對回答品質。當 AI 產出 HTML 網頁、SVG 圖表或 Mermaid 流程圖時,右側會直接彈出類似 Claude Artifacts 的即時渲染預覽視窗,不需要複製貼上到別處看結果。
2. # 符號一鍵啟動本地 RAG 文件問答
你不需要像建企業系統那樣先寫一堆向量資料庫腳本。在 Open WebUI 的「Workspace → Knowledge」上傳公司手冊或論文 PDF 後,聊天時只要打一個 # 字號就能把指定文件或整個資料夾掛載進來提問。系統會在本地完成切分與向量檢索,並標註答案源自哪份檔案。
3. 聯網搜尋(Web Search)與網址即時抓取
跑本地模型的最大痛點就是知識停在訓練截止日。Open WebUI 內建聯網搜尋功能,你可以串接免費自架的 SearXNG 搜尋引擎,或是 Google PSE、Brave Search API;甚至直接在對話框輸入 #https://某個網頁網址,它就會即時把網頁內文抓下來交給本地模型摘要分析。
4. 支援語音通話與多模態圖片辨識
接上支援視覺的模型(例如 Llama 3.2 Vision 或 Qwen-VL)後,你可以直接拖曳截圖或拍好的收據照片請 AI 辨識內容。同時內建語音轉文字(STT)與文字轉語音(TTS),想用講話的方式跟本地 AI 練習英文口說也沒有問題。
5. 內建多人帳號與細緻權限管理(RBAC)
對中小企業來說,這點最實用。管理員可以在後台開啟「多使用者註冊」,設定哪個部門只能用公司內網的離線模型、誰可以使用雲端付費 API,還能預設好各種角色的 System Prompt(系統提示詞,用來規定 AI 身分與回答格式的隱藏指令),讓同事一登入就能直接選用「繁中公文潤飾助手」或「Python 除錯專家」。
延伸閱讀:Mac mini M4 16GB / 24GB / 48GB 本地跑 AI 實測:Ollama 與 MLX 速度差多少、能順跑幾 B 模型?
Open WebUI vs. ChatGPT Plus vs. LM Studio:哪一種方案最適合你?
在動手安裝之前,先把 Open WebUI 與一般人最常使用的商業訂閱服務(ChatGPT Plus)以及純本機桌面軟體(LM Studio)做個橫向對比,幫你確認自己的真實需求:
| 比較項目 | Open WebUI + Ollama(自架) | ChatGPT Plus(商業訂閱) | LM Studio(桌面軟體) |
|---|---|---|---|
| 月費成本 | 0 元(若僅用本地模型) | 每月 20 美元(約新台幣 650 元) | 0 元(個人免費使用) |
| 資料隱私性 | 極高(可完全斷網於內網運作) | 資料經由 OpenAI 雲端伺服器處理 | 極高(純單機桌面應用程式) |
| 多人共用與權限 | 完整支援(瀏覽器登入、RBAC 權限) | 需升級 Team / Enterprise 高價方案 | 不支援(僅限單機操作) |
| 模型選擇自由度 | 可混用 Ollama 本地模型與各家雲端 API | 僅限 OpenAI 自家模型 | 專注於本地 GGUF / MLX 模型下載與執行 |
| 本地 RAG 知識庫 | 內建完整知識庫管理與 # 呼叫 |
僅支援單次上傳附件或自建 GPTs | 支援基礎單檔文件問答,無團隊共享知識庫 |
| 硬體依賴度 | 跑本地模型需看 GPU/統一記憶體規格 | 無(完全靠雲端算力,手機也能跑) | 高(完全吃本機顯示卡或 Mac 記憶體) |
對比結果很清楚:如果你是一人使用且不想碰任何終端機指令,LM Studio 點兩下就能安裝是最省事的;但只要你想「用手機或平板連回家裡電腦的 AI」、「建立可重複使用的企業文件知識庫」,或是「讓整個團隊透過瀏覽器共用同一套 AI 介面」,Open WebUI 是目前開源界無可取代的唯一解。
5 分鐘實戰安裝:Docker 一鍵啟動 Open WebUI(含 Ollama 連線)
Open WebUI 官方提供兩種主要安裝方式:Python pip 安裝與 Docker 部署。為了避免 Python 套件版本衝突,強烈建議直接使用 Docker 安裝,升級與備份都只要一行指令。
情境 A:本機已經安裝好 Ollama(最常見,Mac / Windows 適用)
如果你已經在電腦上裝好了 Ollama 桌面版,請先確認 Ollama 正在背景運行,接著打開終端機貼上以下指令:
docker run -d -p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-v open-webui:/app/backend/data \
--name open-webui \
--restart always \
ghcr.io/open-webui/open-webui:main
這裡的 --add-host=host.docker.internal:host-gateway 非常關鍵,它能讓 Docker 容器裡的 Open WebUI 順利穿過網路隔離,找到你宿主機上跑在 11434 埠號的 Ollama 服務。
情境 B:想在沒有裝 Ollama 的 Linux 主機上一次全裝好
若你租了一台有 NVIDIA 顯示卡的雲端主機,想一口氣把 Open WebUI 與 Ollama 打包啟動,可以使用官方提供的 :ollama 整合映像檔:
docker run -d -p 3000:8080 --gpus=all \
-v ollama:/root/.ollama \
-v open-webui:/app/backend/data \
--name open-webui \
--restart always \
ghcr.io/open-webui/open-webui:ollama
啟動與初始化
指令執行完畢並等待映像檔下載完成後,打開瀏覽器輸入 http://localhost:3000。第一個註冊的帳號會自動成為系統超級管理員(Admin),登入後點擊左上角的模型下拉選單,就能看到你本機 Ollama 已經下載好的所有模型。
如果之後想同時串接 OpenAI、Claude 或 Gemini,只要點擊左下角頭像進入「管理員控制台(Admin Panel)→ 設定 → 外部連線」,把 API Key 貼進去,就能在同一個介面上自由混用本地與雲端模型。
延伸閱讀:OpenAI Cookbook 7.7 萬星官方實戰食譜庫:RAG、Function Calling 與微調程式碼範例免費拿
硬體門檻怎麼抓?不跑本地模型也能用 Open WebUI 嗎?
很多人有個誤解,以為裝 Open WebUI 一定要買幾十萬的顯示卡。其實必須拆成「介面本身」與「背後的模型」兩件事來看:
- 純當成多模型統一前端(串接雲端 API):Open WebUI 本身只是一個網頁服務,對硬體要求極低,2 核心 CPU、2GB 記憶體的舊筆電或便宜 VPS 就能順暢跑起。你可以把 OpenAI、Claude、Gemini 的 API 全部集中到這個介面裡,用多少付多少(Pay-as-you-go),每月用量不高時甚至比花新台幣 650 元買單一家的訂閱還便宜。
- 純離線跑本地中小型模型(7B~14B 參數):如果你追求資料完全不出門,建議準備 16GB 以上統一記憶體的 Apple Silicon Mac(M1/M2/M3/M4),或是 具備 8GB~12GB VRAM 的 NVIDIA RTX 顯示卡。這個等級可以順暢運行 Qwen 2.5 7B/14B、Llama 3.1 8B 或 Gemma 2 9B 等繁體中文表現優異的模型。
- 團隊共用進階模型(32B~70B 參數):若要讓 5~10 位同事同時查詢大型知識庫並維持流暢的每秒輸出字數,建議配置 48GB~64GB 記憶體的 Mac Studio 或 雙卡 RTX 3090 / 4090(48GB VRAM) 主機,並將底層引擎換成支援高併發批次處理的 vLLM。
實戰避坑指南:部署 Open WebUI 最常踩的 5 個雷
- Ollama 抓不到模型清單(顯示空白):這通常是因為 Ollama 預設只監聽
127.0.0.1本機回環位址,導致 Docker 容器連不到。請在宿主機設定環境變數OLLAMA_HOST=0.0.0.0後重啟 Ollama,並在 Open WebUI 後台確認 Ollama Base URL 為http://host.docker.internal:11434。 - 第一次啟動等了好幾分鐘網頁打不開:Open WebUI 容器第一次啟動時,會在背景自動下載預設的本地 Embedding 模型(用來幫
#讀檔做向量運算)與前端資源。在網速較慢的環境下可能要等 2~3 分鐘,可用docker logs -f open-webui查看下載進度,千萬不要以為當機就強制砍掉重裝。 - 開放團隊使用卻忘記關閉「新用戶自動註冊」:如果你透過 Cloudflare Tunnel 或反向代理把 Open WebUI 掛到公網網址上,一定要在管理員設定裡將「Enable New Sign Ups」關閉,改由管理員手動建立帳號,否則任何知道網址的路人都能註冊進來消耗你的 API 額度或電腦算力。
- 用預設參數讀長篇中文 PDF 漏掉重點:預設的 Chunk Size(分段大小)偏小,遇到前後文關聯強的合約或財報容易斷章取義。建議到後台「文件設定(Documents)」把 Chunk Size 調高至
1000~1500字元、Overlap 設為200,並把回傳參考段落數量Top K從預設的 3 提高到 5~8。 - 忘記掛載 Volume 導致更新後紀錄全失:執行
docker run時絕對不能漏掉-v open-webui:/app/backend/data。這行指令會把你的帳號、對話紀錄與上傳的知識庫文件獨立保存在 Docker Volume 裡,日後使用 Watchtower 或手動更新映像檔時資料才會完整保留。
官方影音與實戰導讀
如果你想看實際在本地端把 Open WebUI 與 Ollama 串起來、現場測試讀檔與介面設定的完整畫面,可以參考以下這支熱門教學影片:
- 推薦實戰教學影片:Open WebUI + Ollama 完整安裝與功能實戰教學
影片重點導讀:
- 環境準備與 Docker 指令實測:從確認 Ollama 運作狀態開始,一步步執行 Docker 容器啟動指令並進入初始化登入畫面。
- 系統介面與核心功能導覽:實際示範如何切換多模型對話、設定個人化系統提示詞,以及使用 # 符號匯入本地文件進行問答測試。
- 進階設定與擴充技巧:說明如何開啟聯網搜尋、調整參數溫度(Temperature)與上下文長度(Context Length),讓本地模型發揮最佳表現。
常見問題(FAQ)
Q1:Open WebUI 本身有包含 AI 模型嗎?安裝完就能直接聊天嗎?
沒有。Open WebUI 只是一個「網頁操作介面(Frontend)」,就像瀏覽器或方向盤一樣,背後必須接上引擎才能動。你必須先在本機裝好 Ollama(並執行過 ollama run 下載至少一個模型),或者在後台填入 OpenAI、Claude、Gemini 等雲端 API Key,才能開始對話。
Q2:用手機或公司的電腦,可以連回家裡電腦的 Open WebUI 嗎?
可以。最安全又不用申請固定 IP 的做法,是在同一台電腦上安裝 Tailscale(免費的虛擬內網工具)或設定 Cloudflare Tunnel。設定好之後,你在外面用手機瀏覽器打開專屬網址,就能像用 ChatGPT App 一樣直接呼叫家裡主機的算力與私人知識庫。
Q3:Open WebUI 可以商業使用嗎?公司內部架設需要付費嗎?
Open WebUI 採用開源授權(針對大規模商業雲端託管與去品牌化有特定 CLA/商業授權條款規範)。對絕大多數個人開發者、學校實驗室以及公司內部架設給員工使用的情境來說,都是完全免費且可自由部署的;只有當你要將其重新包裝並對外販售商業服務時,才需要遵守官方的企業授權規定。
Q4:我的對話紀錄與上傳的 PDF 檔案會被傳送給誰?
只要你使用的是本機 Ollama 模型與預設的本地 Embedding 模型,100% 的資料都只會留在你電腦的 Docker Volume 硬碟空間裡,不會傳送給任何第三方。唯有當你自己手動切換成 OpenAI、Claude 等雲端 API 模型時,該次對話的內容才會透過加密連線送往對應的 API 伺服器。