〇、說(shuō)明

為什么使用本方案

1. 部署環(huán)境與資源

   • 本地部署需要用戶自建硬件（如 GPU 集群）和配置環(huán)境，適合對(duì)數(shù)據(jù)隱私要求較高或離線處理場(chǎng)景；
   • 線上 API 則由服務(wù)商托管，用戶通過(guò)網(wǎng)絡(luò)調(diào)用，無(wú)需自行投資硬件資源。

2. 數(shù)據(jù)安全與控制

   • 本地部署數(shù)據(jù)完全由用戶掌握，更安全；
   • 線上 API 涉及數(shù)據(jù)傳輸和第三方服務(wù)器，存在一定隱患。

3. 更新維護(hù)與擴(kuò)展性

   • 線上 API 由提供商持續(xù)更新和維護(hù)，用戶總能使用最新版本；
   • 本地部署需要用戶自行管理更新和維護(hù)，工作量較大。

4. 成本結(jié)構(gòu)

   • 線上 API 通常按調(diào)用計(jì)費(fèi)，初期投入較低；
   • 本地部署前期硬件投入較高，但對(duì)于大規(guī)模、長(zhǎng)期應(yīng)用可能更具成本優(yōu)勢(shì)。

5. 最重要的

   • DeepSeek服務(wù)經(jīng)常500

一、 安裝Ollama

Ollama 是一個(gè)開源的 AI 模型，主要用于生成和理解圖像。它由 Anthropic 開發(fā)并發(fā)布，這是一個(gè)專注于 AI 研究的公司。Ollama 的核心功能包括圖像生成、圖像分割和圖像分類等任務(wù)。

1、主要特點(diǎn)：

1. 開源：Ollama 的代碼和模型都是公開的，允許研究人員和開發(fā)者自由使用和修改。
2. 高質(zhì)量的圖像生成：模型能夠生成逼真且多樣化的圖像，適用于游戲、藝術(shù)創(chuàng)作等領(lǐng)域。
3. 實(shí)時(shí)性：Ollama 模型通常運(yùn)行在本地設(shè)備上，可以快速生成結(jié)果，無(wú)需依賴云端服務(wù)。
4. 多語(yǔ)言支持：模型能夠理解和生成多種語(yǔ)言，適合自然語(yǔ)言處理任務(wù)。

2、安裝

進(jìn)入Ollama 官網(wǎng) 下載對(duì)應(yīng)系統(tǒng)進(jìn)行安裝

3、驗(yàn)證

安裝完成后，打開命令行工具，輸入以下命令驗(yàn)證是否安裝成功：
ollama --version
如果顯示版本號(hào)，說(shuō)明安裝成功。

二、Ollama 部署 DeepSeek

1、部署

進(jìn)入 Ollama 的 DeepSeek-R1 的官方下載地址 選擇模型，點(diǎn)擊復(fù)制按鈕

17390028031941.jpg

打開終端，輸入剛復(fù)制的命令
ollama run deepseek-r1:1.5b
下載時(shí)間取決于網(wǎng)絡(luò)速度和模型大小
下載完成后運(yùn)行
ollama run deepseek-r1:1.5b # 啟動(dòng)指定的 DeepSeek-R1 模型

17390053959813.jpg

2、模型選用

根據(jù)自己的顯存選擇對(duì)應(yīng)的模型，2G顯卡推薦選1.5b的。
我的電腦是21款 MacBookPro M1 Pro，運(yùn)行內(nèi)存16G，顯卡是集成顯卡，與內(nèi)存共用同一內(nèi)存，下載的模型是DeepSeek-R1 8B，后面內(nèi)存開銷很多，導(dǎo)致電腦變卡，可能需要重啟,后面下載1.5b 版本，會(huì)好很多

3、Ollama 常用命令

ollama pull 模型名字        # 拉取模型
ollama run 模型名字     # 啟動(dòng)指定的 DeepSeek-R1 模型
ollama chat  模型名字       # 使用run 命令啟動(dòng)聊天模式
ollama stop         # 停止正在運(yùn)行的模型與服務(wù)
ollama list     # 查看已下載的模型
ollama help     # 可用命令及簡(jiǎn)要說(shuō)明
ollama version      # ollama版本號(hào)
ollama logs     # 查看模型運(yùn)行時(shí)的日志輸出
ollama update       # 更新 Ollama 工具到最新版本
ollama config       #查看或設(shè)置 Ollama 的配置信息（例如 API 密鑰、緩存路徑等）

4、Ollama模型默認(rèn)存儲(chǔ)路徑

~/.ollama/models/

安裝open-webui

進(jìn)入open-webui GitHub 頁(yè)面
可以看到 open-webui 有兩種安裝方式

1、通過(guò)Python pip 安裝

要求

確保您使用的是Python 3.11

安裝命令

pip install open-webui      # 安裝 Open WebUI
open-webui serve    #運(yùn)行 Open WebUI

啟動(dòng)后 通過(guò) http://localhost:8080 來(lái)訪問(wèn)

2、通過(guò)Docker 安裝

安裝Docker（如已安裝請(qǐng)忽略）

以下是 Mac OS 下安裝 Docker 的簡(jiǎn)明步驟：

1. 下載安裝包
   訪問(wèn) Docker 官網(wǎng)（https://www.docker.com/products/docker-desktop/）下載適用于 Mac 的 Docker Desktop 安裝包。
2. 安裝 Docker Desktop
   雙擊下載的 .dmg 文件，將 Docker Desktop 拖拽到 Applications 文件夾中。
3. 啟動(dòng)與初始配置
   從 Applications 中啟動(dòng) Docker Desktop。首次啟動(dòng)時(shí)可能需要授權(quán)系統(tǒng)權(quán)限，按提示操作即可。等待 Docker 圖標(biāo)出現(xiàn)在菜單欄，表示 Docker Desktop 已啟動(dòng)并初始化完成。
4. 驗(yàn)證安裝
   打開終端，輸入以下命令確認(rèn) Docker 版本：

   docker --version
   

   若顯示版本信息，則表示安裝成功。

使用Docker 部署 open-webui

因?yàn)楸镜匾呀?jīng)安裝了Ollama 所以可以使用以下命令安裝

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

3、可能遇到的問(wèn)題

如果您遇到連接問(wèn)題，通常是由于 WebUI docker 容器無(wú)法訪問(wèn)容器內(nèi) 127.0.0.1:11434 (host.docker.internal:11434) 處的 Ollama 服務(wù)器。使用--network=hostdocker 命令中的標(biāo)志來(lái)解決此問(wèn)題。請(qǐng)注意，端口從 3000 更改為 8080，從而導(dǎo)致鏈接：http://localhost:8080。
Docker 命令示例：

docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

17390055034056.jpg