DeepSeek如何在本地进行部署

deepseek作为一款由杭州深度求索人工智能基础技术研究有限公司开发的人工智能平台，因其在大语言模型（llms）领域的卓越表现而备受瞩目。许多技术爱好者选择将deepseek-r1模型部署到本地，以提升离线可用性和数据私密性。以下将从环境准备、安装ollama、下载并部署deepseek模型、测试模型交互、安装open webui等多个维度，详细介绍deepseek的本地部署过程。

一、环境准备

在开始部署之前，需要确保系统满足一定的软硬件要求。

* 操作系统：支持windows 10/11、macos 10.14+、ubuntu 20.03+等。

* 硬件要求：

* cpu：4核及以上。

* 内存：16gb及以上。

* gpu：显存4gb及以上（推荐使用nvidia显卡，并安装cuda toolkit 12.x以支持gpu加速）。

* 存储：30gb及以上。

* 软件依赖：python 3.9+和git。

二、安装ollama

ollama是deepseek模型运行所依赖的框架，安装过程因操作系统而异。

* windows系统：

1. 访问ollama官网，点击“download”按钮，选择windows安装包。

2. 下载完成后，双击安装文件并按照提示完成安装。

3. 安装完成后，在命令行（cmd）中输入`ollama --version`，验证是否成功安装。

* macos系统：

1. 使用终端执行`curl -fssl https://ollama.com/install.sh | sh`命令进行一键安装。

2. 安装完成后，使用`ollama serve`命令启动服务（前台运行，用于调试），或通过homebrew管理后台服务。

* linux系统：

1. 以ubuntu为例，执行`curl -fssl https://ollama.com/install.sh | sh`命令进行一键安装。

2. 配置用户权限，避免使用sudo运行ollama服务。

3. 使用`systemctl start ollama`命令启动服务，并设置开机自启。

三、下载并部署deepseek模型

deepseek提供了多个版本的模型，用户可以根据自己的需求选择合适的版本进行下载和部署。

* 选择模型版本：

* 入门级：1.5b版本，适合初步测试。

* 中端：7b或8b版本，适合大多数消费级gpu。

* 高性能：14b、32b或70b版本，适合高端gpu。

* 下载并运行模型：

1. 打开命令行终端。

2. 根据选择的模型版本，执行相应的命令进行下载和运行。例如，下载并运行7b版本的命令为`ollama run deepseek-r1:7b`。

四、测试deepseek模型交互

模型部署完成后，可以通过命令行终端与deepseek模型进行交互测试。

* 命令行交互测试：

1. 在命令行终端中，执行运行模型的命令（如`ollama run deepseek-r1:7b`）。

2. 进入交互界面后，可以输入问题与模型进行对话。如果交互过程中响应较慢，可多按几次回车，耐心等待下载完成和加载模型。

五、安装open webui（可选）

为了优化交互体验，可以使用docker安装open webui，通过网页端与deepseek模型进行交互。

* 安装docker：

1. 访问docker官网，下载并安装docker desktop。

* 安装open webui：

1. 打开命令行终端，执行`docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main`命令进行安装。

2. 打开浏览器，访问`http://localhost:3000/`，进入open webui界面。

3. 注册管理员账号并登录后，进入模型管理页面，添加本地模型（如deepseek-r1-7b），并填写运行命令。

4. 保存设置后，在主界面点击对应模型，即可开始通过网页端与模型进行对话。

通过以上步骤，用户可以在本地成功部署deepseek模型，并通过命令行或网页端进行交互测试。本地部署不仅提升了模型的离线可用性和数据私密性，还为用户提供了更灵活的使用方式和更高的可扩展性。