零基础也能搞定!手把手教你安装部署Ollama,轻松玩转DeepSeek

作品声明:个人观点、仅供参考

引言

在人工智能和机器学习领域,大模型的应用越来越广泛。然而,对于许多初学者来说,如何安装和部署这些复杂的模型仍然是一个巨大的挑战。今天,我们将手把手教你如何从零开始安装和部署Ollama,并轻松玩转DeepSeek大模型。无论你是技术小白还是有一定基础的开发者,这篇文章都将为你提供详细的步骤和实用的技巧。

正文

一、什么是Ollama和DeepSeek大模型?

在开始之前,我们先简单介绍一下Ollama和DeepSeek大模型。Ollama是一个开源的机器学习平台,旨在简化模型的部署和管理。而DeepSeek大模型则是一个强大的自然语言处理模型,广泛应用于文本生成、情感分析、机器翻译等领域。

二、准备工作

在安装和部署Ollama之前,我们需要做一些准备工作:

  1. 硬件要求:确保你的计算机具备足够的计算资源,建议使用至少16GB内存和4核CPU的机器。
  2. 操作系统:Ollama支持多种操作系统,包括Linux、Windows和macOS。本文将基于windows系统进行讲解,Windows 10 22H2 或更新版本,家庭版或专业版。
  3. 如果你使用的是 NVIDIA 显卡,需要安装 452.39 或更新版本的驱动
  4. 如果你使用的是 AMD Radeon 显卡,需要安装 AMD Radeon 驱动
  5. Ollama 使用 Unicode 字符显示进度条,某些旧版 Windows 10 终端字体可能无法正确显示。如果遇到此问题,可以尝试更改终端字体设置。

三、安装Ollama

接下来,我们将一步步安装Ollama:

下载安装包:Ollama官网(Ollama)Ollama

选择Download进入下载页面

选择Windows进行下载,文件大小1G左右。

  1. Ollama安装:双击OllamaSetup.exe文件进行安装,安装过程没办法修改安装路径等相关信息。
  2. 验证安装:安装完成后,可以通过以下命令验证是否安装成功。win+r 输入cmd进入命令行窗口
ollama --version

  1. 更改模型路径:

文件系统要求,Ollama 安装不需要管理员权限,默认会安装到你的用户目录中。安装二进制文件需要至少 4GB 空间。安装完成后,还需要额外空间存储大语言模型,这些模型可能占用数十到数百 GB 的空间。如果你的用户目录空间不足,可以更改安装路径或模型存储位置。

设置环境变量

OLLAMA_MODELS = E:\OLLAMA

  1. 其他电脑访问ollama模型:

配置环境变量

OLLAMA_HOST = 0.0.0.0
OLLAMA_ORIGINS = *

四、部署DeepSeek大模型

安装好Ollama后,我们就可以开始部署DeepSeek大模型了:

  1. 下载模型:ollama官网中提供大量的模型可供选择

  1. deepseek版本说明

模型版本

GPU 需求

CPU 需求

内存需求

存储需求

适用场景

1.5B

无需 GPU

4 核以上

8GB

12GB

低配设备,简单任务

7B

8GB 显存

8 核以上

16GB

80GB

中等复杂度任务

8B

8GB 显存

8 核以上

16GB

80GB

更高精度任务

14B

16GB 显存

12 核以上

32GB

200GB

复杂任务(数学推理、代码生成)

32B

24GB 显存

16 核以上

64GB

320GB

高精度专业任务

70B

多卡并行(如 2x A100)

32 核以上

128GB

500GB

大规模计算任务

671B

多节点分布式训练(如 8x A100)

64 核以上

512GB

512GB

前沿科学研究

  1. 下载模型:以1.5b为例。
ollama run deepseek-r1:1.5b
其他大小
ollama run deepseek-r1:7b
ollama run deepseek-r1:8b
ollama run deepseek-r1:14b
ollama run deepseek-r1:32b
ollama run deepseek-r1:70b
ollama run deepseek-r1:671b
下载完成后通过
ollama list进行查看下载的模型

  1. 测试模型:可以通过下载chatbox进行模型测试

五、常见问题及解决方案

在安装和部署过程中,可能会遇到一些问题。以下是一些常见问题及其解决方案:

  1. 故障排查:Ollama 在 Windows 上的文件存储位置如下。你可以通过以下命令在资源管理器中查看。
explorer %LOCALAPPDATA%\Ollama:包含日志和下载的更新文件
app.log:GUI 应用程序的日志
server.log:服务器的日志
upgrade.log:升级日志
  1. GPU没有工作解决办法win+r 进入命令行,输入cmd
nvidia-smi

下载GUDA选择版本,安装要求进行下载安装

下载地址 :CUDA Toolkit Archive | NVIDIA Developer

CUDA Toolkit Archive | NVIDIA Developer

  1. Ollama官网访问不通:
可以使用国内网站下载ollama中文

Ollama中文官网 - Ollama国内加速下载

结尾

通过本文的详细讲解,相信你已经掌握了如何从零开始安装和部署Ollama,并成功运行DeepSeek大模型。无论你是初学者还是有经验的开发者,都可以通过Ollama轻松玩转大模型。希望这篇文章对你有所帮助,如果你有任何问题或建议,欢迎在评论区留言讨论。

结语

人工智能的世界充满了无限可能,而掌握这些工具和技术将为你打开新的大门。继续探索,继续学习,未来的你一定会感谢现在努力的自己。祝你在AI的旅程中一帆风顺!


注意:本文仅供参考,实际操作中可能会因环境不同而有所差异。建议在操作前备份重要数据,并仔细阅读相关文档。

举报