当前位置:论坛首页 > Linux面板 > Linux面板教程

【教程贴】Docker应用-DeepSeek-R1帮助

发表在 Linux面板2025-2-6 11:29 [复制链接] 28 4597

此使用帮助适用宝塔面板9.4.0以上的版本(2025年2月6日后发布的滚动修复包,请修复面板后安装DeepSeek-R1

写在前面,配置不满足运行模型会导致服务器卡死或无法访问,请正确选择服务器配置后部署!

  1. 各模型建议的服务器配置:
  2. 实测:
  3. 2c4g可以运行1.5b,想要更流畅的话建议到8g内存,此模型可以不需要GPU
  4. 8c16g可以运行7b/8b,此模型建议使用GPU运行,建议最少使用8G运存的GPU
  5. 其他模型尚未测试,欢迎补充~

  6. 腾讯云合作伙伴性能基准测试如下:
  7. 【1.5B模型:内存占用2G左右】
  8. 2c4g(S5):生成过程中,CPU占用100%
  9. 2c8g(S5):生成过程中,CPU占用100%
  10. 4c16g(S2):生成过程中,CPU占用100%
  11. 16c64g(SA2):生成过程中,CPU占用30~40%

  12. 【7B模型:内存占用7.6G左右】
  13. 4c8g(SA2):生成过程中,CPU占用100%
  14. 16c64g(SA2):生成过程中,CPU占用50%
复制代码


如何30秒安装一个DeepSeek-R1 AI模型?
* 首次安装可能需要1-20分钟,安装大模型服务套件总共需要下载5G以上,根据网络情况决定安装速度

如果您需要通过域名直接访问,请先到宝塔面板的【软件商店】安装Nginx,不需要域名访问则忽略

前往宝塔面板【Docker】-【应用商店】,点击DeepSeek-R1应用,点击安装即可
screenshot-1738810100391.png

如果没显示DeepSeek应用,请点击右上角【更新应用列表】获取
screenshot-1738813694831.png

如果需启用GPU支持,请参考此教程进行GPU设置:
https://github.com/ollama/ollama/blob/main/docs/docker.md

随后点击【已安装】应用的文件夹按钮,前往对应的应用目录
screenshot-1738811685164.png

编辑docker-compose.yml文件,将第5-11行的注释去掉,保存
screenshot-1738811874074.png

再回到【已安装】应用界面,将此应用重启即可启用GPU支持
screenshot-1738811890321.png

【常见问题】
1、安装成功了,但无法看到DeepSeek界面,原因是什么?
安装部署完成后,软件首次启动需要花 2 - 10 分钟时间,启动完成后可以看到 Web 界面。

2、安装成功了,但是模型输出很慢,原因是什么?
模型可能会占用大量的资源(CPU/内存/GPU),如果无法正常使用,请切换低级别的模型使用。

3、部署成功后,模型访问提示500,原因是什么?
71b1378cc8fad6b0bc6311cb0daa953d.png
请检查服务器内存是否足以支撑模型运行,例如:1.5b的模型需要至少1.5GB的活动内存(具体信息请查看ollama容器的日志)
8dd910b90a09617458cbd360237e7c74.png
41fc9ac1663f3688b70b33548c964197.png

4、无法访问?
注意:应用不经过系统防火墙,如果您不填写域名,勾选【允许外部访问】后是直接允许外部访问,如果您是云服务器,勾选【允许外部访问】后,请到服务器安全组放行此数据库的端口

开放安全组示例(必需):
阿里云
腾讯云

使用遇到问题欢迎帖子留言,或者加入Docker官方交流QQ群:662047798
使用道具 举报 只看该作者 回复
发表于 2025-2-8 22:46:59 | 显示全部楼层
安装是很快,也可以正常登录,只不过没有模型选项,还需要做什么额外操作?
使用道具 举报 回复 支持 3 反对 0
发表于 2025-2-8 17:53:02 | 显示全部楼层
安装完成后 webui能访问 但是没有模型选择
使用道具 举报 回复 支持 1 反对 0
发表于 2025-2-7 19:08:07 | 显示全部楼层
模型能,在哪里,回自动下载嘛,可以改模型存放位置嘛
使用道具 举报 回复 支持 1 反对 0
发表于 2025-2-6 12:02:40 | 显示全部楼层

支持!沙发!

支持!沙发!
使用道具 举报 回复
发表于 2025-2-6 12:28:29 | 显示全部楼层
学习学习
使用道具 举报 回复
发表于 2025-2-6 13:39:23 | 显示全部楼层
安装后,500 :内部错误,什么问题?
使用道具 举报 回复 支持 反对
发表于 2025-2-7 09:56:49 | 显示全部楼层
宝塔用户_pffdyr 发表于 2025-2-6 13:39
安装后,500 :内部错误,什么问题?

1.5b模型的话,服务器的活动内存需要大于1.5GB才能正常跑起来,否则ollama就会报500的错误
使用道具 举报 回复 支持 反对
发表于 2025-2-8 10:31:58 | 显示全部楼层
本帖最后由 宝塔用_9fef 于 2025-2-8 10:36 编辑

安装之后web页面访问不了
微信截图_20250208103550.png
使用道具 举报 回复 支持 反对
发表于 2025-2-8 10:52:21 | 显示全部楼层
宝塔用_9fef 发表于 2025-2-8 10:31
安装之后web页面访问不了

重新安装就没有报错了。但是对外暴露端口时报错
微信截图_20250208105139.png
使用道具 举报 回复 支持 反对
发表于 2025-2-9 09:42:43 | 显示全部楼层

ollama容器一直暂停中无法启动,内存也是足够的,请问什么原因
使用道具 举报 回复 支持 反对
发表于 2025-2-9 20:29:04 | 显示全部楼层
本帖最后由 nooshen 于 2025-2-9 20:49 编辑
nooshen 发表于 2025-2-8 22:46
安装是很快,也可以正常登录,只不过没有模型选项,还需要做什么额外操作? ...

Snipaste_2025-02-09_20-28-10.png Snipaste_2025-02-09_20-47-55.png

选择需要的版本,自己拉取
使用道具 举报 回复 支持 反对
发表于 2025-2-9 22:17:59 | 显示全部楼层

PixPin_2025-02-09_22-17-12.png

一直这样,什么原因呢
使用道具 举报 回复 支持 反对
发表于 2025-2-10 08:29:55 | 显示全部楼层
stone002 发表于 2025-2-9 22:17
一直这样,什么原因呢

我也是,一直这样,没人解决
使用道具 举报 回复 支持 反对
发表于 2025-2-10 09:30:30 | 显示全部楼层
cqctm 发表于 2025-2-10 08:29
我也是,一直这样,没人解决

改一下镜像就好了
https://www.bt.cn/bbs/thread-141215-1-1.html
使用道具 举报 回复 支持 反对
12下一页
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

普通问题处理

论坛响应时间:72小时

问题处理方式:排队(仅解答)

工作时间:白班:9:00 - 18:00

紧急运维服务

响应时间:3分钟

问题处理方式:宝塔专家1对1服务

工作时间:工作日:9:00 - 18:30

宝塔专业团队为您解决服务器疑难问题

立即付费处理

工作时间:09:00至24:00

快速回复 返回顶部 返回列表