
DeepSeek模型选择和下载
根据博主的提供的参数,先清楚自己能够使用多大的模型,再进行下载。
根据自己电脑的显卡配置和需求选择合适的模型下载,可以先下载1个尝试,模型是可以下载多个并灵活切换的。
模型参数 | 模型精度 | 文件大小(以Q4为标准) | 显卡多大显存合适(以Q4为标准) |
---|---|---|---|
1.5B | Q2/Q3/Q4/Q5/Q6/Q8 | 1.4GB | 4G – 6G |
7B | Q2/Q3/Q4/Q5/Q6/Q8 | 4.7GB | 8G – 12G |
8B | Q2/Q3/Q4/Q5/Q6/Q8 | 4.9GB | 8G – 12G |
14B | Q2/Q3/Q4/Q5/Q6/Q8 | 9.0GB | 12G – 16G |
32B | Q2/Q3/Q4/Q5/Q6/Q8 | 20GB | 16G – 24G |
70B | Q2/Q3/Q4/Q5/Q6/Q8 | 40GB | 24G – 48G |
671B | Q2/Q3/Q4/Q5/Q6/Q8 | 1.3TB | 80G以上 |
常见模型种类
付费后可下载的内容
如果不会部署参考下文步骤操作

© 版权声明
- 本站素材解压密码:
7788
- 本站永久网址:https://mix688.com
- 内容声明:本网站文章部分内容来源于网络,仅供学习参考,如有侵权请联系站长微信ktc909删除处理
- 资源立场声明:本站资源不代表本站立场,不保证内容真实性
- 违法信息处理:禁止发布/转载违法信息,访客发现请向站长举报
- 资源存储声明:资源存储在云盘,链接失效请联系我们更新
THE END
暂无评论内容