DeepSeek模型选择和下载

根据博主的提供的参数，先清楚自己能够使用多大的模型，再进行下载。

根据自己电脑的显卡配置和需求选择合适的模型下载，可以先下载1个尝试，模型是可以下载多个并灵活切换的。

模型参数	模型精度	文件大小（以Q4为标准）	显卡多大显存合适（以Q4为标准）
1.5B	Q2/Q3/Q4/Q5/Q6/Q8	1.4GB	4G – 6G
7B	Q2/Q3/Q4/Q5/Q6/Q8	4.7GB	8G – 12G
8B	Q2/Q3/Q4/Q5/Q6/Q8	4.9GB	8G – 12G
14B	Q2/Q3/Q4/Q5/Q6/Q8	9.0GB	12G – 16G
32B	Q2/Q3/Q4/Q5/Q6/Q8	20GB	16G – 24G
70B	Q2/Q3/Q4/Q5/Q6/Q8	40GB	24G – 48G
671B	Q2/Q3/Q4/Q5/Q6/Q8	1.3TB	80G以上