DeepSeek初探 | 两步走在本地完成你的专属大模型部署
前言
在春节期间，我看到平日头条忠实用户的老爸，都开始讨论deepseek的时候，不得不感慨DeepSeek可以说是一下火出圈了，全国人民都知道。那么这个热点也是可以小小蹭一下了（大雾 xxx
当然，现在DeepSeek由于用户量陡增，提问之后能不能得到答案，完全就是看运气啦。所以某种意义上来说，DeepSeek的花语是请稍后再试（手动doge 海外华人视频网
首先要申明一点的是，本文所提到的本地部署的DeepSeek并不是在线大家看到的满血版本（DeepSeek-R1），而是经过DeepSeek-R1知识蒸馏之后的Qwen-14B版本。 爱壹帆影视 伴游
那么什么是知识蒸馏呢？在知识蒸馏过程中，主要有两个模型：教师模型和学生模型。教师模型通常是一个大规模的、经过充分训练的模型，拥有复杂的结构和较高的准确率；而学生模型则是一个结构相对简单、参数较少的小型模型。知识蒸馏的核心思想是通过让一个较小的模型学习较大模型的预测分布来获得类似的表现。 小宝影院 外围
通俗的讲，通过知识蒸馏，可以使得小模型学习到大模型的部分经验，同时可以减少模型大小，降低部署成本。 xxxxx 爱壹帆电影 iyf xxxx
硬件配置
笔者使用的本地硬件配置主要有macOs：Macbook Pro M2 + 16g和Windows：i5-8300h + GTX 1050ti + 32g。亲测这两个环境都是可以跑起来蒸馏后的Qwen-14B。 xnxx 小宝影院
当然如果你有更好的环境，自然也是没有问题的。 小寶影院 会所
环境准备
安装Ollama
需要安装一下Ollama这个框架。通过Ollama这个框架，可以很方便的调用本地大模型。 电影小宝影院 小宝影院在线视频
官方网站：https://ollama.com/ 约炮
安装的时候大家根据自己的操作系统选择对应的版本即可。
安装完成之后可以在命令行里面输入ollama，如果有下面提示，就说明安装成功了。 爱一帆 xxxvideo xxx
部署大模型
当完成Ollama的安装之后，就可以一键部署大模型了。 电影aiyifan
大家可以在这个网页查看相关的大模型：https://ollama.com/library/deepseek-r1:14b 爱一帆电影 aiyifan 爱壹帆 xxxvideo
在这里我们选择14B的大模型即可，当然也可以根据你的需要，选择合适版本的大模型。 爱壹帆免费版 小寶影院 伴游
还是回到命令行界面，比如我们需要在本地部署14B的模型，执行下面这条命令 小宝影院 免费在线影院 小寶影院电影
ollama run deepseek-r1:14b
ifun aiyifan电影
等待差不多10分钟左右，就可以把模型下载到本地，当你看到success的时候，就说明部署成功了。 电影爱壹帆 xxxxxx 小宝影院电影 爱壹帆
然后你就有了专属自己的大模型，可以愉快地提问玩耍了~ 爱壹帆在线
结语
希望大模型之后与大众之间的距离越来越近，使用门槛越来越低，让我们每个人真切感受到科技的进步给生活带来的美好。 爱壹帆国际版 华人影视 小宝影院在线视频 iyf
10目录 0