ollama 官方也第一时间升级支持Qwen2.5 0.5B 、1.5B 、7B 、32B、72B 模型
下面我们就以7B模型给大家部署和演示以下Qwen2.5 模型到底怎么样。
ollama 版本升级
首先我们需要将本地ollama 升级到 最新版本v0.3.11 以便更好的支持最新的模型,我们从ollama 最新版本升级说明也可以看到本次版本对Qwen2.5 模型的支持
下载ollama 最新v0.3.11 版本(我们就以windows 版本为案例介绍)
将下载的OllamaSetup.exe 下载到本地。
检查本地ollama
在安装ollama 之前我们先检查一下ollama 本地环境的版本.windows cmd窗口中输入
ollama -v
显示是0.3.10 版本
安装ollama
将刚才下载的OllamaSetup.exe 双击安装。这个安装比较简单,这里就不详细展开。
模型下载
接下来我们下载最新的qwen2.5 7B instruct模型
我们在windows cmd窗口中输入
ollama pull qwen2.5:7b-instruct