ollama的安装和使用
根据官方下载对应的软件安装
打开cmd命令框或shell
在官网模型地址查找对应模型
例子ollama run deepseek-r1
提示
下载的模型地址在用户目录下
例子ollama list
例子ollama rm deepseek-r1
Ollama 支持在 Modelfile 中导入 GGUF 模型:
创建一个文件夹,模型放入文件夹,然后在文件夹内建立一个名为Modelfile的文件,其中包含FROM指令以及要导入的模型的本地文件路径。
FROM ./vicuna-33b.Q4_0.gguf
ollama create example -f Modelfile
ollama run example
修改对应的环境变量
未完待续。。。