2025-03-02
编程
00
请注意,本文编写于 57 天前,最后修改于 56 天前,其中某些信息可能已经过时。

目录

1.安装ollama
2.使用ollama
2.1 ollama拉取模型
2.2 ollama查看模型
2.2 ollama删除模型
3.ollama导入自定义模型
3.1 从 GGUF 导入
3.2 运行命令创建模型
3.3 运行模型
4.ollama高级配置

ollama的安装和使用

1.安装ollama

根据官方下载对应的软件安装

2.使用ollama

打开cmd命令框或shell

2.1 ollama拉取模型

在官网模型地址查找对应模型

例子
ollama run deepseek-r1

提示

下载的模型地址在用户目录下

2.2 ollama查看模型

例子
ollama list

2.2 ollama删除模型

例子
ollama rm deepseek-r1

3.ollama导入自定义模型

3.1 从 GGUF 导入

Ollama 支持在 Modelfile 中导入 GGUF 模型:
创建一个文件夹,模型放入文件夹,然后在文件夹内建立一个名为Modelfile的文件,其中包含FROM指令以及要导入的模型的本地文件路径。

FROM ./vicuna-33b.Q4_0.gguf

3.2 运行命令创建模型

ollama create example -f Modelfile

3.3 运行模型

ollama run example

4.ollama高级配置

修改对应的环境变量

未完待续。。。