转载自：附件2-Ollama命令和API详解 - 飞书云文档
Ollama对话指令
在Ollama终端中提供了一系列指令，可以用来调整和控制对话模型：
/? 指令
/? 指令主要是列出支持的指令列表
[root@bogon ~]# ollama run qwen2:0.5b
>>> /?
Available Commands:
/set Set session variables
/show Show model information
/load <model> Load a session or model
/save <model> Save your current session
/clear Clear session context
/bye Exit
/?, /help Help for a command
/? shortcuts Help for keyboard shortcuts
Use """ to begin a multi-line message./bye 指令
退出当前控制台对话
[root@bogon ~]# ollama run qwen2:0.5b
>>> 您好
你好！有什么可以帮助您的吗？
>>> /bye
[root@bogon ~]# /show 指令
用于查看当前模型详细信息
[root@bogon ~]# ollama run qwen2:0.5b
>>> /show
Available Commands:
/show info 查看模型的基本信息
/show license 查看模型的许可信息
/show modelfile 查看模型的制作源文件Modelfile
/show parameters 查看模型的内置参数信息
/show system 查看模型的内置Sytem信息
/show template 查看模型的提示词模版/show info 查看模型的基本信息
>>> /show info
Model details:
Family qwen2 模型名称
Parameter Size 494.03M 模型大小
Quantization Level Q4_0 模型量化级别/show license 查看模型的许可信息—开源软件的许可协议
>>> /show license
Apache License
Version 2.0, January 2004
http://www.apache.org/licenses/
TERMS AND CONDITIONS FOR USE, REPRODUCTION, AND DISTRIBUTION
............................................................/show modelfile 查看模型的制作源文件Modelfile
modelfile ：文件是用来制作私有模型的脚本文件
>>> /show modelfile
# Modelfile generated by "ollama show"
# To build a new Modelfile based on this, replace FROM with:
# FROM qwen2:0.5b
FROM /root/ollama/blobs/sha256-8de95da68dc485c0889c205384c24642f83ca18d089559c977ffc6a3972a71a8
TEMPLATE "{{ if .System }}<|im_start|>system
{{ .System }}<|im_end|>
{{ end }}{{ if .Prompt }}<|im_start|>user
{{ .Prompt }}<|im_end|>
{{ end }}<|im_start|>assistant
{{ .Response }}<|im_end|>
"
PARAMETER stop <|im_start|>
PARAMETER stop <|im_end|>
LICENSE """
....................................................................../show parameters 查看模型的内置参数信息
>>> /show parameters
Model defined parameters:
stop "<|im_start|>"
stop "<|im_end|>"/show system 查看模型的内置system信息—system常常用来定一些对话角色扮演
>>> /show system
No system message was specified for this model./show template 查看模型的提示词模版
template：是最终传入大模型的字符串模版，模版中的内容由上层应用动态传入
>>> /show template
{{ if .System }}<|im_start|>system
{{ .System }}<|im_end|>
{{ end }}{{ if .Prompt }}<|im_start|>user
{{ .Prompt }}<|im_end|>
{{ end }}<|im_start|>assistant
{{ .Response }}<|im_end|>/? shortcuts 指令
查看在控制台中可用的快捷键
>>> /? shortcuts
Available keyboard shortcuts:
Ctrl + a 移动到行头
Ctrl + e 移动到行尾
Alt + b 移动到单词左边
Alt + f 移动到单词右边
Ctrl + k 删除游标后面的内容
Ctrl + u 删除游标前面的内容
Ctrl + w 删除游标前面的单词
Ctrl + l 清屏
Ctrl + c 停止推理输出
Ctrl + d 退出对话（只有在没有输入时才生效）""" 指令
""" 用于输入内容有换行时使用，如何多行输入结束也使用 """
>>> """
... 您好
... 你是什么模型？
... """
我是一个计算机程序，可以回答您的问题、提供信息和执行任务。请问您有什么问题或者指令想要我帮助您？/set 指令
set指令主要用来设置当前对话模型的系列参数
>>> /set
Available Commands:
/set parameter ... 设置对话参数
/set system <string> 设置系统角色
/set template <string> 设置推理模版
/set history 开启对话历史
/set nohistory 关闭对话历史
/set wordwrap 开启自动换行
/set nowordwrap 关闭自动换行
/set format json 输出JSON格式
/set noformat 关闭格式输出
/set verbose 开启对话统计日志
/set quiet 关闭对话统计日志/set parameter ... 设置对话参数
>>> /set parameter
Available Parameters:
/set parameter seed <int> Random number seed
/set parameter num_predict <int> Max number of tokens to predict
/set parameter top_k <int> Pick from top k num of tokens
/set parameter top_p <float> Pick token based on sum of probabilities
/set parameter num_ctx <int> Set the context size
/set parameter temperature <float> Set creativity level
/set parameter repeat_penalty <float> How strongly to penalize repetitions
/set parameter repeat_last_n <int> Set how far back to look for repetitions
/set parameter num_gpu <int> The number of layers to send to the GPU
/set parameter stop <string> <string> ... Set the stop parameters注意：设置这些参数只能在当前终端有效。
JSON格式输出
>>> /set format json
Set format to 'json' mode.
>>> 您好
{"response":"你好，欢迎光临，请问有什么我可以帮助您的吗？"}
>>> /set noformat
Disabled format.
>>> 您好
Hello! How can I assist you?输出对话统计日志
>>> /set verbose
Set 'verbose' mode.
>>> 您好
您好！我需要您的信息，以便回答您的问题。请问您能告诉我更多关于这个主题的信息吗？
total duration: 1.642906162s 总耗时
load duration: 3.401367ms 加载模型数据耗时
prompt eval count: 11 token(s) 提示词token消耗数量
prompt eval duration: 196.52ms 提示词处理耗时
prompt eval rate: 55.97 tokens/s 提示词处理速率
eval count: 24 token(s) 响应token消耗数量
eval duration: 1.304188s 响应处理耗时
eval rate: 18.40 tokens/s 响应处理速率/clear 指令
在命令行终端中对话是自带上下文记忆功能，如果要清除上下文功能，则使用/clear指令清楚上下文内容，例如：
前2个问题都关联的，在输入/clear则把前2个问题的内容给清理掉了，第3次提问时则找不到开始的上下文了。
>>> 请帮我出1道java list的单选题
以下是一些关于Java List的单选题：
在Java中，List是哪一种数据结构？
Java中的顺序存储方式（例如：使用数组）主要用来做什么？
一个列表对象可以包含哪些类型的元素？
>>> 再出1道
以下是一些关于Java List的单选题：
在Java中，List接口用于创建和操作集合。
Java中的顺序存储方式（如：使用数组）的主要优势有哪些？
一个列表对象可以包含哪些类型？
>>> /clear
Cleared session context
>>> 在出1道
很抱歉，我无法理解您的问题。您能否提供更多的背景信息或者问题描述，以便我能更好地帮助您？/load 指令
load可以在对话过程中随时切换大模型
>>> 你是什么大模型
我是一个基于开放AI平台的模型，拥有一个强大的数学推理能力，并且在各种自然语言处理任务上都表现优秀。我可以回答您提出的问题，也可以提供与主题相关的信息和建议。如果您有任何问题或需要帮助，
请随时告诉我！
>>> /load deepseek-coder
Loading model 'deepseek-coder'
>>> 你是什么大模型
我是由中国的深度求索（DeepSeek）公司开发的编程智能助手，名为 Deepseek Coder。我主要用于解答和协助计算机科学相关的问题、问题解决方案等任务。我的设计目标是提供最全面准确的高质量服务来帮
助用户理解复杂的新技术或概念并迅速找到它们在实际应用中的实现方法或者原理所在的地方。/save 指令
可以把当前对话模型存储程一个新的模型
+>>> /save test
Created new model 'test'
保存的模型存储在ollama的model文件中，进入下面路径即可看见模型文件test：
[root@bogon library]# pwd
/root/ollama/manifests/registry.ollama.ai/library
[root@bogon library]# ls
deepseek-coder qwen2 testOllama客户端命令
Ollama客户端还提供了系列命令，来管理本地大模型，接下来就先了解一下相关命令：
run 命令
run命令主要用于运行一个大模型，命令格式是：
ollama run MODEL[:Version] [PROMPT] [flags]
//比如，运行通义千问命令：
ollama run qwen2:0.5b[:Version] 可以理解成版本，而版本信息常常以大模型规模来命名，可以不写，不写则模式成latest
ollama run qwen2
等同
ollama run qwen2:latest[PROMPT] 参数是用户输入的提示词，如果带有此参数则，run命令会执行了输入提示词之后即退出终端，即只对话一次。
[root@bogon ~]# ollama run qwen2:0.5b 您好
您好！有什么问题我可以帮助您？
[root@bogon ~]# [flags] 指定运行时的参数
Flags:
--format string 指定运行的模型输出格式 (比如. json)
--insecure 使用非安全模，比如在下载模型时会忽略https的安全证书
--keepalive string 指定模型在内存中的存活时间
--nowordwrap 关闭单词自动换行功能
--verbose 开启统计日志信息例如，在启动时增加 --verbose参数，则在对话时，自动增加统计token信息：
[root@bogon ~]# ollama run qwen2:0.5b --verbose
>>> 您好
欢迎光临，我可以为您提供帮助。有什么问题或需要帮助的地方？
total duration: 1.229917477s
load duration: 3.027073ms
prompt eval count: 10 token(s)
prompt eval duration: 167.181ms
prompt eval rate: 59.82 tokens/s
eval count: 16 token(s)
eval duration: 928.995ms
eval rate: 17.22 tokens/sshow 命令
不用运行大模型，查看模型的信息，与之前所学的/show功能类似。
[root@bogon ~]# ollama show -h
Show information for a model
Usage:
ollama show MODEL [flags]
Flags:
-h, --help 查看使用帮助
--license 查看模型的许可信息
--modelfile 查看模型的制作源文件Modelfile
--parameters 查看模型的内置参数信息
--system 查看模型的内置Sytem信息
--template 查看模型的提示词模版例如，查看提示词模版：
[root@bogon ~]# ollama show qwen2:0.5b --template
{{ if .System }}<|im_start|>system
{{ .System }}<|im_end|>
{{ end }}{{ if .Prompt }}<|im_start|>user
{{ .Prompt }}<|im_end|>
{{ end }}<|im_start|>assistant
{{ .Response }}<|im_end|>pull 命令
查询模型名称的网站：https://ollama.com/
从远程下载一个模型，命令格式是：
ollama pull MODEL[:Version] [flags][:Version] 可以理解成版本，但在这里理解成大模型规模，可以不写，不写则模式成latest
ollama pull qwen2
等同
ollama pull qwen2:latest[flags] 参数，目前只有一个--insecure参数，用于来指定非安全模式下载数据
ollama pull qwen2 --insecurelist/ls 命令
查看本地下载的大模型列表，也可以使用简写ls
[root@bogon ~]# ollama list
NAME ID SIZE MODIFIED
deepseek-r1:7b 0a8c26691023 4.7 GB 2 months ago 列表字段说明：
NAME：名称
ID：大模型唯一ID
SIZE：大模型大小
MODIFIED：本地存活时间
注意：在ollama的其它命令中，不能像docker一下使用ID或ID缩写，这里只能使用大模型全名称。
ps 命令
查看当前运行的大模型列表，PS命令没其它参数
[root@bogon ~]# ollama ps
NAME ID SIZE PROCESSOR UNTIL
deepseek-r1:7b 0a8c26691023 6.0 GB 100% GPU 4 minutes from now列表字段说明：
NAME：大模型名称
ID：唯一ID
SIZE：模型大小
PROCESSOR：资源占用
UNTIL：运行存活时长
rm 命令
删除本地大模型，RM命令没其它参数
[root@localhost system]# ollama ls
NAME ID SIZE MODIFIED
qwen2:latest e0d4e1163c58 4.4 GB 16 hours ago
deepseek-coder:latest 3ddd2d3fc8d2 776 MB 19 hours ago
qwen2:0.5b 6f48b936a09f 352 MB 24 hours ago
[root@localhost system]# ollama rm qwen2:0.5b
deleted 'qwen2:0.5b'
[root@localhost system]# ollama ls
NAME ID SIZE MODIFIED
qwen2:latest e0d4e1163c58 4.4 GB 16 hours ago
deepseek-coder:latest 3ddd2d3fc8d2 776 MB 19 hours ago
[root@localhost system]# Ollama的常用API
官网API地址：
https://github.com/ollama/ollama/blob/main/docs/api.md
注意：ollama的默认端口号是11434，如果访问本地：http://localhost:11434
聊天对话API
概念：聊天对话接口，是实现类似ChatGPT、文心、通义千问等网页对话功能的关键接口
请求路径：/api/chat
请求方式：post
请求参数：（Body 参数application/json）
示例：
{
"model": "qwen2:0.5b",
"messages": [
{
"role": "user",
"content": "你是谁"
}
],
"stream": false
}响应参数：
示例：
{
"model": "qwen2:0.5b",
"created_at": "2024-12-05T12:30:01.847269495Z",
"message": {
"role": "assistant",
"content": "我是来自阿里云的超大规模语言模型通义千问。我可以回答您提出的问题，也可以提供一些关于人工智能、机器学习和计算机科学方面的信息。如果您有其他问题，我会很高兴为您解答。"
},
"done_reason": "stop",
"done": true,
"total_duration": 5403463843,
"load_duration": 10397941,
"prompt_eval_count": 10,
"prompt_eval_duration": 433809000,
"eval_count": 45,
"eval_duration": 4917616000
}内容生成API
概念：针对给定的提示生成相应的回复，并使用所提供的模型进行处理。
请求路径：/api/generate
请求方式：POST
请求参数：
示例：
{
"model": "deepseek-r1:7b",
"prompt": "为什么天是蓝色的?",
"stream":false
}响应参数：
示例：
{
"model": "deepseek-r1:7b",
"created_at": "2025-05-09T11:43:48.1697438Z",
"response": "<think>\n嗯，为什么天空看起来是蓝色的呢？这真的让我很好奇。我记得小时候老师可能提到过这个知识点，但那时候我对科学原理还不是特别了解。所以现在我想仔细思考一下这个问题。\n\n首先，我想到阳光是由多种颜色组成的，也就是我们说的颜色谱：红、橙、黄、绿、蓝、靛、紫。这些颜色在光谱中的位置是从红色在最长波长到紫色在最短波长。那为什么天空是蓝色的呢？因为蓝色应该是在中间的位置对吧？\n\n然后，我想到了空气里面有各种气体分子，比如氮气和氧气。可能这些气体会影响阳光的颜色。我记得有一次学过散射现象，也就是光线在遇到颗粒物时会发生改变。比如太阳光在通过大气层的时候，有些颜色会被散射到各个方向。\n\n那蓝色的光波长比较短，大约是400纳米左右，而红色的较长，大约700纳米。空气中的许多分子对不同颜色的光有不同的散射效果。是不是因为蓝色的光线比红色的更容易被大气中的小颗粒或者分子散射开来？\n\n还有，我记得在太阳正午的时候，阳光最强烈，这可能也是影响天空颜色的一个因素。这时候更多的蓝色光被散射到各个方向，导致我们看到整个天是蓝色的。\n\n不过，我还记得有些时候天空会有不同的颜色，比如橙色、黄色或红色，这是不是说明只有在特定条件下，比如有大量硫酸盐微粒的时候，天空才会呈现出其他颜色呢？这可能是因为这些微粒对光线有不同的散射效果，导致颜色变化。那如果环境中的粒子数量少，或者分布不同的话，天空的颜色就会不一样。\n\n另外，我还在想，是否地球自转的因素会影响天空的颜色呢？因为当我们在转动时，看到的光可能是从不同角度混合的结果，这也可能导致天空呈现蓝色。可是这可能不是主要原因吧，主要还是由于光线的散射。\n\n还有，除了大气中的粒子，日出和日落的时候，太阳周围的外层大气可能对光线产生不同的效果。那是不是也影响了天空的颜色呢？不过这可能只是部分原因，主要还是以日间的大气条件为主。\n\n总结一下，我现在的理解是：天空呈现蓝色主要是因为阳光中的蓝色光波长较短，更容易被空气中的小颗粒和分子散射到各个方向，特别是在阳光直射的情况下。而其他颜色如红色通常出现在的日落或者 sunrise的时候，可能是因为光线经过更长的大气路径，使得红色的光线更容易透过大气层到达地面。\n\n当然，我也知道这个理解还不够全面，可能还有其他的因素影响天空的颜色变化。比如不同地区的大气条件、污染水平等都会影响天空的实际颜色。此外，像 stratosphere 中的臭氧层对太阳光的影响也会影响天空的颜色，尤其是在某些波长下可能会有吸收现象出现。\n\n所以，总体来说，天空呈现蓝色主要是因为散射效应，特别是蓝色光线在穿过较短距离的大气时被散射得更广泛，使得我们看到整个天空呈现出蓝色。而其他颜色如红色可能是在特定条件下或较长距离的情况下表现出来的效果。\n</think>\n\n天空呈蓝色的原因主要归因于阳光的散射现象和大气层对不同颜色光的影响。以下是详细解释：\n\n1. **阳光的颜色组成**：白光实际上是由多种颜色组成的，包括红、橙、黄、绿、蓝、靛、紫等，形成可见光谱。\n\n2. **散射效应**：\n - 空气中含有大量的氮气和氧气分子。\n - 当太阳光进入大气层时，不同颜色的光具有不同的折射率。蓝色光（波长约为400纳米）比红色光（约700纳米）更容易被大气中的微粒散射或反射。\n\n3. **日间散射**：\n - 在阳光直射的情况下，蓝色光被空气中的颗粒、水滴或分子广泛地散射到各个方向，使天空呈现出蓝色。\n - 这种现象在晴朗无污染的天气中更为明显。\n\n4. **日出和日落的现象**：\n - 此时，光线经过更长的大气路径（例如日出时经过散逸层和外对流层），红色光更容易透过大气层到达地面，使天空呈现红色、橙色或黄色。\n - 这种现象与地球自转无关，而是由于光线路径长度的不同导致。\n\n5. **其他颜色的影响因素**：\n - 大气中的颗粒物（如硫酸盐微粒）会影响阳光的散射效果，从而改变天空的颜色。例如，污染严重的地区可能呈现灰色或棕色。\n - 日出和日落时的大气层结构不同，使红色光更容易透过大气层到达地面。\n\n6. **地球自转的影响**：\n - 地球自转确实影响了我们看到的天空颜色，但由于散射效应是主要原因，这种影响相对次要。\n\n综上所述，天空呈现蓝色主要是因为阳光中的蓝色光线在日间被空气中的微粒广泛散射所致。而在特定条件下（如日出、日落或污染严重地区），其他颜色的光线可能占据主导地位。",
"done": true,
"done_reason": "stop",
"context": [
151644,
100678,
35727,
20412,
105681,
9370,
30,
151645,
151648,
198,
106287,
3837,
100678,
101916,
104544,
20412,
105681,
9370,
101036,
11319,
43288,
100672,
104029,
101243,
99309,
1773,
116169,
107204,
101049,
87267,
104496,
38182,
99487,
113366,
3837,
77288,
106457,
108531,
99891,
105318,
114188,
100654,
99794,
1773,
99999,
99601,
104100,
104857,
104107,
100158,
105073,
3407,
101140,
3837,
35946,
101303,
104166,
104625,
101312,
102284,
107339,
3837,
102200,
97639,
36587,
108901,
101454,
5122,
99425,
5373,
107678,
5373,
99789,
5373,
99679,
5373,
100400,
5373,
121703,
5373,
101168,
1773,
100001,
102284,
18493,
99225,
101454,
101047,
81812,
107029,
104165,
18493,
111581,
99804,
45861,
26939,
111413,
18493,
31235,
99534,
99804,
45861,
1773,
99212,
100678,
101916,
20412,
105681,
9370,
101036,
11319,
99519,
105681,
99730,
101219,
104399,
104473,
32664,
100003,
26850,
101889,
3837,
104100,
99495,
100819,
114560,
100646,
107155,
102388,
3837,
101912,
109958,
99180,
33108,
115893,
1773,
87267,
100001,
99180,
101589,
99564,
104166,
108901,
1773,
116169,
108033,
47764,
38182,
99632,
99759,
102060,
3837,
102200,
109587,
18493,
104011,
107561,
52853,
13343,
112489,
101933,
1773,
101912,
101281,
99225,
18493,
67338,
105797,
99371,
103920,
3837,
101895,
102284,
106764,
99632,
99759,
26939,
101284,
100696,
3407,
99212,
105681,
9370,
99225,
99804,
45861,
99792,
99534,
3837,
104995,
20412,
19,
15,
15,
111109,
101081,
3837,
68536,
104165,
9370,
112228,
3837,
104995,
22,
15,
15,
111109,
1773,
100819,
101047,
100694,
102388,
32664,
99604,
102284,
9370,
99225,
114046,
99632,
99759,
101062,
1773,
104074,
99519,
105681,
9370,
109587,
56006,
104165,
9370,
108478,
99250,
105797,
101047,
30709,
107561,
100631,
102388,
99632,
99759,
110890,
26850,
100626,
3837,
116169,
18493,
101281,
36556,
34324,
103920,
3837,
104166,
31235,
102637,
3837,
43288,
87267,
100000,
99564,
101916,
102284,
104111,
100741,
1773,
106436,
102075,
105681,
99225,
99250,
99632,
99759,
26939,
101284,
100696,
3837,
100673,
97639,
101038,
101908,
35727,
20412,
105681,
9370,
3407,
100632,
3837,
107228,
101360,
101895,
99651,
101916,
104330,
101970,
102284,
3837,
101912,
107678,
38035,
5373,
106140,
57191,
104165,
3837,
100346,
99520,
66394,
101043,
18493,
105149,
107219,
3837,
101912,
18830,
100722,
117003,
102029,
48934,
101425,
103920,
3837,
101916,
104674,
107433,
92894,
102284,
101036,
11319,
43288,
87267,
104404,
100001,
48934,
101425,
32664,
109587,
114046,
99632,
99759,
101062,
3837,
100673,
102284,
100682,
1773,
99212,
62244,
99719,
101047,
117184,
81800,
82647,
3837,
100631,
101450,
99604,
100363,
3837,
101916,
108901,
103939,
105014,
3407,
101948,
3837,
35946,
104241,
99172,
3837,
64471,
102493,
35926,
46670,
108592,
103252,
101916,
108901,
101036,
11319,
99519,
39165,
104952,
113753,
13343,
3837,
101038,
9370,
99225,
104560,
45181,
99604,
100884,
105063,
105369,
3837,
105415,
116505,
101916,
104401,
105681,
1773,
103933,
43288,
87267,
99520,
109108,
100003,
3837,
99558,
99998,
101887,
109587,
9370,
99632,
99759,
3407,
100626,
3837,
103931,
105797,
101047,
117184,
3837,
8903,
20221,
33108,
8903,
99297,
103920,
3837,
101281,
109292,
47815,
99371,
105797,
87267,
32664,
109587,
100394,
101970,
101062,
1773,
99212,
104074,
74763,
99564,
34187,
101916,
108901,
101036,
11319,
100632,
43288,
87267,
100009,
99659,
99917,
3837,
99558,
99998,
23031,
8903,
17881,
104197,
99180,
76095,
100782,
3407,
102050,
100158,
3837,
35946,
104718,
101128,
20412,
5122,
101916,
104401,
105681,
104312,
99519,
104166,
101047,
105681,
99225,
99804,
45861,
99260,
99534,
3837,
108478,
99250,
100819,
101047,
30709,
107561,
33108,
102388,
99632,
99759,
26939,
101284,
100696,
3837,
111625,
104166,
73145,
99759,
104248,
1773,
68536,
92894,
102284,
29524,
104165,
102119,
20221,
104718,
8903,
99297,
100631,
63819,
103920,
3837,
87267,
104404,
109587,
101897,
33126,
45861,
104197,
99180,
76837,
3837,
104193,
104165,
9370,
109587,
108478,
108152,
105797,
99371,
104658,
104722,
3407,
103942,
3837,
104284,
99392,
99487,
101128,
113364,
100011,
3837,
87267,
100626,
107738,
100741,
99564,
101916,
108901,
100682,
1773,
101912,
99604,
100361,
104197,
99180,
76095,
5373,
100791,
100021,
49567,
101938,
99564,
101916,
108081,
102284,
1773,
104043,
3837,
65101,
607,
14030,
8023,
72858,
9370,
105824,
100316,
99371,
32664,
101281,
99225,
104126,
74763,
103252,
101916,
108901,
3837,
110700,
104760,
99804,
45861,
16872,
104309,
18830,
104460,
102060,
100347,
3407,
99999,
3837,
102198,
99883,
3837,
101916,
104401,
105681,
104312,
99519,
99632,
99759,
104824,
3837,
104050,
105681,
109587,
18493,
109239,
99260,
99534,
100764,
104197,
99180,
13343,
99250,
99632,
99759,
49828,
33126,
100789,
3837,
104193,
97639,
101038,
101908,
101916,
107433,
105681,
1773,
68536,
92894,
102284,
29524,
104165,
87267,
101219,
105149,
107219,
57191,
112228,
100764,
104248,
101107,
104355,
101062,
8997,
151649,
271,
101916,
100827,
105681,
104249,
99558,
100040,
62112,
34204,
104166,
9370,
99632,
99759,
102060,
33108,
105797,
99371,
32664,
99604,
102284,
99225,
104126,
1773,
114566,
100700,
104136,
48443,
16,
13,
3070,
104166,
108901,
101286,
334,
5122,
99243,
99225,
101359,
104625,
101312,
102284,
107339,
3837,
100630,
99425,
5373,
107678,
5373,
99789,
5373,
99679,
5373,
100400,
5373,
121703,
5373,
101168,
49567,
3837,
101894,
101479,
99225,
101454,
3407,
17,
13,
3070,
99632,
99759,
104824,
334,
28311,
256,
481,
10236,
102,
118,
99180,
114445,
101514,
109958,
99180,
33108,
115893,
102388,
8997,
256,
481,
84897,
101281,
99225,
101040,
105797,
99371,
13343,
3837,
99604,
102284,
9370,
99225,
100629,
101970,
116465,
95355,
1773,
105681,
99225,
9909,
99804,
45861,
107679,
19,
15,
15,
111109,
7552,
56006,
104165,
99225,
9909,
94237,
22,
15,
15,
111109,
7552,
108478,
99250,
105797,
101047,
48934,
101425,
99632,
99759,
57191,
111192,
3407,
18,
13,
3070,
8903,
17881,
99632,
99759,
334,
28311,
256,
481,
73562,
104166,
73145,
99759,
104248,
3837,
105681,
99225,
99250,
100819,
101047,
107561,
5373,
52510,
100856,
57191,
102388,
100789,
29490,
99632,
99759,
26939,
101284,
100696,
3837,
32555,
101916,
107433,
105681,
8997,
256,
481,
32181,
247,
86402,
102060,
18493,
105212,
100106,
42192,
100791,
9370,
104307,
15946,
104652,
100687,
3407,
19,
13,
3070,
8903,
20221,
33108,
8903,
99297,
106064,
334,
28311,
256,
481,
71928,
97,
13343,
3837,
109587,
101897,
33126,
45861,
104197,
99180,
76837,
9909,
77557,
8903,
20221,
13343,
101897,
99632,
104815,
99371,
33108,
47815,
32664,
88653,
99371,
48272,
104165,
99225,
108478,
108152,
105797,
99371,
104658,
104722,
3837,
32555,
101916,
104401,
104165,
5373,
107678,
38035,
57191,
106140,
8997,
256,
481,
32181,
247,
86402,
102060,
57218,
102493,
35926,
46670,
107173,
3837,
103955,
101887,
109587,
76837,
98402,
106797,
100673,
3407,
20,
13,
3070,
92894,
102284,
104126,
100741,
334,
28311,
256,
481,
40666,
100,
99180,
101047,
107561,
52853,
9909,
29524,
117003,
102029,
48934,
101425,
7552,
103252,
104166,
9370,
99632,
99759,
101062,
3837,
101982,
101933,
101916,
108901,
1773,
77557,
3837,
100791,
105806,
100361,
87267,
104401,
109288,
57191,
118847,
8997,
256,
481,
75402,
20221,
33108,
8903,
99297,
13343,
104197,
99180,
99371,
100166,
99604,
3837,
32555,
104165,
99225,
108478,
108152,
105797,
99371,
104658,
104722,
3407,
21,
13,
3070,
102493,
35926,
46670,
104126,
334,
28311,
256,
481,
53599,
108,
77959,
35926,
46670,
102068,
99564,
34187,
97639,
101038,
9370,
101916,
102284,
3837,
109112,
99632,
99759,
104824,
20412,
109108,
3837,
100137,
99564,
101162,
112739,
3407,
99611,
17447,
113110,
3837,
101916,
104401,
105681,
104312,
99519,
104166,
101047,
105681,
109587,
18493,
8903,
17881,
99250,
100819,
101047,
48934,
101425,
100789,
99632,
99759,
110562,
1773,
104746,
105149,
107219,
9909,
29524,
8903,
20221,
5373,
8903,
99297,
57191,
100791,
101120,
100361,
48272,
92894,
102284,
9370,
109587,
87267,
102779,
105289,
101262,
1773
],
"total_duration": 26340996800,
"load_duration": 27495700,
"prompt_eval_count": 9,
"prompt_eval_duration": 7000000,
"eval_count": 1089,
"eval_duration": 26304000000
}向量化接口API
向量化接口常用来进行模型的微调（训练），简单来说，就是把常见的文本信息转成大模型可认识的数字串
请求路径：/api/embeddings
请求方式：POST
请求参数：
示例：
{
"model": "deepseek-r1:7b",
"prompt": "你好，黑马程序员"
}响应参数：
示例：
查询运行中的模型列表API
请求参数：/api/ps
请求方式：GET
请求参数：无
响应参数：
示例：
{
"models": [
{
"name": "deepseek-r1:7b",
"model": "deepseek-r1:7b",
"size": 5986631680,
"digest": "0a8c266910232fd3291e71e5ba1e058cc5af9d411192cf88b6d30e92b6e73163",
"details": {
"parent_model": "",
"format": "gguf",
"family": "qwen2",
"families": [
"qwen2"
],
"parameter_size": "7.6B",
"quantization_level": "Q4_K_M"
},
"expires_at": "2025-05-09T19:57:01.4228464+08:00",
"size_vram": 5986631680
}
]
}