本地模型相关

• 参考网址

- https://blog.csdn.net/2303_80346267/article/details/142437852

• 安装测试模型

- ollama pull qwen2.5:0.5b

• Python测试代码如下

import requests

# 基础初始化设置
base_url = "http://localhost:11434/api"
headers = {
    "Content-Type": "application/json"
}

def generate_completion(prompt, model="qwen2.5:0.5b"):
    url = f"{base_url}/generate"
    data = {
        "model": model,
        "prompt": prompt,
        "stream": False
    }
    response = requests.post(url, headers=headers, json=data)
    return response.json().get('response', '')

# 示例调用
completion = generate_completion("介绍一下人工智能。")
print("生成文本补全:", completion)

- 返回结果

'''
生成文本补全: 您好！很高兴为您介绍人工智能（Artificial Intelligence，简称AI），它是20世纪90年代中期随着计算机技术、网络技术和大数据技术的出现而产生和发展起来的一门新学科......
'''