Python代码调用大模型1

登录阿里云百炼平台

新用户有免费的token,可以直接创建api key。

image

创建api key之后进行调试

image

 

image

 

http调通后,通过代码调用大模型需要在本地安装SDK。根据阿里百炼的文档,可以安装阿里云的SDK和OpenAi的SDK。(阿里云实现了OpenAi制定的规范,可以通过他的SDK调用模型),安装OpenAi的SDK。SDK安装完成后,可以先看基础调用的demo代码考到本地。

image

 

本地进行调用

主要三步骤:1建大模型的客户端对象,2调用模型,发起请求,3获取回复

import os
from openai import OpenAI

client = OpenAI(
    #api key
    api_key="sk-xx",
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)

response = client.responses.create(
    model="qwen3.7-plus",
    input="你能做些什么?"
)

# 获取模型回复
print(response.output_text)

 

配置api_key到环境变量

用windows为例,因为用的openai的SDK,如果不写api_key,默认是去加载环境变量里的OPENAI_API_KEY的配置。设置完环境变量之后重启电脑,无需在代码里面写api_key即可访问url对应的模型。

image

大模型的记忆

每次调用大模型时独立的。分别调用大模型多次,大模型时不记得是不会记得上一次的问题和答案的。需要在下一次调用的时候将上一次的对话内容告诉模型,它才会有记忆。

from openai import OpenAI

# 1. 创建客户端对象,配置阿里云百炼平台兼容接口地址
client = OpenAI(
    base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
)

# 2.初始化对话历史(消息列表存储)
chat_history = []

# 3. 第一次调用:向模型告知用户身份
user_message_1 = "你好,我姓李,正在学习ai相关的内容"
chat_history.append({"role": "user", "content": user_message_1})

completion = client.chat.completions.create(
    model="qwen3-max",
    messages=chat_history
)
print("第一轮的回答" + completion.choices[0].message.content)

## 将问题的答案也加到历史中。回答的角色是assistant
chat_history.append({"role": "assistant", "content": completion.choices[0].message.content})

# 4. 第二次调用:询问模型“我是谁?”
user_message_2 = "你说我是谁?"
chat_history = chat_history + [{"role": "user", "content": user_message_2}]

## 第二次调用连同上一轮的问题和答案也加入到message里面。
completion = client.chat.completions.create(
    model="qwen3-max",
    messages=chat_history
)

print("第二轮的回答" + completion.choices[0].message.content)

image 

 消息类型

分为四种:

'system', 'assistant', 'user', 'tool', 'function'

system

系统提示词,用于设定模型的角色(类似做cosplay)、行为规范、输出格式等全局性指令。系统提示词通常在对话开始时设置,对整个对话过程起到约束与引导作用。

参考阿里百炼平台的demo,还可以设置大模型的角色,比如设为程序员,数学家等。

image

user:用户,代表最终用户输入的消息,即用户向模型提出的问题或发出的指令。在上面例子中,包含前面一轮的提问和回答。

assistant:助手,代表模型生成的消息,即模型对用户输入的响应内容。在多轮对话中,历史中的 assistant 消息需要传回给模型,以维持上下文连贯性。

tool:工具,用于表示外部工具(如函数调用结果)返回的消息。当模型调用工具后,将工具的执行结果以 tool 类型消息传回模型。

function:函数(旧版),在 OpenAI 旧版函数调用规范中使用,用于传递函数调用信息。当前已被 tool 类型逐步取代,部分平台仍保留以保持向后兼容。

 

posted on 2026-07-19 23:40  passionConstant  阅读(15)  评论(0)    收藏  举报