模拟大模型返回帮你测试,掌握如何本地测试

fake 大模型本地化测试,条件不允许的情况下,再没有真实大模型做测试用。

from langchain_community.llms.fake import FakeListLLM   # FakeListLLM 返回列表
from langchain.prompts import PromptTemplate

responses = [
    "你好,",
    "武大郎炊饼店欢迎您!!!!",
]
# 导入大模型
model = FakeListLLM(responses=responses)  # 编辑好的 list格式 responses参数

# 提示词模板
prompt_template = PromptTemplate.from_template('干撒哈')

#实例化
prompt = prompt_template.format()

# 调用计算
res = model.invoke(prompt)   # 返回第一条内容,安照顺序来
res1 = model.invoke(prompt)
res2 = model.invoke(prompt)


print(res)
print(res1)
print(res2)      # 循环到又返回第一条内容

posted @ 2025-01-03 14:21  王竹笙  阅读(26)  评论(0)    收藏  举报