模拟大模型返回帮你测试,掌握如何本地测试
fake 大模型本地化测试,条件不允许的情况下,再没有真实大模型做测试用。
from langchain_community.llms.fake import FakeListLLM # FakeListLLM 返回列表
from langchain.prompts import PromptTemplate
responses = [
"你好,",
"武大郎炊饼店欢迎您!!!!",
]
# 导入大模型
model = FakeListLLM(responses=responses) # 编辑好的 list格式 responses参数
# 提示词模板
prompt_template = PromptTemplate.from_template('干撒哈')
#实例化
prompt = prompt_template.format()
# 调用计算
res = model.invoke(prompt) # 返回第一条内容,安照顺序来
res1 = model.invoke(prompt)
res2 = model.invoke(prompt)
print(res)
print(res1)
print(res2) # 循环到又返回第一条内容
本文来自博客园,作者:王竹笙,转载请注明原文链接:https://www.cnblogs.com/edeny/p/18650054