2024年11月20日

Xinference 的 qwen2模型调用代码
摘要： from openai import OpenAI # 注意服务端端口，因为是本地，所以不需要api_key client = OpenAI(base_url="http://192.168.254.206:9997/v1", api_key="EMPTY") completion = client 阅读全文
posted @ 2024-11-20 12:10 张博的博客 阅读(244) 评论(0) 推荐(0)

导航