LLM Wiki 实战(二)
生成 wiki 后可以按照 README.md 文档中的使用方法直接提问,如下图。

除了直接提问,还可以:
- claude -p(非交互模式)
- claude-agent-sdk 方式
一、claude -p(非交互模式)
在部署 llm_wiki 项目的命令行中直接运行如下命令
claude -p "最近上了什么内容" --output-format json --allowedTools "Read,Glob,Grep"

如果你想看调用轮次、工具等信息可以增加 --verbose 参数
claude -p "最近上了什么内容" --output-format json --allowedTools "Read,Glob,Grep" --verbose

二、claude-agent-sdk 方式
1、在 claude 中输入如下提示词,claude 会帮你创建 web 接口的 service
我想在生产级调用,请使用 Claude Agent SDK(Python/TS) 包装成 HTTP API 服务。可以发 query 查询
2、启动 service
# 进入 service 目录 cd service # 复制 .env 配置文件 cp .env.example .env # 编辑 .env,至少填 API_TOKEN # 这个 API_TOKEN 并不是 Anthropic 的 api_key,而是访问这个 service 用的的 token。 # 激活 py312 环境 conda activate py312 # 安装依赖库 pip install -r requirements.txt # 启动 service,默认 0.0.0.0:8000,2 个 worker ./run.sh
复制的 .env 如下图:

启动成功后,如下图:

3、POST /query(一次性同步返回)
再开一个命令行,输入如下 curl 命令。其中 123abc 就是刚才 .env 中输入的 API_TOKEN
curl -s localhost:8000/query \
-H "Authorization: Bearer 123abc" \
-H "Content-Type: application/json" \
-d '{"prompt": "最近发布了什么"}'
如下图:
4、POST /query/stream(流式请求)
curl -N localhost:8000/query/stream \
-H "Authorization: Bearer 123abc" \
-H "Content-Type: application/json" \
-d '{"prompt": "最近发布了什么"}'
如下图:

5、如果想远程访问,可以放开防火墙即可。
6、参考项目
https://gitee.com/rslai/llm_wiki_lab/releases/tag/v0.0.3

浙公网安备 33010602011771号