刹那的菜鸟

博客园 首页 新随笔 联系 管理

主要是 多线程, pgsql、以及上游。
中高度关注以下环境变量SERVER_WORKER_AMOUNT、SQLALCHEMY_POOL_SIZE、SQLALCHEMY_MAX_OVERFLOW、POSTGRES_MAX_CONNECTIONS
1、多线程,默认工作线程是单,而且只有1
要修改

2 、pgsql 数据库一直都是所有程序卡的原因
连接数、连接池、以及最大连接数

3、大模型的算力,涉及到上游供应商的算力以及http返回io

参考 https://www.bilibili.com/video/BV1jdQPYkETu/?spm_id_from=333.40164.top_right_bar_window_history.content.click&vd_source=32d2da3bd7afb8b99a2b7c01f1b9fb81
简单的压力测试。

posted on 2025-10-09 14:53  刹那的菜鸟  阅读(90)  评论(0)    收藏  举报