荣锋亮 - 博客园

LitServe 快速进行ai 模型服务的引擎

摘要： LitServe 是一个使用简单的基于fastapi 开发方的ai 服务引擎，支持批处理以及streaming 模式包含的特性灵活的扩展能力，支持callback 以及中间件模式，对于request 以及response 进行修改完全控制，可以运行单个或者多个模型进行推理服务构建组合ai 系阅读全文

posted @ 2024-11-07 08:00 荣锋亮阅读(113) 评论(0) 推荐(0)

anyio 高级异步并发网络库

摘要： anyio 是一个异步网络以及并发库，可以与asyncio 以及trio 工作，实现了类似trio 的sc 模式包含的特性任务组能力高级tcp/udp，以及unix 套接字支持多种字节流以及对象流api 支持内部任务同步以及通信支持（锁、条件、事件、信号量、对象流）工作者线程支持子进程阅读全文

posted @ 2024-11-06 08:00 荣锋亮阅读(360) 评论(0) 推荐(0)

pg_ivm pg 增量物化视图扩展

摘要： pg_ivm 是一个强大的pg 增量物化视图扩展，可以实现物化数据的自动更新（创建物化之后会创建一些触发器实现自动更新），当然也包含了函数可以支持手工更新说明 pg_ivm 很强大，很方便，但是依然有一些限制，比如基表必须是简单表，不能使用视图，继承父表，分区表，分区以及外部表视图定义查询中不能阅读全文

posted @ 2024-11-05 08:00 荣锋亮阅读(121) 评论(0) 推荐(0)

HAProxy Data Plane API 3.0 发布

摘要：就在最近haproxy data plane api 3.0 发布了，相对以前有不少变动，官方发布了release note 很值得看看说明对于基于haproxy 进行业务负载均衡以及动态配置管理的haproxy data plane api 是一个很不错的选择，对于早期版本的一些使用我有简单介阅读全文

posted @ 2024-11-04 08:00 荣锋亮阅读(62) 评论(0) 推荐(0)

ossfs 禁用cache配置说明

摘要： ossfs 基于oss sdk 实现了与oss fs类似的能了，但是默认是有cache 的，尤其我们的long running 任务可能会影响，造成获取的数据是不是最新的，解决方法就是直接禁用cache 参考处理 # 通过临时调整cache有效期解决from ossfs import OSSFile 阅读全文

posted @ 2024-11-03 08:00 荣锋亮阅读(42) 评论(0) 推荐(0)

paradedb 基于pg 的搜索以及分析方案

摘要： paradedb 是一个替换es 的可选方案包含的能力搜索，支持基于BM25（基于pg_search）的全文检索，以及pgvector 的向量处理，以及混合搜索分析，基于pg_analytics 的分析查询引擎支持自托管模式部署支持特殊工作负载场景，postgis，pg_cron, pg 阅读全文

posted @ 2024-11-02 08:00 荣锋亮阅读(272) 评论(0) 推荐(0)

rq job timeout 配置简单说明

摘要：默认rq 是180s 的超时处理，但是我们可以自己调整，注意官方有好几个参数，timeout 以及job_timeout 应该使用job_timeout 参考配置 job 级别的 q.enqueue(mytask, args=(foo,), kwargs={'bar': qux}, job_time 阅读全文

posted @ 2024-11-01 08:00 荣锋亮阅读(43) 评论(0) 推荐(0)

tldraw 创建基于web 白板的sdk 框架

摘要： tldraw 创建基于web 白板的sdk 框架包含的特性 react canvas 高性能实时协作媒体支持灵活的自定义说明 tldraw 从3.0 开始调整累了许可模式，以前是商业使用需要有license，现在是可以直接使用了，但是会保留水印，对于开发白板应用的tldraw 是一个很值得阅读全文

posted @ 2024-10-31 08:00 荣锋亮阅读(143) 评论(0) 推荐(0)

rill 基于duckdb 的快速bi 工具

摘要： rill 是基于duckdb 的快速bi 工具参考架构包含了提取，加载，查询，过滤，包含了etl，内存存储，以及操作型bi 说明 rill server 基于golang 开发，web 上使用了Sveltekit，rill 设计上很值得学习参考，抽象了不少自己的yaml schema 灵活性上很阅读全文

posted @ 2024-10-30 08:00 荣锋亮阅读(149) 评论(0) 推荐(0)

cloudpathlib 简单试用

摘要：通过minio 作为s3 存储进行测试 s3 准备 docker-compose version: "3" services: s3: image: minio/minio:latest ports: - 9000:9000 - 9001:9001 command: server /data --c 阅读全文

posted @ 2024-10-29 08:00 荣锋亮阅读(23) 评论(0) 推荐(0)

cloudpathlib 面向云存储的python pathlib 风格的数据处理

摘要： cloudpathlib 是模仿了python pathlib 接口格式的python 库，可以用来方便的进行云存储的数据处理包含的特性与path 方式类似的访问支持s3，gcs，azure ，ftp 也在开发中可扩展读写支持无缝的cache 支持，可以按需进行cache 的处理方便测阅读全文

posted @ 2024-10-28 08:00 荣锋亮阅读(20) 评论(0) 推荐(0)

stamina 生产级的python 重试包

摘要： stamina 是基于tenacity的包装包含的特性仅对某些异常（甚至是其中的子集）进行重试，方法是先使用谓词进行自检重试之间带有抖动的指数退避限制重试次数和总时间自动异步支持-包括Trio 保留所装饰的可调用函数的类型提示开箱即用，可灵活使用Prometheus、structlog和阅读全文

posted @ 2024-10-27 08:00 荣锋亮阅读(30) 评论(0) 推荐(0)

dremio 25.2 软件包以及github 源码更新了

摘要：昨天我说了dremio 发布了25.2 提供了新的catalog 支持，之后过了一段时间dremio同时也提供了软件包以及github 源码的更新说明 25.1 版本构建关于dremio-js 的私服问题在这次代码中也看到解决了，新功能代码可以看看参考资料 https://github.com 阅读全文

posted @ 2024-10-26 08:13 荣锋亮阅读(58) 评论(0) 推荐(0)

python通过init.py 进行模块依赖包的check

摘要：很多时候我们开发模块化项目，或者动态加载功能包的项目，对于依赖我们不希望直接在安装的时候就安装，而是按需使用的时候进行主动安装（比如langchain 不少模块），解决方法很多，以下说明下基于__init__.py 的处理一些参考解决方法在调用模块方法的时候通过显示的import 模块，并通过阅读全文

posted @ 2024-10-26 00:22 荣锋亮阅读(35) 评论(0) 推荐(0)

dremio 25.2 发布

摘要：就在昨天dremio 发布了25.2 版本，此版本对于catalog 的支持添加了两个新的（Polaris Catalog 以及Unity Catalog）说明其他主要是关于历史bug 的fix 对于新catalog ce 版本实际上只Polaris Catalog ，默认没开启，需要通过plu 阅读全文

posted @ 2024-10-25 23:47 荣锋亮阅读(43) 评论(0) 推荐(0)

weasyprint 基于html 的pdf 生成框架

摘要： weasyprint 基于html 的pdf 生成框架，我们可以基于css+ html 生成高质量的pdf 文件，weasyprint 使用简单说明 weasyprint 的速度并不是很快，如果希望快速生成pdf文件的，可以选择其他解决方案，md2pdf 就使用了WeasyPrint只是为了支持灵阅读全文

posted @ 2024-10-25 08:00 荣锋亮阅读(286) 评论(0) 推荐(0)

通过rye 进行maturin rust python 扩展开发

摘要： rye 实际上也是一个python 包管理工具，实际上与uv 是比较类似的工具，都是同一个团队开发的，但是uv 相对晚一些出现的 rye 可以进行maturin 项目的开发，maturin 实际上也提供了内置的cli 可以快速开发 maturin 项目初始化命令 rye init my-proje 阅读全文

posted @ 2024-10-24 08:00 荣锋亮阅读(69) 评论(0) 推荐(0)

uv python 版本管理

摘要：最近版本的uv 也支持对于python 版本的管理（下载安装，支持cpython 以及pypy）安装python 参考命令 uv python install 3.12.3 查看列表 uv python list 查找python 执行程序 uv python find # 默认是基于path的，阅读全文

posted @ 2024-10-23 08:00 荣锋亮阅读(2278) 评论(0) 推荐(0)

基于uv 进行类似cargo 的workspace 管理

摘要： uv 支持类似cargo workspace模式的项目管理，可以实现多模块的开发机制，以下是一个简单学习准备 uv 对于workspac 的支持，使用上类似rust cargo 项目结构 ├── README.md ├── packages │ ├── api │ │ ├── README.md 阅读全文

posted @ 2024-10-22 08:00 荣锋亮阅读(232) 评论(0) 推荐(0)

uv 基于rust 编写的python 包管理以及项目管理工具

摘要： uv 基于rust 编写的python 包管理以及项目管理工具包含的特性简单工具可以替换pip，pip-tools，pipx，poetry，pyenv 等比pip 快10-100 倍安装以及管理python 版本运行以及安装python 应用运行脚本支持类似cargo 模式的works 阅读全文

posted @ 2024-10-21 08:00 荣锋亮阅读(252) 评论(0) 推荐(0)

基于prompt-poet进行了灵活的提示词模版管理

摘要：以前简单介绍过prompt-poet的使用，同时也进行了一些扩展（比如支持s3，oss，等加载的loader 集成）实际上使用好prompt-poet 可以简化不少我们的提示词管理能力，实现灵活的个性化提示词能力，以下是一个简单的使用说明参考结构管理 prompt-poet 默认支持加载本地文阅读全文

posted @ 2024-10-20 08:00 荣锋亮阅读(82) 评论(0) 推荐(0)

pyfilesystem 一个简单试用

摘要：以前简单介绍过关于pyfilesystem 支持通用的文件系统访问，同时还提供了不少内部实现，可以快速使用，以下是一个关于 UserDataFS的简单试用参考代码 app.py from fs.appfs import UserDataFS user_fs = UserDataFS('my_app 阅读全文

posted @ 2024-10-19 08:00 荣锋亮阅读(25) 评论(0) 推荐(0)

pyfilesystem jinja2 loader 实现prompt-poet 提示词模板管理

摘要：效果实际与fsspec jinaj2 laoder类似，就是一个集成测试 pyfilesystem loader 实现 pyfs_loader.py import fs import jinja2 from jinja2.loaders import BaseLoader class PyFiles 阅读全文

posted @ 2024-10-18 06:29 荣锋亮阅读(75) 评论(0) 推荐(0)

pyfilesystem python 通用文件系统抽象

摘要： pyfilesystem python 通用文件系统抽象包，对于统一基于文件的数据操作比较方便目前一些内置的文件系统 app 文件系统 ftp 文件系统 memory 文件 mount 文件系统 multi 文件系统 os 文件系统 sub 文件系统 tar 文件系统 temporary 文件系统阅读全文

posted @ 2024-10-17 06:12 荣锋亮阅读(51) 评论(0) 推荐(0)

md2pdf python markdown 转pdf 包简单试用

摘要： md2pdf 是基于weasyprint 开发的一个markdown 转pdf 工具，功能上还是比较强大的，支持自定义效果，同时还支持基于jinja2 模版引擎的数据处理，在基本的转换完成之后内部会使用weasyprint 基于html 转换pdf 参考使用安装 pip install git+h 阅读全文

posted @ 2024-10-16 05:56 荣锋亮阅读(560) 评论(0) 推荐(0)

fsspec jinaj2 loader 简单说明

摘要：为了方便使用，我简单提取了jinja2 fspsec loader 的代码，开发成为一个pip 包，方便使用代码 fsspec_loader.py from __future__ import annotations import pathlib from typing import TYPE_C 阅读全文

posted @ 2024-10-15 06:57 荣锋亮阅读(29) 评论(0) 推荐(0)

自定义jinja2 loader 实现基于oss的prompt-poet 提示词模板存储

摘要： prompt-poet 默认支持的是基于本地文件系统或者直接模版内容的模式进行处理，对于实际使用上并不是很方便，可以通过简单的扩展jinja2 loader 实现基于fsspec 的模版加载，这么就可以支持各类存储的模型了，以下是一个简单示例，因为目前prompt-poet 内部处理是固定的，暂时只阅读全文

posted @ 2024-10-14 06:40 荣锋亮阅读(62) 评论(0) 推荐(0)

chainlit 实际部署一些问题

摘要： chainlit内部基于了socket.io 进行消息处理，socket.io 是有一些缺陷的，但是也有相关的解决方法，同时对于启动的入口是加载的一个python 文件，这个处理上是动态加载里边的方法到chainlit 运行环境的内部一些处理 load 模块处理 def load_module( 阅读全文

posted @ 2024-10-13 07:43 荣锋亮阅读(335) 评论(0) 推荐(0)

fasthtml 快速创建web app 的框架

摘要： fasthtml 让我们可以基于python 代码就可以快速开发web app 的框架，使用上简单说明 fasthtml 包含了丰富的组件，内部web 框架基于了starlette 与fastapi 是一样的，fasthtml 值得尝试下参考资料 https://github.com/Answe 阅读全文

posted @ 2024-10-12 06:08 荣锋亮阅读(505) 评论(0) 推荐(0)

chainlit 一些外部集成部署方法

摘要： chainlit 对于部署支持多种模式，比如直接all-in-one 的，基于fastapi 集成的（api 模式），基于copilot （web 地址），react （web 组件），以及其他外部集成，比如slack，team，discord 等，以下简单说明下模式说明 web app 模式阅读全文

posted @ 2024-10-11 07:20 荣锋亮阅读(346) 评论(0) 推荐(0)

fastapi 通过依赖注入模式使用apscheduler

摘要：就是一个简单记录，方便后续使用参考代码 api 服务 import uuid from fastapi import FastAPI,Header,Depends,HTTPException from typing import Annotated async def tenant_id(x_te 阅读全文

posted @ 2024-10-10 06:42 荣锋亮阅读(126) 评论(0) 推荐(0)

fastapi apscheduler 通过函数引用添加job

摘要：主要是一个简单测试，同时集成fastapi，包含了简单参数传递参考代码 import logging import uuid from fastapi import FastAPI from pytz import utc from apscheduler.schedulers.backgroun 阅读全文

posted @ 2024-10-09 06:35 荣锋亮阅读(41) 评论(0) 推荐(0)

python 几个IOC 框架

摘要：整理几个不错的python ioc 框架，方便学习使用 python-dependency-injector 功能很全，很强大，支持的特性比较多，属于比较全面的ioc 框架了 lagom 一个轻量的ioc 框架，常见玩法够用 FastDepends 这个实际上是来自fastapi 提取的一个ioc 阅读全文

posted @ 2024-10-08 06:47 荣锋亮阅读(262) 评论(0) 推荐(0)

关于结合faststream + python rq callback 进行job 状态标记的简单说明

摘要：以前简单介绍过基于faststream + python rq callback 进行job 状态标记，以下是结合源码说明下处理参考玩法代码实现 faststream 参考代码 from faststream.redis import RedisBroker from faststream.as 阅读全文

posted @ 2024-10-07 06:41 荣锋亮阅读(25) 评论(0) 推荐(0)

python rq 实际部署使用简单说明

摘要： python 的rq 是一个简单，使用方便的分布式任务队列库，以下是自己关于实际使用一些总结参考玩法参考图简单玩法流程: app 业务层使用rq 库，链接redis，然后将任务如队列，同时可以结合实际业务对于队列使用不同的名称（比如高中低，或者特定业务模型）对于实际结合业务特点在不同的业务节阅读全文

posted @ 2024-10-06 00:02 荣锋亮阅读(121) 评论(0) 推荐(0)

kedro ossfs 支持说明

摘要： kedro 是基于fsspec 进行内部文件处理的，但是在对于是cloud remote 文件系统的时候是基于白名单处理的有缺陷，对于oss 支持就有问题（比如解析bucket），解决方法很多，一种是直接修改kedro.io.core 中的CLOUD_PROTOCOLS，还有一种就是通过python 阅读全文

posted @ 2024-10-05 06:27 荣锋亮阅读(12) 评论(0) 推荐(0)

dremio 25.1 版本开始支持sql 预编译处理了

摘要： dremio 从25.1 版本开始，支持sql 预编译了，可以更好的提升系统的安全性参考使用传统jdbc 模式 Connection conn = DriverManager.getConnection("jdbc:dremio:direct=localhost:31010;schema=sys 阅读全文

posted @ 2024-10-04 14:24 荣锋亮阅读(42) 评论(0) 推荐(0)

lazy_loader attach_stub一种变体玩法

摘要：此方法在scikit-image包中可以明显看到使用玩法流程 __init__.py直接基于attach_stub 进行定义懒加载，以后的使用就同时标准玩法了添加__init__.pyi 进行显示的引入定义，方便实现类型检查以及ide 的自动提示一个参考玩法 __init__.py 定义 im 阅读全文

posted @ 2024-10-04 08:00 荣锋亮阅读(20) 评论(0) 推荐(0)

dremio25.1.1 发布

摘要：就在昨天dremio 发布了25.1.1 主要是一些bug 的fix，尤其是在25.1 版本对于script 保存的问题说明完整的变动信息可以参考官方文档，目前oss 代码以及下载包，docker 镜像已经都上传了，可以体验下参考资料 https://docs.dremio.com/curre 阅读全文

posted @ 2024-10-03 12:56 荣锋亮阅读(24) 评论(0) 推荐(0)

lazy_loader python 子包以及函数懒加载框架

摘要： lazy_loader python 子包以及函数懒加载框架, 内部处理上是基于了importlib.import_module 进行动态加载包含的特性可以确保子模块对于用户的可见行，不引起而外的开销允许外部库在使用的时候被加载，提升导入时间说明此包在kedro 的datasets 模块中阅读全文

posted @ 2024-10-03 08:00 荣锋亮阅读(107) 评论(0) 推荐(0)

导航

公告