摘要： 任务编排的串行与并行自由切换； 现在已经实现了任务编排框架，用不同任务配置和任务构建器构造任务，并串行执行任务。 目前就缺少支持任务并行的方式执行，我现在想要能控制哪些任务是并行执行，哪些任务串行执行，自由编排。 共享 context 数据容器 由于现在有并行任务的需求，共享的context数据容器 阅读全文

摘要： OpenAPI规范中请求参数写法； 之前dify中OpenAPI规范只使用了请求体的方式，并没有用过qurey请求参数的方式； 这次敏感词接口用到了这种方式，遂记录一下； 以下为query参数在OpenAPI规范中的配置： "parameters": [ { "name": "text", "in" 阅读全文

摘要： ai平台任务编排domain层的重构； 之前只是简单的将不同于api和service层边界的东西往domain里塞，现在domain十分混乱； 后面会有大量模型互相调用了问题，简单的domain层级会非常的混乱，现在将domain层按照以下几部分组成: 任务编排核心 只管“任务是什么、怎么跑” 能力 阅读全文

摘要： ai平台任务领域建模重构； 之前的ai平台TaskConfig 实际上是“任务的领域模型” 新增了不同本质的任务、比如： 语音文件（语音文件转文字，会议内容记录）处理服务； LLM模型（多模态，问答，输出文本、输出结构化）服务； PDF，图像（PD图像文件解析，结构化输出）处理服务； 任务本质不相同 阅读全文

摘要： Copilot初始搭建项目提示词研究； 先让Copilot给“设计稿”，让Copilot分步设计而不是让它无脑吐代码 我的目标是✅ “轻量级、单能力服务 + 多模型实现，通过参数选择调用”，👉 同一能力下的「模型变体选择」设计 包创建、目录结构细化（包结构合理化）： 设计一个 Python 模型服 阅读全文

摘要： proxy路由规则设置； proxy路由规则设置中outboundTag、port、portocol、inboundTag、enabled、domain、IP。逐个解释这些参数是什么，有什么作用 outboundTag（出口标签） 在proxy核心里，每一个出站都有一个 tag，比如： proxy： 阅读全文

摘要： 运行深度学习的环境理解及安装； 回顾一下深度学习运行环境问题，与后面遇到的大坑有关，如有不对请指正； 深度学习的环境理解 运行深度学习，必须要安装NVIDIA Driver（显卡驱动）。 CUDA（准确叫 CUDA Runtime）、CUDA Toolkit（开发工具包）以及cuDNN（深度学习加速 阅读全文

摘要： CentOS8系统root硬盘清理； conda安装包时报了硬盘空间不做的问题，但我的conda环境，包位置都在/home目录下，于是询问ai； 在安装conda包时：使用以下命令观察/tmp目录变化： watch -n 1 du -sh /tmp /tmp目录占用硬盘疯狂涨，与此同时root目录下 阅读全文

摘要： 语音融合模型xtts初次部署及使用； 继语音转文字后，需要将结果返回给前端，单仅仅是返回字段结果太单调； 使用语音返回结构，将文本结果融合为语音，返回语音文件； 创建完conda虚拟环境后直接pip install TTS； 我甚至不能直接通过pip install TTS，重新创建一个conda虚 阅读全文

摘要： conda创建虚拟环境并不会自带python 今天用conda创建虚拟环境偷懒，没有指定python版本； 原以为conda会模型安装较新的python版本，然而conda没有默认安装，导致了以下问题； 在vscode中配置python解释器，一直没有找到“偷懒创建的虚拟环境”； 后面通过路径找到了 阅读全文