CSGLite 企业版（EE）：让更多设备共同支撑团队 AI 服务

编码助手开始进入研发流程，知识应用需要批量处理文档，模型调用也从偶尔使用变成了团队的日常需求。随着使用人数增加，单台设备的处理容量、模型副本的准备和设备维护，都需要重新安排。

CSGLite 企业版（EE）面向这一阶段的需求，在轻量级模型运行能力之上，扩展局域网集群的节点规模，让更多设备共同承担推理请求。团队可以围绕已有应用组织模型服务，再根据调用量增加节点。

01 CSGLite：先把模型与数据准备好

CSGLite 是 OpenCSG 推出的轻量级模型运行与应用接入工具，支持 macOS、Windows 和 Linux，提供桌面客户端、Web 界面与命令行工具，将模型获取、本地运行和应用接入连接起来。

市场支持发现 OpenCSG、Hugging Face、ModelScope 的模型与数据集，查看资源详情并下载到本地。下载提供进度展示、暂停、恢复和断点续传，减少下载中断后重新获取的等待。

下载后的模型进入模型库，数据集也有独立管理页面，支持详情查看与删除等操作。本地文本推理基于 llama.cpp，支持 GGUF，并为适配的 SafeTensors 模型提供转换流程。

从对话到应用，让模型能力进入工作流程

对话入口支持选择模型进行文本交流，视觉语言模型还可处理图片与文本输入。语音能力覆盖识别、合成及相应运行时支持的实时语音交互，向量模型则通过接口为语义检索等任务提供服务。

“应用”页面将模型服务与具体工具连接起来，提供 Claude Code、Codex、OpenCode 等编码工具，以及 Dify、AnythingLLM 等应用的安装或配置入口。团队可以沿用编码辅助、文档问答和应用编排等工作方式，在模型服务侧选择适配来源。

图像生成也作为内置应用放在这一页面中，提供本地文生图、图生图和图像编辑入口。该入口随产品内置，实际运行需要适配的模型与环境支持。

网关与观测，连接服务与调用情况

不同任务可以使用不同模型来源。网关支持接入 OpenAI、DeepSeek、Kimi 等服务，以及其他提供 OpenAI 兼容接口的模型服务，并提供模型服务池、路由策略和 API Key 管理。

资源平台配置负责模型与数据集的发现和下载，网关负责运行时的模型调用。团队可结合任务效果、费用和数据使用要求，安排本地或云端服务。

观测中心提供文本生成任务的历史请求与链路追踪，展示请求量、成功率、耗时、Token 消耗及调用详情。关联请求可通过瀑布图或流程图查看执行过程，帮助管理员定位异常。编码 Agent 还可启用上下文压缩，处理工具输出中的冗余内容，并查看节省信息。

这些能力构成团队使用模型的共同基础。企业版继续沿用已有入口，将服务范围扩展到更多设备。

02 企业版（EE）：让更多设备加入团队服务

一台设备可以运行模型，多台设备则可以分担团队同时发起的请求。CSGLite 的集群能力支持在同一局域网内发现、配对和连接节点，企业版进一步扩大可接入的节点规模。

社区版最多支持两个集群节点，包含当前设备；企业版按 License 中的节点额度扩展，有效企业授权未指定额度时，默认不限节点。

企业版当前的主要增量，是更大规模的节点接入。

节点发现、模型同步和请求调度沿用 CSGLite 的集群能力，为更多设备协同提供支持。

这使团队可以按需求增加服务容量。已有设备能够继续承担适配的模型任务，新设备加入后，也可以参与相应请求的处理。管理员可结合设备条件和任务类型安排模型，逐步形成供多个应用调用的节点池。

社区版与企业版使用同一个安装包。设置中的 License 入口支持授权校验、导入与替换，并展示企业名称、授权状态和有效期。导入有效企业授权后，产品启用对应节点额度，团队可以继续使用原有模型和应用配置。

请求按负载分配，让设备参与得更合适

更多设备加入以后，请求应该交给哪一台执行，直接影响共享服务的使用效果。

CSGLite 集群结合模型所在节点、加载状态、排队情况和节点运行速度等信息选择执行位置。已有模型且预计更早完成任务的节点，可以参与承担请求，减少任务集中在单台设备上的压力。

默认采用本地优先策略：本机具备模型时优先本地执行，本机缺少模型时可转交持有模型的成员。开启均衡调度后，本机和其他节点共同参与请求分配，适合需要分担并发调用的场景。

同一段对话还可以保持节点亲和，复用已有上下文缓存，减少多轮交互中切换节点的开销。需要固定执行位置时，也可按配置指定本地、集群调度或某个节点。

当前集群调度覆盖对话、向量、语音识别和语音合成等任务。每条请求由一个节点完成，多节点通过分担独立请求扩展并发处理容量。图像生成继续通过内置应用使用。

请求可以从集群中的任意设备进入，对外仍使用 OpenAI、Ollama 和 Anthropic 兼容接口。应用调用服务时，无需关心这次请求具体由哪台设备处理。

模型按需同步，减少重复准备

设备增加，模型副本也要跟上。常用模型只存在于一台设备上时，其他节点即使有空闲资源，也无法直接分担相应推理任务。

集群的模型分布页面展示各节点持有的模型，支持将所需模型同步到其他成员。管理员可以按调用量增加常用模型副本，也可以让不同设备承担不同类型的任务。

集群可从内网已有节点复制模型，并在传输过程中校验文件。这样，各台设备不必重复从外部下载同一模型。

例如，研发团队可以在多个节点准备常用文本模型，知识应用则在合适的设备上部署向量模型。模型副本的安排与实际任务对应，新增设备也就有了明确用途。

应用仍通过现有兼容接口调用服务。团队扩展节点、调整模型分布时，可以继续沿用已有接入方式，将设备和副本安排放在模型服务侧完成。

节点加入与日常维护

共享设备需要有明确的加入方式，也需要在维护时控制任务流入。

节点以证书标识身份。管理员可以查看节点状态，并移除不再参与服务的设备。

需要升级或调整设备时，可以在对应设备上启用排空，停止接收新请求；维护状态则让该节点退出请求路由。节点临时离线时，调度会跳过故障节点并尝试其他可用设备。

调度解释提供节点选择依据与跳过原因。管理员可以结合模型分布、节点负载和调用记录，判断问题出在模型准备、排队等待还是节点状态，再进行调整。

这些安排让团队能够在日常使用中增加设备、调整副本和轮换维护，持续管理共享服务。

多人研发与批量任务，体现扩展价值

企业版的使用价值，与团队的并发需求相连。

研发团队中，多位成员可能同时通过编码助手调用模型。增加持有常用模型的节点后，均衡调度可以让这些设备分担独立请求，缓解调用集中带来的排队压力。

知识应用处理文档时，往往需要批量生成向量。多节点能够分别处理这些请求，为文档资源集中更新、批量入库等任务提供更多处理容量。

以 Qwen3-Embedding-0.6B 的 32 路并发请求为例，每路包含 32 条输入：Apple M5、M4、M1 Pro 三台设备在 5 GHz 无线网络下，整批耗时由单机的 20.43 秒降至三机的 7.63 秒，约加速 2.68 倍。

实验室或小型研发团队也可以围绕常用模型建立共享服务，再根据调用量增加设备。单次请求的速度取决于执行节点与模型，多节点的扩展价值则主要来自并发任务的分担。

03 未来发展：围绕团队管理继续完善

随着模型服务进入更多业务场景，企业对日常使用的要求也会不断增加。未来，CSGLite 企业版将持续推出面向企业的新功能，支持团队在更大规模下使用 AI 服务。

成员与项目权限

在现有 API Key 管理之上，引入成员、团队与项目维度，将模型访问范围与职责关联。管理员可按项目分配权限，并在成员调整或项目结束时撤销访问。

额度与预算管理

在已有调用统计基础上，增加项目或成员的 Token 额度、并发限制与云端预算，配合预算告警和超额处理规则，帮助负责人安排资源与费用。

集中配置与运维告警

围绕节点池提供版本检查、配置下发、批量升级与恢复，并针对节点离线、模型加载失败和持续排队等情况告警，减少逐台维护的工作。

来源策略与管理审计

按项目或应用限定可用的本地、内网与外部模型来源，记录模型配置、节点成员和授权变更，完善留存与导出，支持后续追溯。

CSGLite 企业版（EE）已经通过扩大节点规模，为团队提供了共享推理的扩展空间。围绕权限、额度和集中运维继续完善，可进一步支持企业组织这套服务，让设备容量、应用需求与管理规则相互对应。

从常用模型和实际任务出发，团队可以逐步增加设备，也可以持续完善服务管理。CSGLite 企业版（EE）面向的，正是这一长期使用过程。

关于 CSGLite

CSGLite是OpenCSG推出的轻量化本地大模型运行底座，以单二进制文件集成了模型下载、本地推理、交互对话与标准API服务，支持一键自动完成模型加载与推理启动，并提供包含资源监控、模型市场、数据集管理、聊天室及AI应用管理等七大模块的统一Web工作台。它支持从CSGHub社区或私有仓库获取模型及数据集，也可无缝对接OpenAI、DeepSeek等第三方API；同时可通过launch命令一键配置主流编程Agent（如Claude Code、Codex等）直接调用本地模型，或一键拉起OpenClaw、Dify等AI应用，从而为开发者和企业提供从模型管理到本地推理、再到应用生态接入的全流程基础设施能力。