两台电脑,怎样共享本地 AI?CSGLite 集群使用指南

CSGLite 是 OpenCSG 的本地 AI 工具,支持在 Windows、macOS 和 Linux 设备上下载、管理和运行模型。用户可以通过可视化界面查找模型、查看下载进度,在模型库中管理文件,再进入“对话”使用模型。

对于日常办公,文本模型可以用来整理会议记录、提取访谈要点、改写通知或归类客户反馈。你把文字和处理要求交给模型,检查生成内容,再用于后续工作。

集群功能把同一局域网中的设备连接起来。加入集群后,可以调用其他成员的模型服务、同步模型文件,也能在页面中查看成员状态和模型分布。下面以办公室的两台电脑为例,介绍这些功能怎样使用。

01 认识集群:多台设备如何协同工作

集群是什么

集群是由多台通过网络连接的计算设备组成的系统。这些设备按照共同的规则协作,承担计算任务或提供服务。每台设备称为一个“节点”,可以是电脑、服务器或虚拟机。

各节点拥有自己的处理器、内存和存储资源,通过网络交换任务和状态信息。集群中的协调机制负责分配任务、管理节点之间的协作。有些任务可以交给不同节点分别执行,有些任务则需要多个节点共同参与。

组成集群能带来什么

组成集群后,多台设备可以分担工作,提高同时处理任务的能力。需求增加时,也可以通过加入节点扩充资源。具备故障检测和接管机制的集群,还能在部分节点发生故障时,由其他节点继续提供服务。

不同集群的侧重点

不同集群的侧重点有所区别,实际系统也可以结合这些能力:

计算集群:侧重协同完成计算

负载均衡集群:侧重分配请求

高可用集群:侧重保持服务连续

02 从一台电脑,到两台设备协作

查看成员和资源状态

打开集群 集群 / 概览,可以查看成员是否在线、设备是否健康,以及 GPU、显存、CPU、内存和磁盘信息。页面还显示已加载模型和在途请求,方便了解各台电脑正在承担什么工作。

例如,准备在另一台电脑上增加模型副本时,可以先检查它的磁盘空间和内存。遇到请求等待,也可以查看成员是否在线、是否正在处理其他任务。

集群顶部的显存统计汇总了成员资源,每台电脑运行模型时仍使用自己的显存。

看清模型保存和加载的位置“模型分布”按模型和成员展示状态:

“已存在”:表示设备保存了模型文件

“已加载”:表示模型已进入运行状态

这两个状态会影响使用安排:文件已存在,首次调用仍可能需要加载;模型已经加载,后续请求就有机会复用运行中的模型。

“放置建议”

会检查其他成员的空闲内存和磁盘空间,为增加模型副本提供参考。用户可以据此决定在哪台设备上保存模型。

通过局域网同步模型文件

需要在另一台电脑上独立使用时,可以同步模型。CSGLite 会让缺少模型的成员获取权重及相关文件,通常优先从已有文件的成员通过局域网复制。

同步后,两台设备各自保存一份模型。用户在接收方加载模型,就可以使用本机资源进行推理。

聊天记录和发送方正在运行的状态不会随文件同步过去,接收方也需要具备运行该模型的条件。

查看调度解释,调整接收任务

“调度解释”可以列出候选节点的预计耗时和排除原因。操作方法如下:

选好模型,填写提示词 token 数和最大输出 token 数,再点击“解释”,就能查看一条假设请求的估算。这个操作不会生成答案,预计耗时也不能作为实际测速结果。

成员还可以按工作安排调整接收任务。电脑需要集中处理自己的工作时,可以关闭“接收其他节点的任务”;条件相近时想偏向本机,可以开启“优先本机”。权重影响调度评分,但不对应固定的任务比例。

按设备状态分配请求

在“设置”中,可以选择两种调度模式:本机优先倾向于在本机处理能承担的请求

均衡比较成员的预计耗时,把本机也作为候选设备

模型是否已经加载、正在处理多少请求、是否需要排队,都会影响选择。同一段对话可能继续交给原来的成员,复用已有的上下文缓存。如果在对话中明确选了本地模型,该请求就在本机执行,均衡模式不会把它改派出去。集群分配的是请求,各成员分别运行自己的模型副本。

调用另一台电脑的模型服务

本机没有目标模型时,可以使用集群中其他成员提供的服务。请求从你的电脑发出,由持有模型的成员处理,再把答案返回。

这样,一台电脑上准备好的模型,也能供另一台使用。提供服务的成员需要在线、能够运行该模型,并开启“接收其他节点的任务”。使用者仍在自己的对话页面提交文字和查看结果。

先把两台设备加入同一个集群

两台电脑安装并运行 CSGLite 后,接入同一局域网。这里用 A 表示持有模型的电脑,B 表示另一台电脑。

1 第一步:在 A 创建集群

在 A 打开“集群”,填写名称并点击“创建集群”。

2 第二步:在 B 加入集群

复制加入令牌,在 B 的“用令牌加入”区域粘贴,点击“加入集群“192.168.1.20:11438”,并确认该端口能相互访问。

3 第三步:确认连接状态

1在“概览”中检查 A、B 是否都在线

2到“模型分布”确认目标模型在 A 上

3打开 A 的“接收其他节点的任务”

到这里,就可以从 B 使用 A 提供的模型服务了。

从调用服务,到同步独立运行

两台设备连接好后,接下来用会议纪要和客户反馈两个任务,展示集群的具体用法:先从 B 调用 A 的模型完成整理,再同步模型,让 B 独立处理材料。操作步骤和整理指令如下。

案例一:借用同事的模型整理会议纪要

产品分享会的筹备会议结束后,需要整理活动安排,列出各人的任务,以及还没有决定的事项。电脑 A 已准备好文本模型,适合处理这类信息,电脑 B 尚未下载同一模型。

操作路径

1 在 B 打开“对话”

2 选择A 提供的模型

3 把会议记录粘贴到输入框中

这份记录包含活动时间、内容安排、各人的分工,也有需要继续讨论的问题。

模型指令:整理会议纪要

输入整理要求:

可复制模型指令

请根据会议记录整理纪要,分为“已确定的安排”“行动事项”和“待确认事项”。行动事项用表格列出任务、负责人和截止时间。原文没有写明的信息填“未明确”,不要补充人员、日期或尚未确定的结论。

提交后,A 运行模型,生成内容返回到 B 的对话页面。B 无需先下载模型,也不用请 A 的使用者代为输入问题。

核对要点

拿到纪要后,先核对人名、任务和期限,再看模型有没有把待确认的事项写成定论。例如,会议里还没确定是否开放回放,纪要中就应该保留这个问题;只讨论了海报制作、没有指定负责人,也应写“未明确”。

如果想把核对后的纪要发到工作群,可以在同一段对话中继续输入:

将以上纪要改成适合工作群发送的短版。保留各人的任务和截止时间,待确认事项单独列出,不补充新的安排。

这一步能得到另一种排版和篇幅,发送前仍要对照原记录检查。

整理访谈要点或改写活动通知时,也可以沿用这一用法:在 B 提交材料,使用 A 的模型服务,再核对返回内容。

案例二:同步模型,独立整理客户反馈

接下来需要整理报名页的使用反馈。如果希望电脑 B 独立处理材料,可以先把同一模型同步过来。

操作路径

  • 在“模型分布”中找到目标模型,点击“同步到全部节点”
  • 先检查 B 的剩余磁盘空间,再查看拉取任务进度
  • 完成后,确认 B 显示“已存在”
  • 在“对话”中选择本地模型,加载运行

模型指令:整理客户反馈

把收集到的反馈粘贴进去,保留每条反馈的编号,输入:

可复制模型指令

请按类别整理这些客户反馈,列出编号、问题摘要、原文依据和需要补充的信息。分类可用“操作引导”“信息展示”“功能建议”“访问问题”。不要推测技术原因,也不要添加原文没有的故障频率或严重等级。

检查与后续使用

检查结果时,要分清客户描述的现象和仍需确认的原因。例如,“确认邮件里没有显示公司名称”还不能直接判定为信息保存失败;页面打不开,也需要继续询问发生时间、网络环境和错误提示。

保留原文依据,后续接手的人就能找到客户当时的说法。核对分类后,可以将表格交给页面负责人。需要联系客户时,再要求模型“按反馈编号列出追问问题,每个问题用一句话表达”,核对后交给客户沟通人员。

这次使用的是 B 上的本地模型。只要同步完成且 B 能运行它,就能在 A 不再提供服务时继续工作。

在观测中心回看请求

完成文字生成后,可以打开“观测中心”查看历史请求。页面汇总请求数、成功率、平均耗时和 token 总量,也支持按时间范围、状态、模型和来源筛选。

需要回看某次处理时,可以打开对应记录,查看请求和响应内容。比如,纪要遗漏了一个任务,可以先检查提交的记录是否包含这句话,再检查生成回答,决定是否补充指令重新整理。

“链路追踪”可以把带有同一追踪标识的请求放在一起查看。需要检查关联请求时,再切换到这个页面;日常回看输入和答案,从历史请求开始即可。

共享已有模型,按需要独立使用

对于已经准备好本地模型的团队,CSGLite 集群可以让另一台电脑沿用现有模型服务,减少重复下载和准备。使用者在自己的界面处理材料,同时不需要代为输入问题、转发答案;需要独立运行时,再同步一份模型到本机。

两台设备都具备模型后,还可以按运行状态安排进入集群的请求。团队可以查看模型保存在哪台电脑、各成员正在处理多少请求,并回看一次生成的状态和内容。

关于 CSGLite

CSGLite是 OpenCSG 推出的轻量化本地大模型运行底座,以单二进制文件集成了模型下载、本地推理、交互对话与标准 API 服务,支持一键自动完成模型加载与推理启动,并提供包含资源监控、模型市场、数据集管理、聊天室及 AI 应用管理等七大模块的统一 Web 工作台。它支持从 CSGHub 社区或私有仓库获取模型及数据集,也可无缝对接 OpenAI、DeepSeek 等第三方 API;同时可通过 launch 命令一键配置主流编程 Agent(如 Claude Code、Codex 等)直接调用本地模型,或一键拉起 OpenClaw、Dify 等 AI 应用,从而为开发者和企业提供从模型管理到本地推理、再到应用生态接入的全流程基础设施能力。

OpenCSG 社区

https://opencsg.com/products/csglite

开源链接

https://github.com/OpenCSGs/csglite

posted @ 2026-10-29 23:20  OpenCSG  阅读(18)  评论(0)    收藏  举报