我的随笔

GPUStack v0.4：文生图模型、语音模型、推理引擎版本管理、离线支持和部署本地模型

Seal软件 2024-12-09 10:20 阅读:540 评论:0 推荐:0

配置NVIDIA Container Runtime和容器运行GPUStack教程

Seal软件 2024-11-19 10:57 阅读:1184 评论:0 推荐:0

RAG三件套运行的新选择 - GPUStack

Seal软件 2024-11-12 10:02 阅读:831 评论:0 推荐:0

制作并量化GGUF模型上传到HuggingFace和ModelScope

Seal软件 2024-11-07 11:51 阅读:465 评论:0 推荐:0

在昇腾Ascend 910B上运行Qwen2.5推理

Seal软件 2024-11-04 13:11 阅读:2757 评论:0 推荐:1

GPUStack 0.2：开箱即用的分布式推理、CPU推理和调度策略

Seal软件 2024-09-19 10:11 阅读:1095 评论:0 推荐:0

GPUStack正式发布: 为大模型而生的开源GPU集群管理器

Seal软件 2024-07-26 16:15 阅读:2895 评论:2 推荐:1

建立成功平台工程的关键：自助式 IaC

Seal软件 2024-04-29 09:45 阅读:106 评论:0 推荐:0

不谈虚的，平台即产品真的有那么好吗？

Seal软件 2024-04-26 09:32 阅读:65 评论:0 推荐:0

API 开发的后盾：平台工程提供强力动态支持

Seal软件 2024-04-24 10:19 阅读:39 评论:0 推荐:0

公告

<

2025年6月

>

日

一

二

三

四

五

六

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

26

27

28

29

30

1

2

3

4

5

6

7

8

9

10

11

12

随笔档案

阅读排行榜

评论排行榜

推荐排行榜

最新评论

1. Re:GPUStack正式发布: 为大模型而生的开源GPU集群管理器
@everest33 用Ollama Library方式不需要科学s网，马上也会支持ModelScope魔搭社区。...
--Seal软件
2. Re:GPUStack正式发布: 为大模型而生的开源GPU集群管理器
模型部署需要科学s网才能成功吧？怎么在应用内配置科学s网代理呢？
--everest33
3. Re:让 K8s 更简单！8款你不得不知的 AI 工具-Part 2
好家伙，AI直接执行运维操作，我看哪个公司的运维敢用。
出个错搞不好直接就是删库跑路
--冷芋头
4. Re:通义千问, 文心一言, ChatGLM, GPT-4, Llama2, DevOps 能力评测
@星小梦 3.5也很优秀了~...
--Seal软件
5. Re:通义千问, 文心一言, ChatGLM, GPT-4, Llama2, DevOps 能力评测
@落叶子至少从我的体验来看，千问和文心根本没法理解我的意思，想体验gpt4但是没办法访问。。。太难了。...
--星小梦