摘要： 1. 问题来源 准备复制一段代码到Linux服务器上的vim文件中。 复制代码如下： shenyu: selectorMatchCache: ## selector L1 cache cache: enabled: false initialCapacity: 10000 # initial cap 阅读全文

摘要： 1. 故障背景 单节点Kubernetes集群升级操作系统内核版本、NVIDIA驱动与CUDA后重启服务器，引发容器云管理界面访问异常。核心环境如下： ​​组件版本​​： Ubuntu 5.19.0-40-generic Kubernetes 1.21.5, Docker 27.5.1 网络插件：F 阅读全文

摘要： 1.Swap介绍 Swap Space 是开辟在操作系统磁盘上的一块区域，此块区域可以是一个分区，也可以是一个文件，或者是他们的组合。基于其场景特性，也就是说：当操作系统物理内存不够用时，Linux 系统会将内存中不常访问的数据同步至 Swap 上，这样系统就有更多的物理内存为各个进程服务；反之，当 阅读全文

摘要： 1. 概述 现代软件都是组装的而非纯自研。随着开源组件在数字化应用中的使用比例越来越高，混源开发已成为当前业内主流开发方式。开源组件的引入虽然加快了软件开发效率，但同时将开源安全问题引入了整个软件供应链。软件组成成分的透明性成为软件供应链安全保障的基础，SBOM（Software Bill of M 阅读全文

摘要： 1. 概述 Data Duplicator是Linux中一个​​底层数据操作工具​​，用于读取、转换并输出数据。 dd 可从文件、设备或标准输入中读取数据，根据指定的格式来转换数据，再输出到文件、设备或标准输出，适用于备份、磁盘克隆、启动盘制作等高危操作。其强大性伴随着风险，使用时需格外谨慎。 2. 阅读全文

摘要： 1. 概述 SCP命令是Secure Copy的缩写，它是一个用于在本地计算机和远程计算机之间进行文件传输的命令行工具。这个命令基于SSH（Secure Shell）协议，提供了加密和安全的文件传输功能。与其他安全传输协议对比： 2. SCP命令完全解析 2.1 命令结构解剖 SCP命令的基本语法如 阅读全文

摘要： 1. 引言：为什么选择离线部署 在当今AI技术快速发展的时代，许多企业面临着数据安全与合规性的严格要求，特别是在金融、医疗和政府等领域，离线部署AI模型成为刚需。本文将详细介绍如何利用Xinference框架在完全离线的环境中部署四种核心AI能力：文本嵌入(Embedding)、重排序(Rerank 阅读全文

摘要： 1、意思不同 1、并发：并发是指两个或多个事件在同一时间间隔发生，把任务在不同的时间点交给处理器进行处理。在同一时间点，任务并不会同时运行。 2、并行：并行是指两个或者多个事件在同一时刻发生，把每一个任务分配给每一个处理器独立完成。在同一时间点，任务一定是同时运行。 2、侧重不同 1、并发：并发侧重 阅读全文

摘要： 1、概述 在《Token：大语言模型的“语言乐高”，一切智能的基石》与《LLM 输出配置 (LLM output configuration)》这两篇博文中介绍了LLM Token、最大输出长度、温度、Top-K、Top-P概念，这篇文章介绍下LLM 上下文长度。 2、上下文长度 2.1 上下文长度 阅读全文

摘要： 1、概述 大型语言模型(LLM)的输出行为可以通过多种配置参数进行精细控制。这些参数共同决定了模型生成文本的质量、风格和多样性。理解这些配置选项及其相互作用对于有效使用LLM至关重要。 2、输出长度 (Output length) 一个重要的配置设置是响应中要生成的令牌数量。生成更多令牌需要 LLM 阅读全文

摘要： 1、什么是Token？——AI眼中的“文字积木块” Token 是模型用来表示自然语言文本的基本单位，也是模型的计费单元，可以直观的理解为“字”或“词”；通常 1 个中文词语、1 个英文单词、1 个数字或 1 个符号计为 1 个 token。 一般情况下模型中 token 和字数的换算比例大致如下： 阅读全文

摘要： 1、概述 随着人工智能技术的飞速发展，越来越多的开发者和企业开始关注大语言模型（LLM）。这些模型以其强大的自然语言处理能力，在文本生成、问答、翻译、分类等多种任务中表现出色。然而，在实际使用中，许多人会遇到如何快速且高效地部署这些模型的问题。本文将介绍如何通过 Ollama 工具在本地部署 Dee 阅读全文

摘要： 1、概述 Ollama 是一款开源跨平台大模型工具，主要用于在本地便捷部署和运行大型语言模型（LLM），核心目标是降低用户使用大模型的门槛，同时保障数据隐私。核心功能与特点如下： （1）本地部署，隐私保护 支持在 Windows、MacOS、Linux 等系统本地运行模型，无需依赖云端，数据交互全程 阅读全文

摘要： 1、概述 kube-rbac-proxy 是 Kubernetes 生态中一个专注于“基于角色的访问控制（RBAC）”的轻量级代理组件，通常以 Sidecar 容器的形式部署在 Pod 中，为服务提供细粒度的请求鉴权能力。它尤其适用于保护 /metrics、/debug 等敏感端点，通过将 RBAC 阅读全文

摘要： 1、概述 在 Kubernetes 集群中，授权（Authorization） 是保障安全的核心机制之一。无论是用户、ServiceAccount 还是自动化工具，对资源的操作都需要经过严格的权限控制。SubjectAccessReview 是 Kubernetes 提供的动态鉴权资源，允许开发者或 阅读全文