摘要： 1. 概述 Data Duplicator是Linux中一个​​底层数据操作工具​​，用于读取、转换并输出数据。 dd 可从文件、设备或标准输入中读取数据，根据指定的格式来转换数据，再输出到文件、设备或标准输出，适用于备份、磁盘克隆、启动盘制作等高危操作。其强大性伴随着风险，使用时需格外谨慎。 2. 阅读全文

摘要： 1. 概述 SCP命令是Secure Copy的缩写，它是一个用于在本地计算机和远程计算机之间进行文件传输的命令行工具。这个命令基于SSH（Secure Shell）协议，提供了加密和安全的文件传输功能。与其他安全传输协议对比： 2. SCP命令完全解析 2.1 命令结构解剖 SCP命令的基本语法如 阅读全文

摘要： 1. 引言：为什么选择离线部署 在当今AI技术快速发展的时代，许多企业面临着数据安全与合规性的严格要求，特别是在金融、医疗和政府等领域，离线部署AI模型成为刚需。本文将详细介绍如何利用Xinference框架在完全离线的环境中部署四种核心AI能力：文本嵌入(Embedding)、重排序(Rerank 阅读全文

摘要： 1、意思不同 1、并发：并发是指两个或多个事件在同一时间间隔发生，把任务在不同的时间点交给处理器进行处理。在同一时间点，任务并不会同时运行。 2、并行：并行是指两个或者多个事件在同一时刻发生，把每一个任务分配给每一个处理器独立完成。在同一时间点，任务一定是同时运行。 2、侧重不同 1、并发：并发侧重 阅读全文

摘要： 1、概述 在《Token：大语言模型的“语言乐高”，一切智能的基石》与《LLM 输出配置 (LLM output configuration)》这两篇博文中介绍了LLM Token、最大输出长度、温度、Top-K、Top-P概念，这篇文章介绍下LLM 上下文长度。 2、上下文长度 2.1 上下文长度 阅读全文

摘要： 1、概述 大型语言模型(LLM)的输出行为可以通过多种配置参数进行精细控制。这些参数共同决定了模型生成文本的质量、风格和多样性。理解这些配置选项及其相互作用对于有效使用LLM至关重要。 2、输出长度 (Output length) 一个重要的配置设置是响应中要生成的令牌数量。生成更多令牌需要 LLM 阅读全文

摘要： 1、什么是Token？——AI眼中的“文字积木块” Token 是模型用来表示自然语言文本的基本单位，也是模型的计费单元，可以直观的理解为“字”或“词”；通常 1 个中文词语、1 个英文单词、1 个数字或 1 个符号计为 1 个 token。 一般情况下模型中 token 和字数的换算比例大致如下： 阅读全文

摘要： 1、概述 随着人工智能技术的飞速发展，越来越多的开发者和企业开始关注大语言模型（LLM）。这些模型以其强大的自然语言处理能力，在文本生成、问答、翻译、分类等多种任务中表现出色。然而，在实际使用中，许多人会遇到如何快速且高效地部署这些模型的问题。本文将介绍如何通过 Ollama 工具在本地部署 Dee 阅读全文

摘要： 1、概述 Ollama 是一款开源跨平台大模型工具，主要用于在本地便捷部署和运行大型语言模型（LLM），核心目标是降低用户使用大模型的门槛，同时保障数据隐私。核心功能与特点如下： （1）本地部署，隐私保护 支持在 Windows、MacOS、Linux 等系统本地运行模型，无需依赖云端，数据交互全程 阅读全文

摘要： 1、概述 kube-rbac-proxy 是 Kubernetes 生态中一个专注于“基于角色的访问控制（RBAC）”的轻量级代理组件，通常以 Sidecar 容器的形式部署在 Pod 中，为服务提供细粒度的请求鉴权能力。它尤其适用于保护 /metrics、/debug 等敏感端点，通过将 RBAC 阅读全文

摘要： 1、概述 在 Kubernetes 集群中，授权（Authorization） 是保障安全的核心机制之一。无论是用户、ServiceAccount 还是自动化工具，对资源的操作都需要经过严格的权限控制。SubjectAccessReview 是 Kubernetes 提供的动态鉴权资源，允许开发者或 阅读全文

摘要： 1、概述 Kubernetes 中的 TokenReview 是用于验证令牌（Token）有效性的一种 API 资源，属于 authentication.k8s.io/v1 API 组。它允许客户端通过创建 TokenReview 对象向 API Server 发起一个请求以验证一个令牌是否合法，并 阅读全文

摘要： 1、概述 Docker 作为一款广受欢迎的容器化技术，为开发者提供了极大的便利。它能够将应用程序以及其全部的依赖项整合并打包，形成一个标准化的独立单元 —— 镜像。对 Docker 镜像进行优化意义非凡，一方面可以显著降低镜像的存储空间占用，进而大幅提升其下载与部署的速率；另一方面，还能有效强化系统 阅读全文

摘要： 1、概述 在当今的技术领域，容器技术的崛起与发展离不开 Docker 和 Kubernetes 的紧密合作。Docker 以其创新性的容器化技术，推动了容器在全球范围内的广泛应用，为开发者提供了从容器镜像构建、容器启动与管理到镜像分发等一站式服务。Kubernetes 则专注于大规模容器的编排和自动 阅读全文

摘要： 1.概述 Kubernetes 集群巡检是一种监测和评估底层系统运行状况的重要手段，旨在快速发现系统中存在的潜在风险并提供修复建议。通过对 Kubernetes（K8s）集群进行定期巡检，可以有效保障集群稳定性、优化资源利用率、提升安全性，并降低运维风险，特别是在生产环境中，这种预防性措施尤为重要。 阅读全文