摘要: | 本站链接 | 标签 | 归档 | 笔记 | 随笔 | 杂的文 | 留言板 | 相册 | :postbox:关于 | | : : | : : | : : | : : | : : | : : | : : | : : | : : | | Code | modelscope | huggingface 阅读全文
posted @ 2021-01-20 16:03 Xu_Lin 阅读(175) 评论(0) 推荐(1)
摘要: DeepSeek Harness (dsh) 项目深度分析报告 分析日期: 2026-08-13 仓库路径: ~/PycharmProjects/deepseek-harness 版本: 0.1.0-rc.5 目录 项目定位与总览 仓库布局与工程体系 核心架构:Cordis 全插件框架 Core 包 阅读全文
posted @ 2026-08-14 00:03 Xu_Lin 阅读(98) 评论(0) 推荐(0)
摘要: DeepSeek Harness初体验 npm i @deepseek-ai/dsh 如果出现下面这个错误 (base) gatilin@gatilindeMacBook-Pro-2 ~ % npm i @deepseek-ai/dsh npm warn EBADENGINE Unsupported 阅读全文
posted @ 2026-08-13 23:40 Xu_Lin 阅读(30) 评论(0) 推荐(0)
摘要: 从 0.1× 到 3.0×:模型积分越贵,性能就一定越好吗? 基于平台模型列表与公开基准测试,对 18 个模型的积分消耗、性能层级和适用场景进行分析。 数据日期:2026 年 8 月 8 日 先说结论 模型的积分消耗和性能总体上存在正相关,但远不是“积分翻倍,性能也翻倍”。 更准确地说: 高积分通常 阅读全文
posted @ 2026-08-08 21:16 Xu_Lin 阅读(12) 评论(0) 推荐(0)
摘要: curl -fsSL https://finnie-1258344699.cos.ap-guangzhou.myqcloud.com/octop/install.sh | bash octop run 阅读全文
posted @ 2026-08-02 01:03 Xu_Lin 阅读(5) 评论(0) 推荐(0)
摘要: 从 CLIP 到通用视觉感知底座:Text–Image Pretraining 的范式演进与 2026 年最新进展 过去几年,多模态模型的发展速度非常快。 从 CLIP 开始,研究者第一次证明:不依赖固定类别标签,只需要利用互联网上的大规模图像—文本对,就可以训练出具备开放词汇识别、跨模态检索和零样 阅读全文
posted @ 2026-07-31 17:59 Xu_Lin 阅读(12) 评论(0) 推荐(0)
摘要: todo 阅读全文
posted @ 2026-07-30 19:04 Xu_Lin 阅读(6) 评论(0) 推荐(0)
摘要: SparkLM 192M 公平性修正消融实验报告 生成时间: 2026-07-14 完成度: 36/36 组实验全部完成(12 配置 × 3 seeds) 训练规模: ~113M 参数级(Attention 110-134M / MoE 142-150M) 数据集: TinyStories 中英文合 阅读全文
posted @ 2026-07-14 10:54 Xu_Lin 阅读(14) 评论(0) 推荐(0)
摘要: SparkLM 31M → 192M 规模化验证深度报告 生成时间:2026-07-09 训练规模:31M(2000 steps × 35 configs)→ 192M(5000 steps × 12 configs) 实际参数量:31M 级(27-49M)→ 192M 级(110-362M) 数据 阅读全文
posted @ 2026-07-09 11:48 Xu_Lin 阅读(9) 评论(0) 推荐(0)
摘要: SparkLM 完整技术报告:创新贡献、源码架构与消融实验 ~49K LOC · 620 tests · 31M–34B 多尺度预设 · 35 配置消融实验 · 2026-07-06 目录 项目全景概览 原始创新模块(5 项) 工程系统贡献(6 项) 核心源码架构分析 模型架构图解 31M 全配置消 阅读全文
posted @ 2026-07-07 17:52 Xu_Lin 阅读(14) 评论(0) 推荐(0)
摘要: SparkLM 模型架构文档 SparkLM-31M · Dense + MoE + MTP + MLA/GQA/SAHA + ECKVC + CRS 全组件架构总览 目录 图 1 · 整体架构总览 图 2 · MLA (Multi-head Latent Attention) 内部结构 图 3 · 阅读全文
posted @ 2026-07-07 02:05 Xu_Lin 阅读(10) 评论(0) 推荐(0)
摘要: SparkLM 31M 全配置消融实验深度分析报告 数据集:TinyStories 中英文混合 (1.6 GB, ~1.6B tokens) | Tokenizer:SimpleTokenizer (byte-fallback 中文支持) 训练:2000 steps × batch=32 × seq 阅读全文
posted @ 2026-07-06 23:52 Xu_Lin 阅读(13) 评论(0) 推荐(0)
摘要: OpenSeek-100B 预训练数据集分布分析报告 数据集: BAAI/OpenSeek-Pretrain-100B 版本: v1.0 基础来源: CCI4.0-M2 v1 报告日期: 2025-07-05 数据规模: 79 个条目 | 109.73B Tokens | 11 大 Domain 目 阅读全文
posted @ 2026-07-05 19:09 Xu_Lin 阅读(26) 评论(0) 推荐(0)
摘要: The Cauldron 数据集分布分析报告 数据集: HuggingFaceM4/the_cauldron 用途: Idefics2 视觉-语言模型微调训练数据 报告日期: 2025-07-05 数据集规模: 50 个子数据集 | 1,880,992 样本 | 424.6 GB 目录 执行摘要 数 阅读全文
posted @ 2026-07-05 18:35 Xu_Lin 阅读(13) 评论(0) 推荐(0)
摘要: 原生 Native 多模态 Agentic AI 深度专题调研报告 (2024-2026) 1. 执行摘要 2024 至 2026 年,人工智能领域最深刻的架构变革之一,是多模态系统从"模块化拼接"向"原生一体化"的范式转移。原生多模态(Native Multimodal)Agentic AI 摒弃 阅读全文
posted @ 2026-05-29 15:37 Xu_Lin 阅读(496) 评论(0) 推荐(0)
摘要: Codex 安装与配置指南 OpenAI Codex 完整使用说明书 概述 本指南将引导您完成 Codex 的注册、安装与配置全流程,分为以下三个主要步骤: 注册账号并获取 API 密钥 安装 Codex 命令行工具 配置 Codex 连接自定义服务 ⚠️ 提示:如果您已安装 Codex,可跳过第二 阅读全文
posted @ 2026-05-11 23:58 Xu_Lin 阅读(2244) 评论(0) 推荐(0)
摘要: YOLO十年进化:从速度与激情到未来与前沿 YOLO十年进化:从速度与激情到未来与前沿 一、YOLO十年进化全景速览 自2015年YOLOv1横空出世,将目标检测重塑为单一的回归问题并首次实现真正的实时性能以来,YOLO系列模型开启了一段持续十年、波澜壮阔的技术演进之旅。这段旅程并非简单的版本迭加, 阅读全文
posted @ 2026-04-28 16:33 Xu_Lin 阅读(255) 评论(0) 推荐(1)
摘要: 在参数高效微调(PEFT)领域,LoRA 及其衍生方法通过低秩矩阵分解大幅降低了大模型微调成本。LoRA 是基础方法,以低秩乘积逼近权重更新,简单高效;LoHA 与 LoKr 分别利用 Hadamard 积与 Kronecker 积重构更新矩阵,在相同参数量下获得更高的理论秩;DoRA 将权重分解为 阅读全文
posted @ 2026-04-28 16:16 Xu_Lin 阅读(249) 评论(0) 推荐(0)
摘要: 从DeekSeek V3到V4:技术路线演进、性能提升与创新突破 一、DeepSeek-V3 核心架构与训练策略 DeepSeek-V3 是一个拥有 671B(6710亿) 总参数的混合专家(MoE)模型,其核心设计遵循 高总参、低激活 的经济高效原则,每个 Token 仅激活 37B(370亿) 阅读全文
posted @ 2026-04-24 15:41 Xu_Lin 阅读(222) 评论(0) 推荐(0)
摘要: 其他 待更新 LLamafactory贡献 https://github.com/hiyouga/LlamaFactory/releases/tag/v0.9.4 以上 阅读全文
posted @ 2026-01-01 00:49 Xu_Lin 阅读(69) 评论(0) 推荐(0)
摘要: 环境与设备配置:H20*8(96G) MODEL_ID=Qwen/Qwen3-VL-30B-A3B-Instruct MODEL_NAME=Qwen3-VL-30B-A3B-Instruct python3 -m vllm.entrypoints.openai.api_server \ --mode 阅读全文
posted @ 2025-10-11 18:29 Xu_Lin 阅读(2857) 评论(3) 推荐(0)