• 博客园logo
  • 会员
  • 周边
  • 新闻
  • 博问
  • 闪存
  • 赞助商
  • Chat2DB
    • 搜索
      所有博客
    • 搜索
      当前博客
  • 写随笔 我的博客 短消息 简洁模式
    用户头像
    我的博客 我的园子 账号设置 会员中心 简洁模式 ... 退出登录
    注册 登录

security-hyacinth

  • 博客园
  • 联系
  • 订阅
  • 管理

公告

上一页 1 ··· 18 19 20 21 22 23 24 25 26 ··· 36 下一页

2026年2月2日

6:ModelScope 上 Qwen 微调方式总览 & 推荐路径

摘要: 作者: HOS(安全风信子) 日期: 2026-02-02 主要来源平台: ModelScope 摘要: 全面总览ModelScope上Qwen模型的各种微调方式,包括全参数微调、LoRA、QLoRA三种主流方法的详细对比,分析它们的显存需求、速度、效果差异。提供ModelScope环境安装、数据集 阅读全文

posted @ 2026-02-02 20:52 安全风信子 阅读(32) 评论(0) 推荐(0)

5:Prompt 结构对 Qwen 表现的影响(结构化 vs 自然语言)

摘要: 作者: HOS(安全风信子) 日期: 2026-02-02 主要来源平台: ModelScope 摘要: 深入分析不同Prompt结构对Qwen模型表现的影响,通过对比实验:纯自然语言 vs Markdown结构 vs JSON格式 vs Few-shot,展示Qwen对JSON/结构化指令的响应优 阅读全文

posted @ 2026-02-02 20:51 安全风信子 阅读(28) 评论(0) 推荐(0)

4:采样参数本质解析(附Qwen实测对照)

摘要: 作者: HOS(安全风信子) 日期: 2026-02-02 主要来源平台: ModelScope 摘要: 深入拆解temperature、top_p、top_k、repetition_penalty、max_tokens等采样参数的本质与调参影响,揭示它们如何控制模型输出的随机性、多样性和质量。通过 阅读全文

posted @ 2026-02-02 20:51 安全风信子 阅读(30) 评论(0) 推荐(0)

3:Base / Instruct / Chat 模型底层区别与选型

摘要: 作者: HOS(安全风信子) 日期: 2026-02-02 主要来源平台: ModelScope 摘要: 深入对比Qwen系列的三种模型类型:Base(无对齐,纯预训练)、Instruct(中等对齐,任务指令友好)、Chat(强对齐,直接对话)。分析它们的底层架构差异、训练目标、输出特点和适用场景, 阅读全文

posted @ 2026-02-02 20:50 安全风信子 阅读(59) 评论(0) 推荐(0)

2:Qwen 全尺寸模型横向对比 & 选型指南

摘要: 作者: HOS(安全风信子) 日期: 2026-02-02 主要来源平台: ModelScope 摘要: 表格列出Qwen系列主流尺寸(0.5B/1.7B/3B/4B/7B/8B/14B/32B/72B+,含Qwen3最新MoE),对比参数、上下文长度、显存需求、推荐用途、微调友好度。强调7B-14 阅读全文

posted @ 2026-02-02 20:50 安全风信子 阅读(95) 评论(0) 推荐(0)

1:Qwen 模型进化史与代际能力差异

摘要: 作者: HOS(安全风信子) 日期: 2026-02-02 主要来源平台: ModelScope 摘要: 系统梳理 Qwen1 → Qwen1.5 → Qwen2 → Qwen2.5 → Qwen3 的演进路径,包括参数规模扩展、预训练数据量激增(从数万亿到36T+)、上下文长度从几K到128K+、 阅读全文

posted @ 2026-02-02 20:49 安全风信子 阅读(23) 评论(0) 推荐(0)

2026年2月1日

50. Harmony Format 解析:vLLM的统一 token 化方案

摘要: 作者:HOS(安全风信子) 日期:2026-01-21 来源平台:GitHub 摘要: 本文深入剖析了Harmony Format在vLLM中的设计原理、实现细节和应用场景,包括其核心概念、与传统tokenization的区别、实现架构以及在vLLM中的应用。通过详细的代码示例和Mermaid流程图 阅读全文

posted @ 2026-02-01 10:55 安全风信子 阅读(32) 评论(0) 推荐(0)

49. Constraint Decoding 在 vLLM 中的位置:解码约束与生成质量的平衡

摘要: 作者:HOS(安全风信子) 日期:2026-01-21 来源平台:GitHub 摘要: 本文深入剖析了Constraint Decoding在vLLM中的定位、设计原理和实现细节,包括其在解码流程中的位置、与其他组件的交互关系、支持的约束类型以及性能优化策略。通过详细的代码示例和Mermaid流程图 阅读全文

posted @ 2026-02-01 10:55 安全风信子 阅读(51) 评论(0) 推荐(0)

48. Structured Output 实现:vLLM如何确保生成内容的结构化与可靠性

摘要: 作者:HOS(安全风信子) 日期:2026-01-21 来源平台:GitHub 摘要: 本文深入剖析了vLLM中Structured Output功能的设计原理和实现细节,包括JSON模式生成、语法约束解码、正则表达式验证等核心技术。通过详细的代码示例和Mermaid流程图,展示了vLLM如何确保生 阅读全文

posted @ 2026-02-01 10:54 安全风信子 阅读(41) 评论(0) 推荐(0)

47. OpenAI API 兼容实现:vLLM如何实现与OpenAI API的无缝对接

摘要: 作者:HOS(安全风信子) 日期:2026-01-21 来源平台:GitHub 摘要: 本文深入剖析了vLLM中OpenAI API兼容实现的设计原理和技术细节,包括API映射机制、请求转换逻辑、响应格式化、流式输出处理等核心功能。通过详细的代码示例和Mermaid流程图,展示了vLLM如何实现与O 阅读全文

posted @ 2026-02-01 10:53 安全风信子 阅读(77) 评论(0) 推荐(0)

上一页 1 ··· 18 19 20 21 22 23 24 25 26 ··· 36 下一页
 
博客园  ©  2004-2026
浙公网安备 33010602011771号 浙ICP备2021040463号-3