M4K0

摘要： 一句话内容简介：想把 GGUF（Q4_K_P + DFlash 投机解码）直接丢给 vLLM 跑（在 2080 Ti 双卡上搞"速度最快的图文方案"），结果连打通 9 个 bug、15+ 处补丁之后撞上"176 个参数未初始化"的结构性墙——GGUF 本来不是 vLLM 的主场，这次做不动的复盘，整 阅读全文

摘要： 一句话内容简介：一套 2018 年的双 2080 Ti（22GB×2），如何从零搭建 vLLM 环境、在「官方 + 自己调」的多个方案里找到最适配配置、跑通 138K 长上下文的 Qwen3.8-27B 并接入 agent 长期运行——含全部命令、参数与踩坑。特别说明：138K 是本机实测的上限，不 阅读全文

摘要： 全部基于同一台机器（2 × RTX 2080 Ti 22GB + NVLink，TP=2，vLLM-2080Ti-Definitive sm75 fork）的真实部署记录。每篇含全部命令、参数、日志锚点与实测数据，图表在各自 images/ 子文件夹内。 系列索引 篇 类型 标题 一句话看点 [01 阅读全文

摘要： 事件回顾：一次配置失误引发的代码裸奔 2026年3月31日凌晨，安全研究员 Chaofan Shou 在 X 平台披露：AI 领域头部企业 Anthropic 的明星产品 Claude Code 因构建配置失误，其完整 TypeScript 源代码（约 1,900 个源文件、512,000+ 行代码 阅读全文

该文被密码保护。 阅读全文

摘要： 解决Linux百度网盘CPU占用过高，下载进度卡住，频繁崩溃退出问题。 解决Linux百度网盘CPU占用过高问题 夏天到了，百度网盘下载时conky显示CPU温度飙升到99摄氏度，风扇嗷嗷叫，但CPU占用显示只有4%。优化了一下水冷泵速度仍然未解决。最后在网上搜到，这货虽然占得核心少，但会把核心榨干 阅读全文

摘要： 问题现场 当你训练模型、处理大量文件或运行高并发服务时，突然出现： Failed creating file: ... [Too many open files] 你按照标准方案修改了 /etc/security/limits.conf： * soft nofile 65536 * hard nof 阅读全文

摘要： BGE（BAAI General Embedding）系列模型是智源研究院开发的高性能语义表征工具，其中bge-large-zh-v1.5和bge-reranker-large是两类不同功能的模型。它们的区别和联系如下： 核心区别 功能定位 bge-large-zh-v1.5：属于Embedding 阅读全文

摘要： 本文将从基础硬件购置开始讲起，真正意义上从零开始，最终通过Ollama、LangChain、DeepSeek的一系列交互，输出本地大模型的第一声啼鸣，带你走进另一片广阔的世界。update:2025-02-23 硬件方面 主板选型： 主机组装： P40显卡拆解，改散热： kali显卡驱动安装 软件方 阅读全文

摘要： >双系统grub意外消失怎么办？ 不用重装系统、不用去维修店、不会丢数据，教你一招，完美恢复grub！ ## 背景 我的电脑是windows和linux双系统，启动项使用的grub。某天准备切换linux时突然发现grub不见了。近期可疑操作有：更新BIOS、多次切换UEFI、添加第三方风扇管理软件 阅读全文