AIGC标识 板块11 · 故障排查与维护方法论

板块11 · 故障排查与维护方法论

目标:把前十个板块的配置、协议和验证能力,收敛为“可复现、可回退、可归档”的故障处理与维护体系。
定位:【ZCIP】要求“处理复杂故障”,强调在既定网络中识别多变量、完成跨层定位;【ZCIE】要求“指导处理综合复杂故障”,还要能组织协作、控制风险、复盘并沉淀标准。两者的分水岭不在会不会配,而在有没有方法论。
使用原则:现场先止血、再定位;实验先备份、再变更;结论先看证据、再看经验。本文的命令仅为排障表达示例,实际语法、视图和对象名必须依型号和软件版本用 ? 确认。


11_1 故障处理总体方法论

本节要解决什么问题:同样的现象,有人五分钟定位,有人折腾一天,差别在方法论。本节给出七步流程与四种定位方法。

11_1_1 方法论的三层价值

【ZCIA】需要按照流程完成“查状态—看配置—做验证”的基本动作;【ZCIP】要能把终端、接入、汇聚、核心、出口和应用端串成端到端路径;【ZCIE】则进一步把人员分工、变更窗口、回退条件和组织改进纳入同一套方法。技术点相同,价值层级不同:前者是命令执行,后者是故障治理。

方法论并非束缚现场发挥,而是防止三类常见失控:

  1. 目标失控:没有确认业务影响就开始深挖协议,导致故障窗口持续扩大。
  2. 操作失控:缺少基线、备份和回退点,一次“试探”演变为二次故障。
  3. 结论失控:只看单一现象就认定根因,修复后未验证又留下隐患。

因此,任何复杂故障都应同时回答五个问题:谁受影响、哪一段路径、何种变更后、当前可否恢复、恢复后如何证明根因。五问不全,就不应急于下结论。

11_1_2 标准故障处理流程(七步)

┌───────────────────────┐
│ 1. 故障受理             │ 记录现象、影响范围、发生时间、联系人、变更历史
└──────────┬────────────┘
           ▼
┌───────────────────────┐
│ 2. 信息收集             │ 拓扑、配置、日志、告警、统计、最近操作、业务基线
└──────────┬────────────┘
           ▼
┌───────────────────────┐
│ 3. 故障定位             │ 分层/分段/对比/替换;建立假设、逐条验证
└──────────┬────────────┘
           ▼
┌───────────────────────┐
│ 4. 影响控制             │ 优先止血:隔离、切换、回退、限速;同步通报
└──────────┬────────────┘
           ▼
┌───────────────────────┐
│ 5. 故障排除             │ 采用最小影响方案;每次只变一个变量
└──────────┬────────────┘
           ▼
┌───────────────────────┐
│ 6. 验证恢复             │ 功能、性能、冗余、业务;观察期不少于 30 分钟
└──────────┬────────────┘
           ▼
┌───────────────────────┐
│ 7. 复盘归档             │ 时间线、根因、改进、知识库、跟踪责任人
└───────────────────────┘

七步不是机械流水。若业务正在持续恶化,第 4 步可以提前到第 2 步;若已有可靠回退点,第 5 步应优先选择回退而不是现网实验。但第 6 步不能省:没有验证的恢复只是暂时不报错。

受理阶段要拿到“最小故障描述”:受影响的对象(IP、VLAN、业务、区域)、正常到异常的时间点、是否全员/全业务/间歇性、最近一次变更是什么。模糊报障“网络不通”至少应拆成:是否 DHCP 失败、是否网关不可达、是否跨网段失败、是否有线无线同时异常。

信息收集要区分快照与增量:配置、版本、拓扑、时间戳是快照;端口计数、CPU、会话数、日志是增量。查看增量前先记录初始值,或显式执行清零后再复现,否则无法判断错误是历史遗留还是当前增长。

11_1_3 第一原则:先恢复后根治

现场铁律:
  ① 业务中断时,第一目标是恢复业务,不是立即证明根因。
  ② 优先采用影响最小、可逆、已验证的手段:切备用路径、禁用可疑端口、回退配置。
  ③ 恢复前保留证据:配置、日志、统计、抓包、截图、时间戳;恢复后再分析。
  ④ 严禁在业务高峰期做试探性、多变量、无回退方案的操作。
  ⑤ 已经发生二次故障时,立即停止新增变更,回到最后一个已知良好状态。

典型反例:
  用户在报障,工程师一边 ping,一边连续改 VLAN、STP、限速和 MTU。
  结果原问题未解决,又引入 MAC 漂移、聚合不同步、回程路由错误。

正确动作:
  已知良好备用路径存在 → 先切换;
  单端口疑似风暴源 → 先 disable;
  变更后立刻异常 → 先 rollback;
  业务恢复后 → 测试环境或维护窗口复现 → 定位根因。

“先恢复”不等于“乱恢复”。 有效止血须满足四个条件:动作可逆、影响范围可预期、具备回退命令、有人负责观察。直接重启核心设备通常不是第一选择;直接删除生产配置更不可取。

【踩坑】最常见的反面教材是把 shutdown 当根因修复。端口关闭后广播下降只能证明该端口与异常现象相关,尚不能证明它是故障源。下一步仍需检查对端、环路路径、配置差异和历史统计,否则同类故障会在下一次变更中复发。

11_1_4 四种定位方法

方法 核心思路 适用场景 操作要点 示例
分层法 从物理层向应用层逐层证伪 所有复杂故障 每层先查状态、再查配置、最后看统计 先看端口 up,再查 VLAN、MAC、路由
分段法 把端到端路径切成小段 完全不通、长路径 从近到远,或从中间向两边 PC→接入→汇聚→核心→出口
对比法 比较正常与异常的相同维度 局部故障、批量设备 同型号、同版本、同业务才可比 正常端口与故障端口的速率、VLAN、统计
替换法 替换可疑部件或配置对象 物理层、兼容性问题 每次只替换一个变量 换光模块、跳线、端口、电源、配置片段

四种方法通常组合使用。分层法决定“查什么层”,分段法决定“查哪一段”,对比法快速缩小对象,替换法消除怀疑。专家与新手的差异,不在于知道更多命令,而在于能根据证据及时排除分支。

对比法的有效前提是“可比性”。 不能拿跨机房、跨版本、跨业务模型的端口直接比较。至少应核对:设备型号、软件版本、端口类型、协商方式、VLAN/PVID、对端设备、限速和风暴抑制、ACL/QoS、链路聚合状态。

11_1_5 分层排查模板(可背、可用)

第 1 层 物理层
  检查:port up/down、光功率、线缆、模块、速率、双工、电源风扇
  命令:show port <id>、show port <id> statistics、show transceiver(依型号)
  正常指纹:up、协商一致、无持续错包、收发均有计数
  典型故障:线缆断、模块坏、单纤异常、双工不匹配、光功率越界

第 2 层 数据链路层
  检查:VLAN 成员与 PVID、MAC 表、STP 角色、聚合、环路检测
  命令:show vlan、show port <id>、show fdb、show stp、show lacp
  正常指纹:MAC 稳定、无漂移、STP 角色稳定、聚合 Selected 完整
  典型故障:PVID 错、VLAN 未透传、环路、MAC 漂移、边缘端口误配

第 3 层 网络层
  检查:接口 IP、直连可达、路由表、ARP/ND、ACL、NAT、TTL
  命令:show ipport / show ip interface brief、show iproute、show arp
  正常指纹:直连互通、去程回程都有、ARP 完整、无异常丢弃
  典型故障:缺回程路由、ACL 拦截、地址池耗尽、TTL/MTU 异常

第 4 层 传输层
  检查:TCP/UDP 端口开放、会话状态、重传、窗口、连接限制
  命令:telnet/nc 测试、会话统计、抓包、镜像
  正常指纹:握手完成、无大量重传、端口可达
  典型故障:防火墙拦截、服务未启动、连接表耗尽、端口冲突

第 5-7 层 应用层
  检查:DNS、认证、应用协议、证书、客户端配置、服务器负载
  命令:dig/nslookup、应用日志、抓包、客户端复现
  正常指纹:请求与响应成对、时延稳定、错误码明确
  典型故障:DNS 错配、认证失败、版本兼容、服务器限流

分层模型的意义是“逐层排除”,不是机械逐层执行。对于全网瘫痪,应从二层环路和物理层开始;对于单业务异常,可直接从应用层往下交叉验证;对于跨网段不通,则优先验证三层双向可达。

OSI 层级 检查内容 常用手段与命令
应用层(7) DNS、认证、业务程序 抓包看请求/响应是否成对、错误码
表示层(6) 编码、加密、证书 证书有效期与算法兼容性核对
会话层(5) 会话保持与超时 会话表项、连接复用检查
传输层(4) TCP/UDP、端口、重传 telnet 探测端口、会话统计、抓包看重传
网络层(3) IP、路由、ARP、ACL show iproute、show arp、ACL 命中计数
链路层(2) VLAN、MAC、STP、LACP show vlan、show fdb、show stp、show lacp
物理层(1) 端口、光模块、线缆 show port、光功率、替换法

分层模型的意义是"逐层排除",不是机械逐层执行。 全网瘫痪优先从物理层与二层环路开始;单业务异常可直接从应用层往下交叉验证;跨网段不通则优先验证三层双向可达。

11_1_6 证据收集与变更控制基线

故障现场必须保留五类证据:

证据 收集内容 用途
配置 当前运行配置、启动配置、差异 判断是否配置漂移、可否回退
状态 端口、协议、CPU、内存、会话、表项 判断当前异常点
统计 清零前后计数、错包、丢包、带宽 判断增长量和影响端口
日志 系统日志、协议日志、操作日志 建立时间线
业务 ping、应用拨测、抓包、用户描述 证明恢复与根因

每次现场变更应遵循“四个一”:一份备份、一个回退、一条验证、一人复核。 修改命令不宜直接敲入生产配置,应先准备文本、明确插入位置、预测正常输出,再逐条提交。一次修改多个变量会让“修复”失去证明力:即使业务恢复,也无法确认究竟是哪项动作有效。

【ZCIE】指导复杂故障时,还应明确指挥关系:谁负责收集证据、谁负责与业务方沟通、谁拥有配置变更权、谁判定回退。多人同时登录、各自尝试,是最典型的组织型二次故障。


11_2 排障命令树(按现象索引)

本节要解决什么问题:方法要变成肌肉记忆,就得按现象建索引。本节给出五类高频现象的命令决策树。

11_2_1 统一使用约定

【正常转向】看到该结果后,可排除当前分支,进入下一层。
【异常转向】看到该结果后,停止横向扩展,先验证当前对象。
【止血优先】出现广播风暴、CPU 打满、主备双主时,先隔离再分析。
【清零原则】统计判断前先记录基线;可复现环境执行 clear,生产环境记录初值。

命令中的 体系A 与 体系B 仅为常见风格示例。不同版本中,VLAN、STP、聚合、镜像等命令可能采用不同对象名或视图;执行前用 ? 确认,禁止凭记忆盲敲。

11_2_2 现象一:终端完全不通

┌─ show port <id>                   端口是否 up?
│    【正常】up、协商稳定、无 err-disable
│    【异常】down / err-disable → 查线缆、模块、对端、电源;可替换法
│
├─ show port <id>                   速率双工是否两端一致?
│    【正常】两端 auto-auto 或同速率同双工
│    【异常】一端 auto 一端 fixed → 统一协商策略
│
├─ clear statistics → wait → show statistics  错包是否增长?
│    【正常】CRC/Align/Collision 不增长
│    【异常】CRC 增长 → 物理层;Collision → 半双工/双工不一致
│
├─ show vlan、show port <id>         VLAN 成员、Tag/Untag、PVID 是否正确?
│    【正常】链路两端 VLAN 透传一致,untag 端口 PVID 与业务一致
│    【异常】缺成员、PVID 错 → 出现“半通”
│
├─ show fdb port <id>               是否学到合法 MAC?
│    【正常】单播 MAC 稳定、数量合理
│    【异常】学不到 → 端口安全/MAC 限制/链路单向/对端未转发
│
├─ ping 网关                         二层通但三层是否通?
│    【正常】网关稳定响应
│    【异常】不通 → 查网关、ARP、VLAN、IP 地址、ACL
│
├─ show iproute(本端 + 对端)        去程与回程路由是否都存在?
│    【正常】双向均有精确或默认路由
│    【异常】缺回程 → 补静态路由或动态路由通告
│
└─ 抓包/镜像                         终端是否发包?网络是否回包?
     【正常】请求与响应成对
     【异常】只有请求 → 沿路径查 MAC/IP/ACL;只有响应 → 查回程

判定顺序比命令数量更重要。 若端口 down,继续查 STP 和路由没有意义;若端口 up 但 MAC 学不到,查 ACL 和三层路由意义也不大。每一层都应以“该层已正常”为转向条件,而不是把全部命令执行一遍。

11_2_3 现象二:网络慢 / 丢包

┌─ show port <id> statistics         错包与丢弃
│    【正常】无 CRC、Align、Drop 持续增长
│    ├─ CRC 增长 → 物理层(模块/线缆/光功率)
│    ├─ Drop 增长 → 拥塞、策略或限速
│    └─ 无明显错包 → 问题可能在其他设备,向上游/对端分段
│
├─ 入向 vs 出向带宽对比                是否拥塞?
│    【正常】利用率未接近端口带宽且无明显突发
│    【异常】某方向打满 → QoS/队列/限速是否生效
│
├─ show stp、show fdb                 是否有环路/漂移?
│    【正常】根桥稳定、MAC 不漂移
│    ├─ STP 拓扑频繁变 → 查边缘端口/BPDU/单向链路
│    └─ MAC 漂移 → 环路或私接设备
│
├─ broadcast/multicast 占比            是否存在风暴?
│    【正常】占比低且稳定
│    【异常】广播占比异常 → 隔离可疑端口,再开 STP/环路检测
│
├─ MTU 检查                           小包通、大包不通?
│    【正常】大包 ping 与业务均正常
│    【异常】DF 大包失败 → 逐跳查 MTU、隧道、分片/DF
│
└─ traceroute + 长 ping                哪一跳开始丢包?
     【正常】每跳稳定
     【异常】固定跳异常 → 查该设备队列、ACL、链路;随机跳 → 多路径/负载分担

慢与丢包并非同一问题。慢通常是带宽、队列、CPU、MTU、应用处理或路径不对称;丢包则还需要关注错包、拥塞、ACL、TTL 和会话表。若大包失败而小包成功,应优先把 MTU 设为独立假设,而不是继续调整路由。

11_2_4 现象三:全网瘫痪(最紧急)

【0-5 分钟:止血】
  ① 尝试管理登录;无法登录时准备 Console/带外接入
  ② 查看 CPU、内存、端口流量、广播/丢弃计数
  ③ 找出异常增长最快的端口/VLAN/协议
  ④ set port <id> disable 或物理隔离可疑链路
  ⑤ 通知业务方,记录当前时间与操作

【5-15 分钟:定位】
  ⑥ show stp               根桥是否正确、端口角色是否震荡
  ⑦ show fdb               MAC 漂移模式 → 推断环路位置
  ⑧ show loopdetect        是否有端口被判定成环
  ⑨ 检查近期变更:接入设备、跳线、端口、配置模板
  ⑩ 核对端口描述、标签、拓扑与现场实际连接

【15-30 分钟:加固与恢复】
  ⑪ 逐步恢复非可疑端口,避免一次性全开
  ⑫ 启用 STP、边缘端口、BPDU 保护;确认范围后启用环路检测
  ⑬ 业务验证:关键网关、代表性终端、核心应用
  ⑭ 观察不少于 30 分钟,确认无拓扑震荡

【后续】
  ⑮ 根因分析、复盘、更新模板
  ⑯ 完善端口描述、拓扑、告警与巡检

全网瘫痪的第一动作不是“show run”。 应先用最少命令确认异常聚集点:哪台设备 CPU 高、哪个端口流量异常、哪个 VLAN 的 MAC 漂移。若已经明确风暴源,隔离端口通常比全网启用新协议更快、更可控。

【踩坑】批量开启 STP 或环路检测时,必须预先排除上行口、聚合口和跨设备路径。否则防环机制本身可能把正常冗余链路阻塞,将局部故障放大为整楼/整网故障。

11_2_5 现象四:组播/IPTV 异常

┌─ show igmp snooping                全局是否 enable?
│    【正常】业务 VLAN 已在监听表
│    【异常】disable → 组播泛洪,尤其高峰明显
│
├─ show igmp snooping vlan <id>       目标 VLAN 是否监听?
│    【正常】VLAN、版本、抑制参数符合设计
│    【异常】未加入 → 显式添加业务 VLAN
│
├─ show igmp snooping vlan <id> host   成员表项、组地址
│    【正常】机顶盒 Join 后出现对应 (S,G)/(*,G)
│    【异常】无成员 → 查终端、上行路由端口、过滤规则
│
├─ show igmp snooping vlan <id> router 路由端口是否存在?
│    【正常】能识别组播源方向
│    【异常】无 router port → 查 PIM/IGMP querier/Trunk 透传
│
├─ show igmp filter                   是否误过滤?
│    【正常】业务组地址未被过滤
│    【异常】规则命中 → 调整过滤策略
│
├─ show port <id> statistics          端口丢包、带宽、优先级
│    【正常】无丢包、组播流量受控
│    【异常】出向满速 → Snooping/CAC/QoS 检查
│
└─ 抓包(igmp 过滤)                   机顶盒 Join、交换机转发
     【正常】Join 到路由端口、组播仅到成员口
     【异常】只有 Join 无响应 → 上游/querier;全端口泛洪 → Snooping

组播“部分卡顿”和“全部卡顿”的排查方向不同。单用户卡顿优先查机顶盒、接入端口、成员表和带宽;全部用户卡顿往往意味着 Snooping 未生效、路由端口缺失、组播源异常或 VLAN 未端到端透传。

【验证】修复后不能只 ping 通,要同时满足:成员表项存在、非成员口不再收到业务组播、关键频道连续播放、高峰出口带宽未溢出。

11_2_6 现象五:冗余倒换异常

┌─ show vrrp                          主备状态、虚拟 IP、优先级
│    【正常】一主一备,无双主
│    ├─ 双主 → 查通告路径、链路、认证、VLAN、track
│    └─ 双备 → 查优先级、抢占、互联可达
│
├─ show vrrp + track                  上行/链路跟踪是否正确?
│    【正常】上行故障时主降优先级,备接管
│    【异常】未联动 → 补充 track 与延迟
│
├─ show lacp aggregator/neighbors     聚合成员、Selected 状态
│    【正常】两端成员一致、Selected
│    【异常】Unselected → 速率/双工/VLAN/聚合模式不一致
│
├─ show stp instance <id>              根桥、端口角色、保护
│    【正常】角色稳定、无 TC 震荡
│    【异常】根桥漂移 → 优先级/边缘端口/BPDU 保护
│
├─ show bfd session                   BFD 会话、参数
│    【正常】Up、检测时间两端匹配
│    【异常】Down/参数不一致 → 查链路、间隔、认证、联动
│
├─ show iproute                        主备路由是否符合设计?
│    【正常】主路径优先,备路径可达
│    【异常】路由未收敛 → 查 IGP/BGP、cost、FRR、track
│
└─ 实测倒换:shutdown 主链路,长 ping    中断时长、回切行为
     【正常】中断在业务容忍范围内,无双主/黑洞
     【异常】超时/丢包过多 → 优化检测、收敛与切换策略

冗余系统最容易被误判为“配置好了”,但真正的能力标准是实测倒换。未做倒换测试的 VRRP、聚合和路由保护,只能证明控制面存在,不能证明业务连续。


11_3 典型故障案例库

本节要解决什么问题:案例是方法论最好的注解。本节收录多个真实场景,每个都按现象、排查、根因、处理、沉淀展开。

11_3_0 案例阅读方法

每个案例均按 现象 → 排查 → 根因 → 解决 → 沉淀 → 反思 展开。“反思”不是事后批评,而是明确:如果当时先做哪一项,能把多长时间的试错压缩为定向验证。建议学习阶段将每个案例复现为实验,记录真实输出,而不是只阅读结论。

11_3_1 案例一:PVID 漏配导致的“半通”

【现象】
新接入一台交换机,业务 VLAN10 中部分终端能上网,部分不能;同一 VLAN 内
部分终端可以互访,跨网段访问不稳定。

【排查】
  ① show port 5         → 端口 up,速率双工正常
  ② show vlan 10        → port 5 在 VLAN10 成员列表中,模式为 untag
  ③ show port 5         → pvid = 1,而非预期的业务 PVID 10
  ④ 从终端长 ping 网关 → 部分源 MAC 无法在正确 VLAN 内被学习

【根因】
只执行 set vlan 10 add port 5 untag,漏执行 set port 5 pvid 10。
出方向:交换机按 VLAN10 成员关系剥离 tag,转发看似正常;
入方向:终端报文被端口打上 PVID1,进入错误广播域 → 单向或半通。

【解决】
体系A:
  zte(cfg)#set port 5 pvid 10
体系B:
  ZXR10(config)#interface gei_1/5
  ZXR10(config-if)#switchport pvid 10

【沉淀】
  ① untag 成员关系与 PVID 必须成对配置、成对验收;
  ② 开局模板应写成“vlan 成员 + pvid + description”原子片段;
  ③ 验收必须同时测“同 VLAN、跨 VLAN、网关、回程”。

【反思】
如果先在拓扑中区分“Tag 上行口”和“untag 接入口”,并对每个接入口做
“show vlan + show pvid”一键检查,5 分钟内即可发现,而不必逐终端替换。

“半通”往往是双向处理不对称的第一信号。 PVID、路由去程/回程、NAT 内外方向、ACL in/out 都属于这一类。排查时应主动问:请求走的是哪条路径,响应回来时是否仍是同一逻辑对象。

11_3_2 案例二:双工不匹配导致的“时通时断”

【现象】
某服务器访问时快时慢,ping 有规律性丢包,大文件传输极慢;业务峰值更高。

【排查】
  ① clear port 3 statistics → 复现 1 分钟 → show port 3 statistics
  ② Late Collision、Alignment 错误持续增长
  ③ show port 3 → 交换机侧 1000M/Full 手工锁定
  ④ 服务器侧为 auto → 实际回退为半双工或低速率

【根因】
一端锁定、一端自协商,导致双工认知不一致;全双工侧不感知碰撞,
半双工侧产生冲突和错包,形成间歇丢包与重传。

【解决】
两端统一为 auto(推荐,支持自协商时);或两端统一手工锁定相同速率/双工。
修改前必须确认对端可同时变更,避免一端先改造成短时中断。

【沉淀】
  ① 速率与双工两端必须一致;
  ② 服务器、存储、老旧设备优先纳入协商策略表;
  ③ “三步清零法”:clear → 复现 → show;只看增量。

【反思】
如果先比对两端协商结果而非反复 ping,10 秒内即可定位;
若服务器正在承载生产业务,应优先采用可灰度、可回退的接口组策略。

【验证】修复后执行连续大包测试与统计观察:Late Collision/Alignment 应停止增长,吞吐稳定,CPU 软中断不应异常。

11_3_3 案例三:私接交换机引发的广播风暴

【现象】
整层楼网络变慢,接入交换机 CPU 飙升至 90%+,部分终端无法访问网关。

【排查】
  ① show port 1-24 statistics → port 12 广播包速率异常高
  ② show fdb → 多个 MAC 在 port 12 与其他端口间漂移
  ③ show stp → STP 未启用
  ④ 现场查 port 12 → 用户私接家用交换机,且形成环路

【处理】
  ① set port 12 disable             立即止血
  ② 逐台接入开启 STP
  ③ 边缘端口 + BPDU Guard
  ④ 恢复 port 12 并持续观察

【解决(示意)】
体系A:
  zte(cfg)#set port 12 disable
  zte(cfg)#set stp enable
  zte(cfg)#set stp edge-port add port 1-24
  zte(cfg)#set stp port 1-24 bpdu-guard enable
体系B:
  ZXR10(config)#spanning-tree enable
  ZXR10(config)#interface range gei_1/1-24
  ZXR10(config-if-range)#spanning-tree portfast
  ZXR10(config-if-range)#spanning-tree bpduguard enable

【沉淀】
  ① 边缘端口 + BPDU 保护是接入层标配;
  ② 闲置端口 disable、加入 Guest VLAN 或 MAC 限制;
  ③ 端口描述与现场标签必须一致。

【反思】
如果接入层开局模板默认包含 STP/BPDU Guard/风暴抑制,现场只需定位端口;
省下的不是几分钟,而是从“全网慢”到“单端口隔离”的事故等级下降。

11_3_4 案例四:回程路由缺失(三层排障第一坑)

【现象】
新增业务网段 192.168.50.0/24,用户能 ping 通本地网关,
但访问服务器 10.0.10.100 不通;反向也无法 ping 用户。

【排查】
  ① 用户 ping 网关 → 通,说明二层与网关基本正常
  ② 核心 show iproute → 存在到 10.0.10.0/24 的去程路由
  ③ 服务器侧 ping 用户 → 不通
  ④ 服务器网关 show iproute → 没有 192.168.50.0/24 的回程路由

【根因】
只配去程,未配回程;“有去无回”使响应报文无法回到源网段。

【解决】
在服务器网关补静态路由,或将新网段纳入动态路由通告;同时核对明细路由、
下一跳、路由过滤和 ACL。回退方案是预先保存原路由表。

【沉淀】
  ① 三层排障必查双向路由;
  ② 建立网段—网关—通告方式—对端回程的路由矩阵;
  ③ ping 不通时,先问“对端能不能回来”。

【反思】
如果变更前先画“源→目的→回程”三段箭头,并在两端同时采集路由表,
可避免把单向可达误判为全网问题。

去程与回程必须被视为两个独立事实。 ACL、防火墙、源地址转换同样会造成“单向不可达”。因此验证时至少进行正向、反向、源接口指定三层测试。

11_3_5 案例五:IGMP Snooping 未开导致 IPTV 全网卡顿

【现象】
IPTV 上线后,晚高峰所有用户卡顿,宽带上网也变慢;接入端口流量接近满速。

【排查】
  ① show igmp snooping → disable(常见缺省关闭)
  ② show port 1-24 statistics → 各端口出向流量均接近满速
  ③ 抓包确认每个端口均收到大量未订阅频道组播流

【根因】
未开 IGMP Snooping,组播在 VLAN 内泛洪;接入链路被全频道流量占满。

【解决】
  ① set igmp snooping enable
  ② set igmp snooping add vlan <业务VLAN>
  ③ 验证:show igmp snooping vlan <id> host 出现成员表项
  ④ 抓包确认未加入端口不再收到对应组播流

【沉淀】
  ① 组播业务上线前,Snooping 是必须项;
  ② 同时规划 querier、路由端口、CAC、QoS;
  ③ 上线验收采用“频道加入/离开/换台/高峰带宽”四项。

【反思】
如果上线 checklist 中有“组播是否泛洪”这一项,故障在方案评审即可发现;
不必等到用户投诉后才从满速端口反推。

11_3_6 案例六:MSTP 区域不一致导致 VLAN 时通时断

【现象】
部分 VLAN 间歇性不通,STP 拓扑频繁变化,部分路径偶发阻塞。

【排查】
  ① 全网点对点 show stp / show spanning-tree
  ② 发现一台接入交换机 region name 拼写错误
     (示例:ZTE-CAMPUS 误写为 ZTE-CAMUPS)
  ③ 核对 revision、VLAN 映射 → 三要素不一致

【根因】
MSTP 区域三要素(名称、版本号、VLAN 映射)不一致,该设备被视为不同区域;
跨区域只能走 CIST,预期的多实例负载/阻塞设计失效,部分 VLAN 转发异常。

【解决】
  ① 统一 region 名称、版本、映射;建议复制粘贴,不手工输入
  ② 必要时 reset/重启 STP 进程,并在维护窗口执行
  ③ 逐设备 show 比对,先核心后接入,避免中间过渡状态放大

【沉淀】
  ① 区域配置纳入版本基线;
  ② 上线前点对点比对三要素;
  ③ 变更前保存每台设备的 MSTP 摘要。

【反思】
如果先对比正常区域与异常区域的三要素,而不是逐个端口查 STP 状态,
定位时间可从数十分钟压缩到一次 show 比对。

11_3_7 案例七:VRRP 双主导致的地址冲突

【现象】
用户上网时断时续,日志大量 IP 地址冲突告警;网关 ping 时通时断。

【排查】
  ① 两台核心 show vrrp → 两台均显示 Master
  ② 查核心互联链路 → 聚合组中一条链路故障
  ③ 抓包/统计发现 VRRP 通告报文哈希到故障链路
  ④ Backup 收不到通告,等待超时后升主 → 双主

【根因】
VRRP 通告路径存在单点;主备间可达性依赖的链路状态与上行 track 不一致。

【解决】
  ① 修复聚合组故障成员,恢复多路径可达
  ② 为 VRRP 配置独立心跳链路,或增加备份通告路径
  ③ 配置上行 track、合理优先级与抢占延时,避免震荡
  ④ 实测主链路/上行故障倒换

【沉淀】
  ① 冗余设计不能让“控制通告路径”成为单点;
  ② 聚合成员、链路、BFD/ Track 状态必须可验证;
  ③ 双主告警必须纳入一级监控。

【反思】
如果变更聚合后立即做“shutdown 一条成员链路 + VRRP 状态”测试,
故障不会等到业务高峰期才暴露。

11_3_8 案例八:单向光纤引发的“幽灵环路”

【现象】
某汇聚与接入链路每隔几小时出现一次短暂广播风暴,持续数十秒后自行恢复;
日志中 STP 拓扑频繁变化,白天难复现,常规 ping 无明显异常。

【排查】
  ① show port statistics → 无明显 CRC 增长,初步排除常规物理错包
  ② show stp → 该端口角色反复变化(Designated ↔ Forwarding)
  ③ 启用 BPDU 调试:
     debug spantree bpdu-rx
     debug spantree bpdu-tx
     → bpdu-tx 持续有输出:本端在发送
     → bpdu-rx 长时间无输出:本端未收到对端 BPDU
  ④ 更换跳线、模块、清洁光口后,bpdu-rx 恢复计数

【根因】
单向链路:光纤收发一芯故障或模块单向老化。
本端收不到对端 BPDU,STP 认为对端失效 → 端口进入 Forwarding;
对端仍可收到本端报文 → 形成单向转发环路。
链路偶发恢复时环路暂时消失,故呈现“间歇性风暴”。

【处理】
  ① 更换光纤跳线、光模块,清洁光口;按替换法逐件确认
  ② 修复后验证:bpdu-rx、bpdu-tx 均有稳定计数
  ③ 关键端口启用 Loop Guard / UDLD(依型号和版本支持情况确认)
  ④ STP 收不到 BPDU 时保持阻塞,避免盲目转发

【沉淀】
  ① “间歇性风暴 + 无 CRC 报错”是单向链路的典型指纹;
  ② 常规 ping 未必暴露单向链路,尤其只验证一个方向时;
  ③ debug spantree bpdu-rx/tx 的“只发不收”是直接判据;
  ④ 关键链路预防:Loop Guard + UDLD + 光功率基线 + 双向计数。

【反思】
如果先按“周期性风暴”建立 24 小时统计和 BPDU 计数基线,
而不是一出现风暴就全局重启 STP,可更快锁定单链路;
但 debug 仅限维护窗口或明确必要性时使用,注意日志量和控制面影响。
汇聚交换机                        接入交换机
   ┌──────────────┐      TX 光    ┌──────────────┐
   │              │──────────────▶│              │
   │   正常发送    │              │   能收到     │
   │   收不到     │◀── 故障光纤 ──│   仍在发送   │
   │              │   (RX 无)   │              │
   └──────────────┘              └──────────────┘
结果:本端认为对端失效,端口 Forwarding;对端仍收到本端帧 → 单向环路

11_3_9 案例九:环路检测误开在上行口导致整楼断网

【现象】
接入交换机完成配置后,下联全部用户同时断网;上行口物理灯正常,
但业务不通。

【排查】
  ① 登录交换机,show port → 上行口状态为 block,而非 down
  ② show loopdetect port 23 → isLoop=Yes、isBlock=Yes
  ③ 查配置:开局模板批量把 loopdetect 应用到 port 1-24
  ④ 上行口 23/24 也包含在内

【根因】
上行口发出的环路探测报文,经核心或其他路径被转发回来;
环路检测误判为“本端口成环”,将上行口阻塞。
上行口一 block,整台交换机所有下联用户断网。

【处理】
  ① 立即关闭上行口环路检测:set loopdetect port 23-24 disable
  ② 确认用户恢复,检查无其他阻塞端口
  ③ 修正模板:环路检测只开面向终端的 1-22
  ④ 保留变更回退脚本并复核端口范围

【解决(示意)】
体系A:
  zte(cfg)#set loopdetect port 23-24 disable
  zte(cfg)#show loopdetect
体系B:命令对象与接口范围依版本确认,原则是明确排除上行/互联口。

【沉淀】
  ① 环路检测只开面向终端的接入端口;
  ② 上行口、核心互联口、聚合口、跨设备 Trunk 一律排除;
  ③ 批量范围(如 1-24)是高危误配源,必须逐段确认;
  ④ 端口 description/byname 是最后防线。

【反思】
如果模板写成“用户口 list + 上行口排除 list”,并在提交前 grep 一次上行口,
5 秒即可预防;这是典型“配置可语法正确、逻辑却致命”的案例。

11_3_10 案例十:MTU 不一致导致大包业务随机失败

【现象】
某跨机房业务小文件、SSH、短请求正常,但数据库同步、备份和文件上传经常中断;
路径中间经过隧道或运营商链路。

【排查】
  ① 小包 ping 全路径正常
  ② 指定 DF=1、逐步增大 ICMP 载荷测试 → 超过某值后失败
  ③ 逐跳 show interface mtu / 检查隧道 MTU
  ④ 抓包发现中间设备丢弃 DF 大包,无正常分片回显或 ICMP 不可达策略受限

【根因】
路径 MTU 不一致:服务器、交换机、隧道接口 MTU 设计未统一;
大于路径最小 MTU 的报文被丢弃,TCP 重传和上层超时导致业务失败。

【解决】
  ① 统一规划以太网、VLAN、隧道 MTU 基线;
  ② 对确需大包的路径确保 DF 允许分片或启用 PMTUD;
  ③ 防火墙/ACL 策略确认不丢弃必要的 ICMP 不可达;
  ④ 在维护窗口逐步变更,避免一次性修改所有接口。

【沉淀】
  ① 拓扑中应维护“链路—隧道—VLAN—接口 MTU”矩阵;
  ② 验收必须含大包、长流、并发三项;
  ③ “小包通大包不通”优先假设 MTU,而不是路由。

【反思】
如果变更前对整条路径做一次 MTU 扫描,无需等数据库告警即可发现断点;
同时避免为了“解决一个业务”盲目全局改 9000。

11_4 巡检与变更管理体系

本节要解决什么问题:排障是被动的,巡检与变更管理才是主动的。本节把「少出事」拆成可执行的清单。

11_4_1 三级维护体系

级别 周期 主要内容 执行者 产出
日常巡检 每日 自动采集、告警、关键性能、备份状态 运维/自动化 巡检报告、异常单
定期维护 每月/季度 配置备份验证、容量、安全策略、冗余演练 运维工程师 维护报告、整改项
专项维护 按需 升级、容量改造、架构优化、应急演练 高级工程师 方案、评审、演练记录

巡检的目的不是“证明设备活着”,而是识别偏离基线的变化。版本、运行时长、端口 flap、MAC 漂移、路由数量、CPU 基线、备份成功率都应做趋势比较。

11_4_2 每日巡检清单

【设备健康】
   □ show version            版本、运行时长;异常重启/切换须追查
   □ CPU/内存利用率            超过设计阈值即关注,而非只看是否 100%
   □ 温度、风扇、电源          冗余电源状态、告警
   □ 日志与告警               严重告警、认证失败、端口 err-disable

【端口与链路】
   □ show port                up/down、err-disable、flap
   □ show port statistics     错包、丢包、广播占比;建议先记录基线
   □ TopN 带宽端口             接近阈值时分析突增业务
   □ 光功率                    超出范围即列入替换计划

【二层】
   □ show stp                 根桥、TC、端口角色、保护
   □ show fdb                 MAC 数量、漂移、老化异常
   □ show lacp                聚合 Selected 成员完整
   □ show loopdetect          是否存在 block 端口;误开范围检查

【三层】
   □ show iproute             路由数量、默认路由、邻居变化
   □ show arp                 ARP 数量、异常表项
   □ show vrrp               主备状态、track

【业务】
   □ show igmp snooping        组播成员、路由端口
   □ 关键业务拨测             网关、DNS、核心应用、跨区路径

11_4_3 定期维护清单

月度:
   □ 配置备份 + 恢复抽验(至少 1 台)
   □ 日志分析、告警收敛、资产信息更新
   □ 带宽/CPU/会话趋势分析
   □ ACL、账号、SSH/管理面策略复核

季度:
   □ VRRP/LACP/路由冗余倒换演练
   □ 环路、核心故障应急流程演练
   □ 端口描述、标签、拓扑核对
   □ 版本与补丁评估、备件/光模块盘点

年度:
   □ 容量规划与扩容评估
   □ 架构优化、单点排查
   □ 运维文档、拓扑、密码托管、回退库更新

11_4_4 配置备份策略

备份三原则:
  ① 定时:每次变更后必须备份;无变更时至少每周一次
  ② 异地:备份文件存放于独立服务器/对象存储,禁止仅留设备本地
  ③ 可恢复:定期抽验恢复;未验证的备份不等于可用备份

命名规范:
  <设备名>_<日期>_<变更单号>.cfg
  示例:CORE-01_20260903_CHG-2026-0088.cfg

备份内容建议:
  - running-config / startup-config
  - 版本、补丁、license 信息
  - 端口与光模块信息
  - 路由表、ARP/FDB 基线(用于恢复后对比)
  - 变更前后差异 diff

【ZCIE】备份本身也应纳入验证:随机抽取设备,在隔离环境中恢复配置,确认版本兼容、启动无报错、关键协议正常。只 copy 文件而不验证恢复,无法证明备份可用于真实故障。

11_4_5 变更管理流程

┌────────────────┐
│ ① 变更申请      │ 目的、范围、影响、时间窗口、关联告警
└───────┬────────┘
        ▼
┌────────────────┐
│ ② 方案评审      │ 技术可行性、风险、依赖、回退、业务确认
└───────┬────────┘
        ▼
┌────────────────┐
│ ③ 预备份        │ 配置、状态、业务基线;生成差异计划
└───────┬────────┘
        ▼
┌────────────────┐
│ ④ 实施          │ 脚本化、逐条确认、记录实际输出
└───────┬────────┘
        ▼
┌────────────────┐
│ ⑤ 验证          │ 功能、性能、冗余、业务;对照验收矩阵
└───────┬────────┘
        ▼
┌────────────────┐
│ ⑥ 观察          │ 不少于 30 分钟;关键变更延长观察
└───────┬────────┘
        ▼
┌────────────────┐
│ ⑦ 回退/关闭     │ 触发条件达成即回退;关闭后归档
└────────────────┘

回退不是失败,而是控制风险的正常分支。 每次变更都应预先定义:回退触发条件(业务异常、关键协议 down、统计异常)、回退命令、回退责任人、回退时限。没有回退方案的变更,不应进入生产窗口。

11_4_6 变更记录与回退模板

【变更编号】CHG-XXXX-XX
【标题】为接入交换机接入新业务 VLAN,并调整上行 Trunk
【变更等级】P2 / 低风险 / 影响一个接入域
【变更窗口】业务低峰期,预计 30 分钟;回退时限 10 分钟
【执行人】      【复核人】      【业务确认人】

【变更前状态】
  - 当前配置备份:ACC-12_YYYYMMDD_pre.cfg
  - 关键基线:show vlan、show stp、show lacp、ping 基线、业务拨测

【操作步骤】
  步骤1(可逆):在测试端口验证 VLAN/PVID 配置
  步骤2(可逆):上行口增加业务 VLAN,逐条确认
  步骤3(需观察):接入端口加入业务 VLAN
  步骤4:验证

【验证矩阵】
  - 新业务 DHCP、网关、跨网段、DNS
  - 原有业务无丢包、无新增 MAC 漂移
  - 上行 Trunk 仅允许预期 VLAN
  - STP/LACP/VRRP 状态不变

【回退触发条件】
  - 原有业务丢包或中断
  - 上行口 err-disable / STP block 异常
  - 新业务 10 分钟内无法验证通过

【回退步骤】
  1. 恢复上行口原始 Trunk 配置
  2. 将接入端口移出新 VLAN
  3. 加载 ACC-12_YYYYMMDD_pre.cfg(仅在严重异常时使用)
  4. 复核 show、ping、业务拨测

【变更后记录】
  - 实际开始/结束时间
  - 与预期差异
  - 是否触发回退:是 / 否
  - 遗留问题与跟踪人

11_5 复盘模板与笔记方法

本节要解决什么问题:复盘模板用久了,就是将来答辩的素材库。本节给出模板并说明每一栏为什么必须填。

11_5_1 故障复盘的核心不是追责

复盘的目标是建立可复用的因果链:触发条件是什么、为何没在测试期发现、现有监控哪里漏报、哪些措施能防止同类问题。有效的复盘必须包含时间线、证据、直接原因、根本原因、改进项和验证项;缺少任何一项,都会退化为“改了配置”的流水账。

【故障编号】INC-XXXX-XX
【等级】P1/P2/P3           【影响范围】区域、业务、用户数(估算即可)
【发生时间】               【恢复时间】               【总耗时】
【处理人】                 【复核人】

【一、故障现象】
  - 用户/监控系统最初报告什么?
  - 哪些对象正常、哪些异常?
  - 是否间歇性、是否随变更发生?

【二、时间线(按时间顺序,禁止倒推改写)】
  HH:MM  事件/操作/证据
  HH:MM  登录设备,CPU 85%,广播异常
  HH:MM  定位 port 12,执行 set port 12 disable
  HH:MM  业务恢复,开始保留证据
  HH:MM  根因验证、加固、复盘

【三、处理过程】
  - 采用的方法:分层/分段/对比/替换
  - 每一步假设、证据、结论
  - 哪些操作有效、哪些无效、哪些是试探

【四、根因分析】
  直接原因:导致现象的最近一层原因
  根本原因:流程、模板、监控、设计层面的原因
  关联因素:变更、容量、版本、人员、文档

【五、解决方案】
  - 应急止血
  - 临时措施
  - 永久措施

【六、改进项】
  | 编号 | 改进项 | 责任人 | 截止时间 | 验证方式 |
  | ---- | ------ | ------ | -------- | -------- |
  | 1    |        |        |          |          |

【七、知识沉淀】
  - 一句话结论
  - 关联知识点/命令/案例
  - 是否纳入开局模板、巡检、监控、演练

【八、答辩/教学价值】
  - 现场关键判断点
  - 容易误判的分支
  - 可复用的证据与命令

11_5_2 巡检记录表

【巡检日期】       【巡检人】       【设备范围】
【巡检类型】日常 / 月度 / 季度 / 专项

| 维度 | 检查项 | 正常标准 | 实际结果 | 结论 |
| ---- | ------ | -------- | -------- | ---- |
| 设备 | 版本、运行时长、CPU、内存 | 无异常重启、未超阈值 | | OK/异常 |
| 电源风扇 | 冗余状态 | 无告警 | | |
| 端口 | up/down、err-disable、错包 | 无新增异常 | | |
| 二层 | STP/FDB/LACP/loopdetect | 角色稳定、无漂移 | | |
| 三层 | 路由/ARP/VRRP | 主备正常、双向可达 | | |
| 业务 | IPTV/语音/关键应用 | 拨测通过 | | |
| 备份 | 配置/状态/差异 | 成功且可恢复 | | |

【异常摘要】
【待办事项】
【下次巡检重点】

11_5_3 变更与回退记录模板

【变更编号】CHG-XXXX
【状态】草稿 / 评审中 / 执行中 / 验证 / 已关闭 / 已回退
【风险等级】低 / 中 / 高

【背景与目标】一句话说明为什么改、业务收益
【影响范围】设备、VLAN、路由、用户、依赖系统
【前置条件】权限、窗口、备件、备份、人员
【变更步骤】1. 2. 3. ……(含命令)
【验证清单】功能/性能/冗余/业务
【回退条件】明确可量化的触发标准
【回退步骤】明确、可执行、已评审
【关闭标准】验证通过、观察完成、文档更新

11_5_4 【笔记方法】为什么坚持用模板就是将来答辩的素材库

答辩不是背诵命令清单,而是呈现“见过问题—收集证据—控制风险—形成结论”的能力。每一份带时间线、真实输出和根因的复盘,都是可用于答辩的第一手材料。相反,只有“STP 要开启”这类结论,无法证明候选人具备复杂故障处理能力。

建议建立三类长期资产:

  1. 故障库:现象指纹、证据命令、根因、修复、预防。
  2. 变更库:每次生产操作的差异、验证、回退、遗留问题。
  3. 实验库:故意构造的故障、预期输出、真实输出、差异分析。
【模板使用纪律】
  ① 故障发生即建时间线,不等恢复后回忆;
  ② 粘贴真实 show/log/抓包摘要,不重写“理想输出”;
  ③ 每个案例至少写一条“下次先做 X”;
  ④ 每季把重复根因提炼为巡检项或开局基线;
  ⑤ 答辩前以“现象—证据—决策—结果”重讲一遍。

11_5_5 【案例故事】反复改配置,把单点故障做成二次事故

那天凌晨,接入层报告某业务 VLAN 间歇性丢包。我第一反应不是看统计增量,而是连续改了 PVID、STP 边缘端口和限速,心想“总有一个能命中”。结果丢包没消失,聚合口反而因一端速率被误改而 Unselected,故障从单个 VLAN 扩散到整台接入交换机。

我立刻停止新增操作,回退到变更前配置,业务在两分钟内恢复。随后只做三件事:先 clear port statistics,再让现场以固定频率 ping;发现 port 12 的广播计数每分钟增长约 40 万,其他端口几乎不变。show fdb 显示同一 MAC 在 port 12 与 uplink 间来回漂移。此时才确认,根因仍是私接设备形成环路,而不是我之前猜测的 PVID。

clear port 12 statistics
sleep 60
show port 12 statistics
show fdb | include <漂移MAC>

这次让我记住一条纪律:现场每 10 分钟没有新证据,就回看最近一次变更。 之后我把“变更前保存差异、每次只变一个变量、异常即回退”写进自己的故障处理清单。原来以为快速试错效率高,实际是把可定位的单点问题,升级成无法归因的复合故障。

11_5_6 【案例故事】抓包定位 MTU:小包能通不代表路径完整

某次跨机房备份任务总在传输大文件时中断。起初我反复检查路由和 ACL,因为 32 字节 ping 全通,TCP 短连接也正常。业务方已准备更换服务器,我坚持先做一次大包扫描。

从源端向目的端递增 ICMP 载荷,并设置 DF。测试结果在 1472 字节以下稳定,超过后全部失败。接着在源、接入、核心、目的四点的镜像口同时抓包,发现中间隧道接口 MTU 为 1500,而承载 VLAN 的 MTU 规划不一致,DF 报文无法通过。

ping -s 1472 -M do <目的IP>     # 通
ping -s 1500 -M do <目的IP>     # 不通

修复不是盲目全局改成巨帧,而是先把相关接口、隧道和服务器网卡的 MTU 基线对齐,并在维护窗口逐段验证。之后连续传输测试不再中断。这个案例沉淀为我的标准验收项:任何跨机房链路,必须同时测小包、最大预期业务包、并发长流。 小包成功只能证明控制面与基本转发可达,不能证明完整路径支持业务报文。


11_6 【验证】故障修复后的统一验收

本节要解决什么问题:修完不等于修好。本节给出故障修复后的统一验收清单,避免「配置变了但根因还在」。

11_6_1 验证原则

验证必须从“命令看起来成功”升级为“业务证据闭环”。每项验证都应预先定义预期字段;只有正常、异常两种结果,不应出现“大致正常”。涉及冗余和性能的场景,还应做故障注入与持续观察。

11_6_2 验证命令矩阵

验证命令 预期结果/关键字段 不符时的排查方向
show port <id> up、双工/速率稳定、无 err-disable 线缆、模块、对端、电源、协商策略
show port <id> statistics CRC/Align/Collision/Drop 不增长 清零后复现;物理层、拥塞、策略、双工
show transceiver(依型号) 收发光功率在规格范围、温度正常 跳线、模块、清洁度、单纤、端口
show vlan + 端口 PVID 成员关系、Tag/Untag、PVID 一致 漏配成员、PVID 错、Trunk 透传不全
show fdb MAC 稳定、无异常漂移、数量合理 环路、私接、端口安全、镜像误配
show stp / show spanning-tree 根桥符合设计、角色稳定、无频繁 TC 区域三要素、边缘端口、BPDU、单向链路
show lacp / show smartgroup 成员全 Selected、两端一致 速率双工、聚合模式、VLAN、负载策略
show iproute 去程、回程、默认路由完整 静态路由、IGP/BGP 通告、过滤、下一跳
show arp / show ip arp 网关、对端 ARP 完整且不异常老化 代理 ARP、VLAN、端口安全、ARP 限速
show vrrp 一主一备、track 正确、无双主 通告路径、优先级、认证、上行 track
show igmp snooping vlan <id> host/router 表项正确、组地址匹配 Snooping 使能、querier、过滤、VLAN 透传
ping <网关> + ping <远端> 双向稳定、无丢包或符合 SLA 按分层法从近到远分段
traceroute 每跳稳定,路径符合设计 多路径、ACL、TTL、逐跳队列
大包 ping -M do 最大业务包可通过 MTU、隧道、分片策略、DF
shutdown 主链路 + 长 ping 中断时长达标、无双主/黑洞 BFD、track、优先级、切换策略
抓包/镜像 请求与响应成对、无异常重传 会话状态、ACL、服务、MTU、CPU

11_6_3 观察期与验收边界

  • 普通单端口修复:至少观察 10 分钟,覆盖一个业务周期。
  • 二层环路、STP、组播修复:至少观察 30 分钟,确认无 TC 震荡、MAC 漂移、风暴复发。
  • 冗余与核心变更:完成倒换、回切两轮实测,且业务长测通过。
  • 容量与性能变更:在业务高峰期或模拟峰值下复测,不能只在工作日低峰验收。

【验证】观察期内至少要回答:异常计数是否归零、协议角色是否稳定、用户是否确认业务恢复、监控是否出现延迟告警。四者缺一,不建议关闭故障单。


11_7 排障思维进阶(【ZCIE】)

本节要解决什么问题:到 ZCIE 层级,考的是在信息不完整时如何推进。本节讲假设驱动、证据链与决策取舍。

11_7_1 从“会排障”到“能指导排障”

层次 主要表现 关键能力
初级 按文档逐条尝试命令 熟悉基本命令、能复现现象
中级 按分层法系统排查 建立假设、读取证据、控制变量
高级 从现象反推根因 协议原理、影响预测、跨层关联
专家 指导综合复杂故障 组织分工、标准设计、资产沉淀

专家级不是“知道最多命令”,而是能把复杂问题拆成可并行验证的子问题,并阻止团队做出高风险动作。指导者要明确:先做什么能最快止血、哪一项证据能一次排除最大分支、何时必须回退。

专家级思维的三个特征:

  1. 从原理出发,不从命令出发:遇到组播问题,先想“组播为什么需要 Snooping、如何建立出端口”,再查命令。
  2. 关注次生影响:每一条变更前评估对环路、冗余、地址规划、ACL、QoS 和业务的影响。
  3. 沉淀为组织资产:每次故障输出“现象—证据—根因—解决—预防”,并转成巡检项、开局基线和演练科目。

11_7_2 高频根因 Top 10 与预防机制

排名 根因 典型指纹 预防机制
1 配置错误(漏配/错配) 变更后立即异常、局部半通 标准化模板、双人复核、diff
2 物理层问题 down、CRC、光功率异常 施工规范、光功率基线、替换法
3 双工/速率不匹配 Collision、Align 增长 协商策略统一、服务器台账
4 二层环路/单向链路 广播风暴、MAC 漂移、TC STP+BPDU Guard+环路检测+Loop Guard
5 路由缺失/回程错误 单向通、网关可达远端不可达 路由矩阵、双向验证
6 冗余机制未验证 双主、倒换超时 倒换演练、track/BFD 验收
7 容量不足 高峰丢包、队列满 趋势监控、容量评估
8 ACL/策略方向错误 特定流失败、计数不匹配 策略评审、命中统计、测试
9 版本/兼容性 升级后异常、协议不一致 兼容性矩阵、灰度升级
10 安全事件/私接 未知 MAC、异常流量 接入控制、监控、端口安全

Top 5 通常占据大量现场故障。它们的共同点是:都能通过标准模板、自动巡检和变更复核预防。因此,成熟的维护体系比“高手临时救火”更可靠。

11_7_3 复杂故障指挥卡

1. 谁在受影响?          → 明确范围,避免扩大操作
2. 最后一次正常是什么?  → 建立时间锚点
3. 最近变更是什么?      → 70% 以上现场问题与变更相关(经验值)
4. 异常聚集在哪里?      → CPU、端口、VLAN、协议、设备
5. 能否立即回退?        → 有回退先回退,无回退先隔离
6. 一次只验证一个假设    → 否则无法归因
7. 修复后如何证明?      → 验证矩阵 + 观察期
8. 下次如何预防?        → 巡检项/模板/监控/演练

11_8 应急演练设计(【ZCIE】答辩素材)

本节要解决什么问题:应急演练把「会排障」变成「随时能排障」,也是答辩时最有说服力的素材。

11_8_1 五大演练场景

场景 演练动作 验证目标 关键指标
单链路故障 拔出聚合一条成员链路 LACP 切换与哈希不受影响 业务无中断/丢包阈值
单板/端口故障 shutdown 关键上行口 STP/路由收敛 恢复时间、拓扑稳定
核心设备宕机 关闭主用核心 VRRP/路由切换 中断时长、双主检查
广播风暴 构造二层环路 BPDU 保护、风暴抑制 爆炸半径、影响时长
配置误操作 回放典型误配置 备份恢复、回退流程 恢复成功率、RTO
演练闭环:
  设计场景 → 定义成功标准 → 记录基线 → 执行注入 → 实时观察
       → 采集证据 → 恢复 → 复盘 → 更新模板 → 再次演练

11_8_2 演练记录模板

【演练名称】核心主备切换与回切演练
【环境】测试环境 / 生产低峰窗口
【参与角色】指挥、操作、观察、业务确认、复盘

【基线】
  - show vrrp / show lacp / show stp
  - ping 基线、业务拨测、CPU/内存基线
  - 备份配置、差异记录

【步骤与实时数据】
  T0    开始;记录基线
  T1    注入故障(关闭主用核心上行)
  T2    记录告警、VRRP 切换、路由收敛
  T3    业务拨测;统计丢包数、切换时长
  T4    恢复主用;观察回切是否稳定
  T5    二次验证、清理测试状态

【结果】
  - 实测中断时长:
  - 是否双主:否 / 是
  - 是否符合 SLA:
  - 监控是否完整覆盖:

【问题与改进】
  - 发现监控盲区 → 责任人/期限
  - 发现回退脚本缺失 → 责任人/期限

答辩价值:能拿出真实演练数据、时间线和改进闭环,比复述“STP 会阻塞端口”更能证明具备综合复杂故障处理能力。学习阶段建议至少完成三次完整演练,并覆盖一次回退场景。


11_9 考点速记

  1. 故障处理七步:受理 → 信息收集 → 定位 → 影响控制 → 排除 → 验证恢复 → 复盘归档。
  2. 第一原则:先恢复业务,后根治问题;恢复动作必须可逆、可验证。
  3. 四种定位方法:分层法、分段法、对比法、替换法。
  4. 分层模板:物理层 → 数据链路层 → 网络层 → 传输层 → 应用层。
  5. 三步清零法:clear statistics → 复现 → show statistics;只看增量。
  6. 三层第一坑:有去无回(缺回程路由);验证必须双向。
  7. 二层第一坑:untag 成员关系与 PVID 未成对。
  8. 全网瘫痪:先止血(disable/隔离),再定位;先查风暴源、漂移和近期变更。
  9. 备份三原则:定时、异地、可恢复;必须演练恢复。
  10. 变更七步:申请 → 评审 → 备份 → 实施 → 验证 → 观察 → 回退准备。
  11. 防环三层保险:STP 预防 → 环路检测兜底 → 风暴抑制限速;上行口不得误开检测。
  12. MSTP 区域三要素:名称、版本号、VLAN 映射;必须逐字符比对。
  13. VRRP 必须实测倒换,防止通告路径单点导致双主。
  14. “间歇性风暴 + 无 CRC” 是单向链路指纹;debug spantree bpdu-rx/tx 只发不收即判单向。
  15. 环路检测误开上行口可致整楼断网;批量端口范围必须逐段复核。
  16. 组播业务:Snooping、querier、路由端口、CAC、QoS 缺一不可;验收不能只 ping。
  17. MTU 问题典型特征:小包通、大包失败;需逐跳检查接口、隧道、VLAN 和 DF。
  18. 【ZCIE】核心不只是定位,而是组织协作、风险控制、验证闭环和知识沉淀。

11_10 本板块自检清单

posted @ 2026-09-16 06:53  睡到自然醒的猪  阅读(17)  评论(0)    收藏  举报