【原创翻译】Nexus 7000: F2/F2e Input Discards 故障排除

hachen3 · ‎02-26-2018

本帖最后由 hachen3 于 2018-2-26 17:50 编辑
文章出处：Nexus 7000: F2/F2e Input Discards Troubleshooting
简介

本文描述针对Cisco Nexus 7000 F248系列(F2/F2e)线卡的Input discards的原因和解决方案。 Input discards指由于拥塞被丢弃在Input queue的包数量。此条目包括由尾部丢弃和加权随机早期检测(WRED)造成的丢包。

背景信息

F2线卡在所有入接口部署虚拟输出队列(VOQs)并将数据包排列在入方向而不是出方向，因此一个拥塞输出端口不影响其他输出端口对流量的处理。VOQs在系统中的广泛使用确保基于每出接口能够获得最大吞吐量。在一个出端口发生拥塞不影响去往其他出口接口的流量，避免head-of-line (HOL)阻塞，否则会造成拥塞传播。

VOQs也使用可信和非可信流量的概念。单播流量分类作为可信的流量；广播，组播和未知单播流量分类作为不可信的流量。不可信流量不使用VOQs，并且流量在出口排队而不是在入口。如果入站端口没有将发送流量对输出端口信令，入站端口对它进行缓存，直到得到信用值。因为入站端口缓冲区不够深，也许会发生Input discards。

常见原因

这些是Input discards的常见原因：

Input discards的最常见的触发原因是当您有一个交换端口分析器(SPAN)并且F2线路卡的SPAN目的地端口SPAN流量超出线路速率。最终入站端口缓冲数据包，导致Input discards。

注意：{下一代I/O模块例如F2E、F3和M3不易受SPAN目的地端口过载导致的Input discards和流量HOLB在入站端口。这在Guidelines and Limitations for SPAN中有注明}

不合理的设计(例如输入带宽为10G，输出带宽为1G)触发F2硬件限制(HOL阻塞)。
如果从多个端口从单一接口流出(1G对1G或10G对10G接口)，如果超出线路速率，它也许会导致在入站端口的Input discards。
VLAN不匹配可能导致Input discards。请使用show interface trunk命令验证两端交换机转发同样VLAN。

命令解决方案

本部分提供的信息可用于对配置进行故障排除。

注意：使用Command Lookup Tool（仅限注册用户）可获取有关本部分所使用命令的详细信息。
Output Interpreter Tool （仅限注册用户）支持某些 show 命令。请使用Output Interpreter Tool查看show命令输出分析。

在这些示例中，与一台主机相连的以太网2/1口 (Eth2/1)接收两个1Gbps数据流。Eth2/1运行在1G速率下。Eth2/5和Eth2/9的提供两个入流量。

show interface

请使用此命令检查接口的速度。如果入口接口运行在10Gbps，并且出口接口运行在1Gbps，丢包可能是由HOL阻塞造成的。

N7K1# show int eth2/5
Ethernet2/5 is up
admin state is up, Dedicated Interface
------
  full-duplex, 1000 Mb/s
------
  30 seconds input rate 588237960 bits/sec, 73524 packets/sec
  30 seconds output rate 216 bits/sec, 0 packets/sec
  Load-Interval #2: 5 minute (300 seconds)
    input rate 588.56 Mbps, 73.52 Kpps; output rate 156.11 Mbps, 19.45 Kpps
  RX
    221333142 unicast packets  0 multicast packets  0 broadcast packets
    221333128 input packets  221333169400 bytes
    0 jumbo packets  0 storm suppression packets
    0 runts  0 giants  0 CRC  0 no buffer
    0 input error  0 short frame  0 overrun   0 underrun  0 ignored
    0 watchdog  0 bad etype drop  0 bad proto drop  0 if down drop
    0 input with dribble  11590977 input discard <-------
    0 Rx pause

show hardware internal statistics module pktflow dropped

多次运行此命令确定congestion_drop_bytes值是否增加；x是入站端口的模块号。

attach module and show hardware internal qengine

运行这些命令几次为了确定虚拟队列索引(VQI)编号：

attach module

module-x# show hardware internal qengine voq-status | ex "0 0 0 0 0 0 0 0 0 0 0 0"

或

module-x# show hardware internal qengine inst 2 voq-status non-empty

在VQI中，您将看到非零计数值在不断变化。在拥塞端口上，计数器通常持续处于高位。

N7K1# attach module 2
Attaching to module 2 ...
To exit type 'exit', to abort type '$.'
module-2# show hardware internal qengine inst 2 voq-status non-empty
VQI:CCOS  BYTE_CNT  PKT_CNT  TAIL  HEAD  THR
--------  --------  -------  ----  ----  ---
0036:3    6154      3077     6804  14168 1 <------- VQI is 36 here
module-2# show hardware internal qengine voq-status | ex "0 0 0 0 0 0 0 0 0 0 0 0"
VQI:CCOS CLP0 CLP1 CLP2 CLP3 CLP4 CLP5 CLP6 CLP7 CLP8 CLP9 CLPA CLPB
-------- ---- ---- ---- ---- ---- ---- ---- ---- ---- ---- ---- ----
0036:3   0    0    0    0    0    0    0    1    0    0    0    0
VQI === 36

一旦确认VQI编号，请使用show hardware internal qengine vqi-map命令寻找VQI映射表。查看插槽编号和低速数据接口(LDI)编号确定出接口。(亦称slot是模块，亦称LDI是端口)模块起始编号为0，LDI映射功能表可以用于确定LDI对应物理接口编号。

module-2# show hardware internal qengine vqi-map
VQI   SUP  SLOT  LDI  EQI  FPOE  NUM  XBAR   IN   ASIC  ASIC  SV  FEA_
NUM   VQI  NUM   NUM  NUM  BASE  DLS  MASK   ORD  TYPE  IDX   ID  TURE
----  ---  ----  ---  ---  ----  ---  -----  ---  ----  ----  --  ----
--snip
36     no   1     0    0    8     1    0x155  0    CLP   0     0   0x81 
--snip

对物理端口映射的LDI ：

LDI	物理接口编号
0	2
1	1
2	3
3	4
4	6
5	5
6	7
7	8
8	10
9	9
10	11
11	12
12	14
13	13
14	15
15	16
16	18
17	17
18	19
19	20
20	22
21	21
22	23
23	24
24	26
25	25
26	27
27	28
28	30
29	29
30	31
31	32
32	34
33	33
34	35
35	36
36	38
37	37
38	39
39	40
40	42
41	41
42	43
43	44
44	46
45	45
46	47
47	48

物理端口= Eth 2/2
通过show system internal ethpm info interface Eth2/2 | include VQI 确认VQI和LDI

测试描述中的拥塞端口是2/1，但是列出的VQI是e2/2。差异原因是F2/F2e模块输出缓冲是由4个端口一组共享的。端口1-4， 5-8等等是每个端口组的一部分。任何单个端口在输出方向发生拥塞，均会导致在入站端口的背压而造成Input discards。

其它命令

如果继续关注Input discards，请多次运行这些命令：

show interface | in Mbps|Ethernet
show hardware internal statistics pktflow dropped
show hardware internal statistics pktflow dropped congestion
show hard internal statistics pktflow all
show hardware internal error
show hardware internal statistics device qengine
show hard internal mac port 38 qos config
show hard internal statis device mac all port 38
attach module 1
show hardware internal qengine voq-status
show hardware internal qengine vqi-map

F2e的信息

在F2e中，有一个硬件内部错误计数器会列出拥塞出接口对应VQI的接口组/芯片的第一个接口。

show hardware internal errors mod

请使用此命令检查模块拥塞的次数。

N7K2# show hardware internal errors mod 1
|------------------------------------------------------------------------|
| Device:Clipper XBAR             Role:QUE                     Mod: 1    |
| Last cleared @ Wed Jul 10 14:51:56 2013
| Device Statistics Category :: CONGESTION
|------------------------------------------------------------------------|
Instance:1
ID    Name                                          Value             Ports
--    ----                                          -----             -----
16227 Num of times congestion detected on VQI 48    0000000000001296  5-8 -
Instance:2
ID    Name                                          Value             Ports
--    ----                                          -----             -----
16227 Num of times congestion detected on VQI 48    0000000000000590  9-12 -
Instance:3
ID    Name                                          Value             Ports
--    ----                                          -----             -----
16227 Num of times congestion detected on VQI 48    0000000000001213  13-16 -

show hardware internal qengine vqi-map

请使用此命令映射VQI到物理接口。此示例使用从前一个VQI 48示例，查看插槽编号和LDI编号确定出口接口。模块标号起始于0，映射功能可以用于确定LDI对应的物理接口。

module-1# show hardware internal qengine vqi-map
VQI   SUP  SLOT  LDI  EQI  FPOE  NUM  XBAR   IN   ASIC  ASIC  SV  FEA_
NUM   VQI  NUM   NUM  NUM  BASE  DLS  MASK   ORD  TYPE  IDX   ID  TURE
----  ---  ----  ---  ---  ----  ---  -----  ---  ----  ----  --  ----
--snip
48    no   0     12   0    3     1    0x155  0    CLP   3     0   0x1  
--snip
Module Number = SLOT NUM + 1  (zero-based)
Module Number = 0 + 1 = 1

物理接口 = Eth 1/14 (查看LDI对应物理接口映射表)
通过 "show system internal ethpm info interface Eth1/14 | include VQI"查看VQI于LDI映射关系

虽然VQI 48映射对Eth1/13，请注意只有拥塞在端口组/芯片中的第一个端口号会显示出来。由于有四个端口在一个端口组/芯片中，请使用下一条命令显示拥塞的端口组/芯片内的实际接口。

show hardware queuing drops egress module (可适用为仅F2e)

请使用此命令显示VQI 48实例中拥塞的端口组/芯片的实际出口接口。

N7K2# show hardware queuing drops egress module 1
VQ Drops
--------------------------------------------------------------------------------
|    Output   |     VQ Drops     |  VQ Congestion   | Src | Src  |    Input    |
|  Interface  |                  |                  | Mod | Inst |  Interface  |
--------------------------------------------------------------------------------
|     Eth1/14 | 0000000000000000 | 0000000000001296 |   1 |    1 |    Eth1/5-8 |
|     Eth1/14 | 0000000000000000 | 0000000000000590 |   1 |    2 |   Eth1/9-12 |
|     Eth1/14 | 0000000000000000 | 0000000000001213 |   1 |    3 |  Eth1/13-16 |
|     Eth1/14 | 0000000000000000 | 0000000000000536 |   2 |    1 |    Eth2/5-8 |
|     Eth1/14 | 0000000000000000 | 0000000000000009 |   2 |    2 |   Eth2/9-12 |
|     Eth1/14 | 0000000000000000 | 0000000000000262 |   2 |    3 |  Eth2/13-16 |
-----------------------------------------------------------------------

suzhouxiaoniu · ‎02-26-2018

感谢分享，支持原创:handshake