华为交换机CPU占用率高原因判断和解决方法(一)

1、CPU任务和CPU占用率简介

华为交换机启动后,系统CPU持续运行以下任务:维护和管理设备状态的系统任务;当前网络环境需要运行的各种协议任务;从设备转发面接收和发送报文的处理任务。

在框式交换机上,根据硬件架构划分有如下角色:

机框、背板、电源/风扇、主控板、业务板;其中主控板、业务板上有CPU。

华为交换机运行时,主控板需要占用CPU资源的特性功能包括:

管理设备组件:管理设备内各组件并检查其运行状态,如板卡、电源、风扇等;管理堆叠系统:管理和维护堆叠系统内成员交换机状态;

管理外部访问:处理上送CPU的网络管理流量,如Telnet、SSH、HTTP和SNMP等;

管理配置的网络控制协议:发送和接收协议报文、进行协议运算、更新转发表(如MSTP、MAC、FIB表等),网络控制协议包括STP、LLDP、LNP、LACP、VCMP、DLDP、EFM、GVRP、VRRP、各路由协议等;

辅助学习MAC:堆叠系统成员交换机间同步MAC;

软转发报文:如L2PT软转发L2协议报文;学习和老化ARP表项; 处理上送CPU的所有其他报文。

集群管理系统:管理和维护集群系统内成员交换机状态。

业务板CPU主要处理如下几类任务:

设备上的OS任务;维护和管理本单板状态的系统任务;分布到业务板运行的协议任务:如LACP在业务板上分布式收发报文等;维持转发表下发和同步的任务:如单板间同步MAC等。

在任何时刻,设备的CPU上都可能有很多活跃的任务,如S5700LI、S9300就有超过200个任务,该数值与交换机形态相关,通常设备支持的特性越多,系统运行的任务也越多。

由于系统一直处于运行状态,即使设备无任何业务配置和网络流量,其CPU占用率也不可能为0%。

在堆叠系统中,由于需要定时维护堆叠成员状态,并且系统大部分业务主要运行在堆叠主交换机上,因此堆叠主交换机的CPU占用率比单台设备运行时的CPU占用率高;堆叠成员交换机数量增多时,堆叠主交换机的CPU占用率也会相应升高。

当设备转发面上送CPU的报文速率过快(如因网络环路导致CPU短时间内收到大量报文)或者某任务长时间占用CPU时,CPU将高负荷运行,可能无法及时调度其他任务,进而引发业务异常。

设备提供了display cpu-usage命令查看当前CPU占用率情况,显示包括最近5秒钟、最近1分钟、最近5分钟的CPU平均占用率及历史最高CPU占用率和发生时刻,同时还由高到低列出了系统当前各任务在最近5秒钟内的CPU占用率情况。

通常情况下,普通数据报文转发由交换机硬件完成,无需CPU参与,因此CPU占用率高通常并不影响数据转发。

2、CPU报文处理原理

华为交换机由硬件(芯片)转发普通数据报文,无需CPU参与。以下场景会将报文发送给CPU处理:

1、需要交换机终结的协议报文,所有目的地址为本机的报文均需要上送CPU处理:各种协议控制报文,如STP、LLDP、LNP、LACP、VCMP、DLDP、EFM、GVRP、VRRP等;路由更新报文,如RIP、OSPF、BGP、IS-IS等;SNMP、Telnet、SSH报文;ARP、ND回应报文。

2、需要特殊处理的数据报文:带option选项的ICMP报文;带hop-by-hop选项的IPv6报文;TTL小于或等于1的IPv4/IPv6报文;目的IP地址为本机的报文;ARP/ND/FIB Miss报文。

3、基于ACL的特性:开启logging功能后,通过ACL deny动作丢弃的报文;流策略重定向到CPU的报文。

4、组播特性:PIM、IGMP、MLD、MSDP协议报文;未知IP组播流。

5:其他特性:DHCP协议报文;ARP、ND广播请求报文,二层交换机配置动态ARP检测DAI(Dynamic ARP Inspection)时也发送ARP报文;L2PT软转发的L2协议报文(仅Tunnel两端的设备为软转发,中间设备使用硬件转发);N:1 VLAN mapping第一个报文上送CPU,后续报文使用硬件转发。

华为盒式交换机采用QoS机制处理上送CPU的报文,确保重要报文优先处理。盒式交换机将上送CPU的不同类型的报文划分到优先级不同的8个队列,不同交换机款型支持上送CPU的报文种类可能不同。




zabbix监控交换机CPU占用率 交换机cpu使用率100怎么办_数据


图1 将不同类型报文分发到CPU队列

以盒式交换机S5700LI形态为例,部分典型报文上送CPU的队列划分如下表1和上图1所示,队列ID值越大,优先级越高。


zabbix监控交换机CPU占用率 交换机cpu使用率100怎么办_zabbix监控交换机CPU占用率_02


zabbix监控交换机CPU占用率 交换机cpu使用率100怎么办_netty cpu 占用率 高_03


zabbix监控交换机CPU占用率 交换机cpu使用率100怎么办_组播_04


图1 框式交换机上报文的上送限速

如上图1所示,框式交换机报文最终送到主控板的CPU可能经过多次限速,包括:转发芯片的限速、交换网芯片的限速。多次限速逐层形成防护墙,保证主控板CPU的安全。


zabbix监控交换机CPU占用率 交换机cpu使用率100怎么办_优先级_05


图2 框式交换机上送CPU报文的限速分类

如上图2所示,框式交换机每个芯片/逻辑的限速主要分为三类:基于协议的限速、基于队列的限速、基于端口的所有报文统一限速。如下以V200R007版本S9300非X1E系列的业务板为例,介绍CPU限速等的缺省情况(其他款型、其他版本可以通过命令display cpu-defend configuration all查看)。


zabbix监控交换机CPU占用率 交换机cpu使用率100怎么办_数据_06

表1 S9300上基于协议的限速值


zabbix监控交换机CPU占用率 交换机cpu使用率100怎么办_数据_07


zabbix监控交换机CPU占用率 交换机cpu使用率100怎么办_netty cpu 占用率 高_08


zabbix监控交换机CPU占用率 交换机cpu使用率100怎么办_数据_09


zabbix监控交换机CPU占用率 交换机cpu使用率100怎么办_优先级_10


交换机根据报文的层次(管理/控制/转发)及其重要性来指定将报文发送到哪个CPU队列。CPU队列具有相对优先级。例如,Telnet管理报文和dhcp-client协议报文同时排队,CPU将优先处理5号队列的Telnet管理报文,通过该机制确保CPU高负荷下设备稳定可管理。同时,CPU还通过加权调度机制防止低优先级队列的报文得不到处理。在稳定的网络环境下,上送CPU的报文数量控制在适当的范围内,CPU占用率也稳定在一个合理的区间。如果一段时间内上送CPU的报文数量过大,则CPU会因为忙于处理这些报文而表现为CPU占用率过高。