• 产品与解决方案
  • 行业解决方案
  • 服务
  • 支持
  • 合作伙伴
  • 关于我们

13-网络管理和监控配置指导

目录

24-Kafka配置

本章节下载 24-Kafka配置  (205.14 KB)

24-Kafka配置


1 Kafka

1.1  Kafka简介

Kafka是一种分布式的、基于消息的消息发布-订阅系统。Kafka采用客户端/服务器通信模型。在Kafka系统中,设备作为客户端,可以将本地生成的日志、告警封装成Kafka消息,发布到Kafka服务器(Broker),以便将设备集成到用户的Kafka系统中,网络管理员可以通过Kafka系统来管理设备。

1.1.1  Kafka技术优势

Kafka系统具有以下特点:

·     高吞吐量:可支持每秒数百万级别的消息的生产和消费。

·     持久性:Kafka提供了一套完整的消息存储机制,支持TB量级消息的高效、安全、稳定持久化存储。

基于以上特点,Kafka在大数据分析和集成业务中得到了广泛的应用。

1.1.2  Kafka基本概念

·     Broker:消息接收者和存储者,Kafka通信模型中的服务器,负责存储消息。多个Broker可组建一个Kafka集群。

·     Producer:消息生产者(也称发布者),Kafka通信模型中的客户端,负责生产消息并将消息发布到Kafka Broker。

·     Consumer:消息消费者(也称订阅者),Kafka通信模型中的客户端,从Kafka Broker读取消息的客户端。多个Consumer可组建一个消费者群组(Consumer Group)。

·     Topic:消息主题,用于对消息进行分类管理。设备支持按照软件模块(例如Alarm软件模块)划分主题,同一软件模块生成的日志、告警在封装成Kafka消息时,会添加相同的主题。

·     Kafka服务实例:用于管理和配置Kafka服务。在Kafka服务实例视图下,可以绑定Kafka Broker、配置消息的主题和格式。

1.1.3  Kafka工作原理

图1-1所示,Kafka工作原理如下:

(1)     设备作为Kafka消息生产者,将生成的消息按照指定的格式和主题,发布给Kafka Broker。

设备支持发送的Kafka消息例如:

¡     CPU利用率超阈值告警和恢复消息

¡     空闲内存低于阈值告警和恢复消息

¡     接口状态由up变为down告警和恢复消息

¡     基础License过期告警和恢复消息

¡     路由表超阈值告警和恢复消息

¡     ARP表超阈值告警和恢复消息

¡     BGP邻居断开告警和恢复消息

(2)     Consumer基于主题订阅消息,从Kafka Broker获取消息。

图1-1 Kafka工作原理图

 

1.2  配置设备作为Kafka消息生产者

(1)     进入系统视图。

system-view

(2)     创建Kafka服务实例,并进入Kafka服务实例视图。

kafka-service service-name

缺省情况下,不存在Kafka服务实例。

(3)     配置Kafka消息的主题。

topic module topic-name

缺省情况下,未配置Kafka消息的主题。

(4)     配置发送给Kafka Broker的消息格式。

format string

缺省情况下,未配置发送给Kafka Broker的消息格式。

(5)     配置Kafka服务实例绑定的Kafka Broker。

broker [ vpn-instance vpn-instance-name ] { host-name | ipv4-address | ipv6 ipv6-address } port port-number

缺省情况下,Kafka服务实例未绑定Kafka Broker。

1.3  Kafka典型配置举例

1.3.1  Kafka基本功能配置举例

1. 组网需求

将设备集成到用户的Kafka系统中,以便设备发生用户关注的重要事件时,Kafka系统能感知该事件:设备能以Kafka消息的形式告知Consumer,使得网络管理员可以通过Kafka系统来管理设备。

2. 组网图

图1-2 Kafka基本功能配置组网图

 

3. 配置步骤

(1)     配置各设备的IP地址。(配置过程略)

(2)     配置静态路由或动态路由协议,确保各设备之间路由可达。(配置过程略)

(3)     配置Producer

# 创建Kafka服务实例suyan,并进入Kafka服务实例视图。

<Producer> system-view

[Producer] kafka-service suyan

# 配置alarm模块发送消息的主题名为suyan-alarm。

[Producer-kafka-service-suyan] topic alarm suyan-alarm

# 配置发送给Kafka Broker的消息格式为suyan-cloud。

[Producer-kafka-service-suyan] format suyan-cloud

# 配置Kafka服务实例绑定的Kafka Broker的IP地址为1.1.10.1,端口号为5145。

[Producer-kafka-service-suyan] broker 1.1.10.1 port 5145

[Producer-kafka-service-suyan] quit

4. 验证配置

在Producer的闲置接口上执行shutdownundo shutdown命令,Consumer上可以收到主题为suyan-alarm的、接口状态变化的消息。

不同款型规格的资料略有差异, 详细信息请向具体销售和400咨询。H3C保留在没有任何通知或提示的情况下对资料内容进行修改的权利!

新华三官网
联系我们