手机版
你好,游客 登录 注册 搜索
背景:
阅读新闻

Linux下安装部署Kafka分布式集群与测试

[日期:2015-10-14] 来源:Linux社区  作者:babywaa [字体: ]

注意:部署Kafka之前先部署环境Java、Zookeeper

准备三台CentOS_6.5_x64服务器,分别是:
IP: 192.168.0.249 dbTest249 Kafka IP: 192.168.0.250 Other250 Kafka IP: 192.168.0.251 webTest251 Kafka

一、安装Kafka

# tar zxvf kafka_2.9.1-0.8.2.2.tgz -C /usr/local/
# cd /usr/local/kafka_2.9.1-0.8.2.2/ 

二、我们安装3个broker,分别在3个机器上:dbTest249,Other250,webTest251:
1、编辑dbTest249:

# vim config/server.properties                      
1 broker.id=0    
2 port=9092    
3 host.name=dbTest249    
4 advertised.host.name=dbTest249    
5 num.partitions=2    
6 zookeeper.connect=dbTest249:2181,Other250:2181,webTest251:2181

2、编辑Other250

# vim config/server.properties                       
1 broker.id=1    
2 port=9092    
3 host.name=Other250    
4 advertised.host.name=Other250    
5 num.partitions=2    
6 zookeeper.connect=dbTest249:2181,Other250:2181,webTest251:2181

3、编辑webTest251

# vim config/server.properties
1 broker.id=2    
2 port=9092    
3 host.name=webTest251    
4 advertised.host.name=webTest251    
5 num.partitions=2    
6 zookeeper.connect=dbTest249:2181,Other250:2181,webTest251:2181

三、启动Kafka服务, 分别在3个机器上:dbTest249,Other250,webTest251:

# nohup /usr/local/kafka_2.9.1-0.8.2.2/bin/kafka-server-start.sh /usr/local/kafka_2.9.1-0.8.2.2/config/server.properties > /var/log/kafka.log 2>&1 &
# ps -ef |grep kafka
# netstat -tunpl |grep java

四、测试

1、在dbTest249上,新建一个TOPIC(replication-factor=num of brokers)

# /usr/local/kafka_2.9.1-0.8.2.2/bin/kafka-topics.sh --create --topic test --replication-factor 3 --partitions 2 --zookeeper dbTest249:2181

 

2、我们在Other250,开一个终端,发送消息至kafka(Other250模拟producer)

# /usr/local/kafka_2.9.1-0.8.2.2/bin/kafka-console-producer.sh --broker-list dbTest249:9092 --sync --topic test

在发送终端发送消息: Hello Kafka 

 

3、我们在webTest251上,开一个终端,显示消息的消费(webTest251模拟consumer)

# /usr/local/kafka_2.9.1-0.8.2.2/bin/kafka-console-consumer.sh --zookeeper dbTest249:2181 --topic test --from-beginning

在消费消息的终端显示: Hello Kafka 

相关阅读

分布式发布订阅消息系统 Kafka 架构设计 http://www.linuxidc.com/Linux/2013-11/92751.htm

Apache Kafka 代码实例 http://www.linuxidc.com/Linux/2013-11/92754.htm

Apache Kafka 教程笔记 http://www.linuxidc.com/Linux/2014-01/94682.htm

Apache kafka原理与特性(0.8V)  http://www.linuxidc.com/Linux/2014-09/107388.htm

Kafka部署与代码实例  http://www.linuxidc.com/Linux/2014-09/107387.htm

Kafka介绍和集群环境搭建  http://www.linuxidc.com/Linux/2014-09/107382.htm

Kafka 的详细介绍请点这里
Kafka 的下载地址请点这里

本文永久更新链接地址http://www.linuxidc.com/Linux/2015-10/124114.htm

linux
相关资讯       kafka  Kafka 分布式部署  Kafka 集群部署 
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数

       

评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款