当前位置: 首页 > news >正文

flume-kafka 实例 详细

 

flume 下载:http://download.csdn.net/download/knight_black_bob/9454497

 

spring-kafka 接受消息实例   http://knight-black-bob.iteye.com/blog/2344424

 

flume kafka 安装 详细 http://knight-black-bob.iteye.com/blog/2343192

flume 安装 

 

20.flume 安装

tar -xf flume-ng-1.6.0-cdh5.5.0.tar.gz
mv   apache-flume-1.6.0-cdh5.5.0-bin ../soft/flume-1.6.0
cd ../soft/
ln -s /home/baoy/soft/flume-1.6.0 /home/baoy/soft/flume
chown -R root:root /home/baoy/soft/flume-1.6.0 /home/baoy/soft/flume
cd /home/baoy/soft/flume
cd /home/baoy/soft/flume/config
cp  /home/baoy/soft/flume/config/flume-env.sh.template /home/baoy/soft/flume/config/flume-env.sh  
vim flume-env.sh
	export JAVA_HOME=/usr/java/jdk1.7.0_79
/home/baoy/soft/flume/bin/flume-ng version


cp /usr/local/kafka/libs/kafka_2.10-0.10.0.0.jar /home/baoy/soft/flume/lib/
cp /usr/local/kafka/libs/scala-library-2.10.6.jar /home/baoy/soft/flume/lib/ 
cp /usr/local/kafka/libs/metrics-core-2.2.0.jar /home/baoy/soft/flume/lib/



vim /home/baoy/soft/flume/config/exec_tail_kafka.conf

agent.sources = s1
agent.sinks = k1
agent.channels = c1

agent.sources.s1.type=exec
agent.sources.s1.command=tail -F /home/project/flume/logs/flume.log
agent.sources.s1.channels=c1
agent.channels.c1.type=memory
agent.channels.c1.capacity=10000
agent.channels.c1.transactionCapacity=100

#设置Kafka接收器
agent.sinks.k1.type= org.apache.flume.sink.kafka.KafkaSink
#设置Kafka的broker地址和端口号
agent.sinks.k1.brokerList=dev10.aoiplus.openpf:9092
#设置Kafka的Topic
agent.sinks.k1.topic=baoy-topic
#设置序列化方式
agent.sinks.k1.serializer.class=kafka.serializer.StringEncoder

agent.sinks.k1.channel=c1
 
/home/baoy/soft/flume/bin/flume-ng agent -n agent -c conf -f /home/baoy/soft/flume/conf/exec_tail_kafka.conf -Dflume.root.logger=INFO,console
 

 



 
 

 

 

 

 

 

 

 

 

 

 

 

 

 

捐助开发者

在兴趣的驱动下,写一个免费的东西,有欣喜,也还有汗水,希望你喜欢我的作品,同时也能支持一下。 当然,有钱捧个钱场(右上角的爱心标志,支持支付宝和PayPal捐助),没钱捧个人场,谢谢各位。



 
 谢谢您的赞助,我会做的更好!

 

 

 

 

 

 

 

相关文章:

  • C#中三种截屏方式总结
  • 猫猫的客户端制作
  • window.atob()与window.btoa()方法实现编码与解码
  • 让我们在户外撒点野 新疆微软.net俱乐部2006年6月户外技术交流活动报道
  • mysql5.6传统复制改为基于GTID多线程复制
  • linux环境内存分配原理 mallocinfo【转】
  • My Frist in this frist!!
  • Linux 添加Nginx 到 service 启动
  • 加点自已内容的新内核下L7-FILTER的应用实例!
  • 第2章 Selenium2-java 测试环境搭建
  • 編寫高性能 Web 應用程式的 10 個技巧
  • 自定义串口通信协议的实现
  • 和小妞小思宇一起吃饭了
  • lepus数据库实时开源监控系统
  • 电信行业解决方案
  • [PHP内核探索]PHP中的哈希表
  • 【140天】尚学堂高淇Java300集视频精华笔记(86-87)
  • express.js的介绍及使用
  • JavaScript DOM 10 - 滚动
  • Javascript编码规范
  • java中的hashCode
  • MyEclipse 8.0 GA 搭建 Struts2 + Spring2 + Hibernate3 (测试)
  • PHP 小技巧
  • php面试题 汇集2
  • SegmentFault 技术周刊 Vol.27 - Git 学习宝典:程序员走江湖必备
  • SpiderData 2019年2月16日 DApp数据排行榜
  • SQLServer之创建数据库快照
  • SQLServer之索引简介
  • use Google search engine
  • webpack项目中使用grunt监听文件变动自动打包编译
  • 纯 javascript 半自动式下滑一定高度,导航栏固定
  • 分享自己折腾多时的一套 vue 组件 --we-vue
  • 诡异!React stopPropagation失灵
  • 聊一聊前端的监控
  • 前端自动化解决方案
  • 如何合理的规划jvm性能调优
  • 我的面试准备过程--容器(更新中)
  • ​Base64转换成图片,android studio build乱码,找不到okio.ByteString接腾讯人脸识别
  • ​你们这样子,耽误我的工作进度怎么办?
  • # include “ “ 和 # include < >两者的区别
  • (day 2)JavaScript学习笔记(基础之变量、常量和注释)
  • (Java实习生)每日10道面试题打卡——JavaWeb篇
  • (办公)springboot配置aop处理请求.
  • (超简单)使用vuepress搭建自己的博客并部署到github pages上
  • (附源码)springboot 校园学生兼职系统 毕业设计 742122
  • (强烈推荐)移动端音视频从零到上手(上)
  • (转)从零实现3D图像引擎:(8)参数化直线与3D平面函数库
  • (转)拼包函数及网络封包的异常处理(含代码)
  • (转载)hibernate缓存
  • . Flume面试题
  • .net 简单实现MD5
  • .NET导入Excel数据
  • .Net的C#语言取月份数值对应的MonthName值
  • .NET和.COM和.CN域名区别
  • .NET文档生成工具ADB使用图文教程