当前位置: 首页 > news >正文

新乡中企网站建设衡水网站建设03181688

新乡中企网站建设,衡水网站建设03181688,码迷seo,专业网页制作平台参考网址:Flume 1.9用户手册中文版 — 可能是目前翻译最完整的版本了 1,上传安装包 安装包链接:文件下载-奶牛快传 Download |CowTransfer 口令:x8bhcg 1,切换盘符到安装目录 cd /opt/moudles 解压文件…

参考网址:Flume 1.9用户手册中文版 — 可能是目前翻译最完整的版本了 

1,上传安装包

安装包链接:文件下载-奶牛快传 Download |CowTransfer

口令:x8bhcg

1,切换盘符到安装目录

cd /opt/moudles

解压文件到文件目录

解压命令:tar -zxvf apache-flume-1.9.0-bin.tar.gz -C /opt/installs/
重命名:mv apache-flume-1.9.0-bin/ flume

2,配置环境变量

export FLUME_HOME=/opt/installs/flume
export PATH=$PATH:$FLUME_HOME/bin

记得刷新环境变量

source /etc/profile

 3,修改一下flume的配置文件:

 4,修改 JAVA_HOME 的路径为自己的 jdk 路径。

export JAVA_HOME=/opt/installs/jdk

 安装完成

2,关于flume的使用

flume 的使用是编写 conf文件的,运行的时候指定该文件

# 定义组件的名字
<Agent>.sources = <Source>
a1.sources=s1
<Agent>.channels = <Channel1> <Channel2>
a1.channels=c1
<Agent>.sinks = <Sink>
a1.sinks=sink1

# 设置source 和 channel 之间的关系
<Agent>.sources.<Source>.channels = <Channel1> <Channel2> ...
a1.sources.s1.channels=c1

# 设置sink 和 channel 之间的关系
<Agent>.sinks.<Sink>.channel = <Channel1>
a1.sinks.sink1.channel=c1

先定义agent的名字,再定义agent中三大组件的名字
接着定义各个组件之间的关联关系

3,案例展示
Avro+Memory+Logger【主要用于演示,没有实战意义】

avro: 是监听某个端口是否有信息的工具
memory: 内存
logger: 控制台
即将演示一个场景:给服务器上的一个端口发送消息,消息经过内存,打印到控制台上。

 

先找source 中的avro看需要设置什么参数

 

#编写s1的类型是什么
a1.sources.s1.type = avro
a1.sources.s1.bind = 192.168.32.128
a1.sources.s1.port = 4141
a1.sources.s1.channels = c1 

找到channel中的memory类型,再设置一下

a1.channels.c1.type = memory
a1.channels.c1.capacity = 10000
#source 或者 sink 每个事务中存取 Event 的操作数量
a1.channels.c1.transactionCapacity = 10000 

接着查找sink,sink的类型是logger

a1.sinks.s2.channel = c1
a1.sinks.s2.type = logger 

最终合并起来的文件就是:

a1.sources = r1
a1.channels = c1
a1.sources.r1.type = avro
a1.sources.r1.channels = c1
a1.sources.r1.bind = bigdata01
a1.sources.r1.port = 4141

a1.channels.c1.type = memory

a1.sinks = k1
a1.sinks.k1.type = logger
a1.sinks.k1.channel = c1

在flume文件夹下创建一个文件夹 myconf,用于存放我们写好的文件

进入后创建  avro-memory-log.conf

将配置文件的内容拷贝进去

先启动flume-ng

flume-ng agent -c ../ -f avro-memory-log.conf -n a1 -Dflume.root.logger=INFO,console

-c  后面跟上 配置文件的路径
-f  跟上自己编写的conf文件
-n  agent的名字
-Dflume.root.logger=INFO,console   INFO 日志输出级别  Debug,INFO,warn,error 等

接着向端口中发送数据:

flume-ng avro-client -c /opt/installs/flume/conf/ -H bigdata01 -p 4141 -F /home/hivedata/arr1.txt

给avro发消息,使用avro-client

flume是没有运行结束时间的,它一直监听某个Ip的端口,有消息就处理,没消息,就等着,反正不可能运行结束。

 如果想停止,可以使用ctrl + c 终止flume。

http://www.yayakq.cn/news/149210/

相关文章:

  • 网上做平面设计兼职不错的网站网站设计分析
  • 网站开发英语wordpress开发sns
  • 动画网站源码网络营销成功的案例分析
  • 服装网站设计怎么做网站呢
  • 做一家拍卖网站需要什么资质微信营销的方式有哪些
  • 网站备案周期怎么制作一个app应用
  • 网站优化与SEO区别企业站群cms
  • 海关总署2018年海关网站建设提升学历的正规平台
  • 做网站要会编程么wordpress 折800模板
  • 青岛网站建设青岛博采网络网站建设的对比分析
  • 做网站去哪里做好设计师图库网站
  • 个人网站设计的参考文献wordpress 编辑器 修改
  • 网站建设版面分几页合适一起做网站欧洲站
  • 外贸网站建设哪里做得好北京感染峰值已过
  • 网站建设税率多少什么网站做新闻更好
  • 做一借款撮合网站怎么用服务器做局域网网站
  • 手机移动端网站建设宣传创意网页设计论文
  • 免费的在线学习网站上海网站开发平台
  • 卢松松博客主题 wordpress烟台网站建设seo
  • 做网站彩票网站吗东莞黄页电话
  • 设计一个企业网站主页404page wordpress
  • 前端做商城网站需要多久建设一个微商的网站
  • 爱站网反链分析网站建设如何定价
  • 网站社区的建设网站建设怎么记账
  • 南宁网站seo服务房天下搜房网官网
  • 鞍山高新区网站昆明市门户网站
  • 用dedecms做的网站 脚本是什么响应式网站和不响应式
  • 关于建设学校网站策划书的范本深圳市顺建建设工程有限公司网站
  • 制作网站需要哪些素材计算机网页制作素材
  • 我爱深圳网站设计wordpress 获取文章中的视频