当前位置: 首页 > news >正文

【Linux】-Flink分布式内存计算集群部署[21]

注意:

本节的操作,需要前置准备好Hadoop生态集群,请先部署好Hadoop环境

简介

Flink同spark一样,是一款分布式内存计算引擎,可以支撑海量数据的分布式计算

Flink在大数据体系同样是明星产品,作为新一代的综合计算引擎,支持离线计算和实时计算。

在大数据邻域广泛应用,是目前世界上除去spark以外,应用最为广泛的分布式计算引擎。

spark更加偏向于离线计算,而flink更加偏向于实时计算

安装

1、【node1执行】  下载安装包

wget https://archive.apache.org/dist/flink/flink-1.10.0/flink-1.10.0-bin-scala_2.11.tgz

解压到/export/server

tar -zxvf flink-1.10.0-bin-scala_2.11.tgz -C /export/server

构建软链接

ln -s /export/server/flink-1.10.0 /export/server/flink

2、【node1】修改配置文件,conf/flink-conf.yaml

在vim编辑时,可使用set paste粘贴模式

# jobManager 的IP地址
jobmanager.rpc.address: node1
# JobManager 的端口号
jobmanager.rpc.port: 6123
# JobManager JVM heap 内存大小
jobmanager.heap.size: 1024m
#TaskManager JvM heap 内存大小
taskmanager.heap.size: 1024m
# 每个 TaskManager 提供的任务 slots 数量大小
taskmanager.numberOfTaskSlots: 2
# 是否进行预分配内存,默认不进行预分配,这样在我们不使fLink集群时不会占用集群资源
taskmanager.memory.preallocate: false
# 程序默认并行计算的个数
parallelism.default: 1
# JobManager的Web界面的端囗(默认:8081)
jobmanager.web.port: 8081

3、【node1】 修改配置文件,conf/slaves

node1
node2
node3

4、【node1】  分发flink安装包到其他机器

cd /export/server
scp -r flink-1.10.0 node2:`pwd`/
scp -r flink-1.10.0 node3:`pwd`/

5、【node2、node3】构建软链接

ln -s /export/server/flink-1.10.0 /export/server/flink

6、【node1】启动flink

/export/server/flink/bin/start-cluster.sh

7、验证flink启动

浏览器打开http://node1:8081

这里使用的端口8081与前一章节spark使用的端口一致,需要关闭spark才能使用flink

至此,Flink就部署完毕啦。

相关文章:

  • Mysql下Limit注入方法(此方法仅适用于5.0.0<mysql<5.6.6的版本)
  • DFS:解决二叉树问题
  • 返回枚举类给前端
  • Vue.js条件渲染与列表渲染指南
  • linux设置不记录历史命令
  • Three.js 研究:3、创建一个高科技圆环
  • web前端项目已有阿里巴巴图标基础上,再次导入阿里巴巴图标的方法
  • 第十章:C# 运算符
  • 【数组】Leetcode 228. 汇总区间【简单】
  • 【C语言】实现贪吃蛇--项目实践(超详细)
  • 安卓开发:相机水印设置
  • 【JAVA WEB实用与优化技巧】如何自己封装一个自定义UI的Swagger组件,包含Swagger如何处理JWT无状态鉴权自动TOKEN获取
  • 经典面试题:进程、线程、协程开销问题,为什么进程切换的开销比线程的大?
  • 上位机图像处理和嵌入式模块部署(f103 mcu运行freertos)
  • JVM之【运行时数据区】
  • angular组件开发
  • CEF与代理
  • Javascript设计模式学习之Observer(观察者)模式
  • ReactNativeweexDeviceOne对比
  • Redis的resp协议
  • TiDB 源码阅读系列文章(十)Chunk 和执行框架简介
  • Travix是如何部署应用程序到Kubernetes上的
  • 动手做个聊天室,前端工程师百无聊赖的人生
  • 看域名解析域名安全对SEO的影响
  • 力扣(LeetCode)22
  • 前端临床手札——文件上传
  • 前端性能优化--懒加载和预加载
  • 使用阿里云发布分布式网站,开发时候应该注意什么?
  • 我与Jetbrains的这些年
  • 用Visual Studio开发以太坊智能合约
  • ionic异常记录
  • 第二十章:异步和文件I/O.(二十三)
  • ​如何在iOS手机上查看应用日志
  • #!/usr/bin/python与#!/usr/bin/env python的区别
  • #git 撤消对文件的更改
  • #includecmath
  • #QT(QCharts绘制曲线)
  • #我与虚拟机的故事#连载20:周志明虚拟机第 3 版:到底值不值得买?
  • #职场发展#其他
  • (24)(24.1) FPV和仿真的机载OSD(三)
  • (八)c52学习之旅-中断实验
  • (超简单)使用vuepress搭建自己的博客并部署到github pages上
  • (解决办法)ASP.NET导出Excel,打开时提示“您尝试打开文件'XXX.xls'的格式与文件扩展名指定文件不一致
  • (三十五)大数据实战——Superset可视化平台搭建
  • (学习日记)2024.01.19
  • (原创)可支持最大高度的NestedScrollView
  • (转)如何上传第三方jar包至Maven私服让maven项目可以使用第三方jar包
  • .describe() python_Python-Win32com-Excel
  • .gitignore
  • .NET 4.0中的泛型协变和反变
  • .NET Framework 4.6.2改进了WPF和安全性
  • .NET Standard 的管理策略
  • .NET 线程 Thread 进程 Process、线程池 pool、Invoke、begininvoke、异步回调
  • .NET版Word处理控件Aspose.words功能演示:在ASP.NET MVC中创建MS Word编辑器
  • .NET单元测试使用AutoFixture按需填充的方法总结