当前位置: 首页 > news >正文

实时计算Flink——独享模式——Batch功能介绍

什么是Flink Batch功能

实时计算 Flink是阿里巴巴在开源Flink基础上做了大量优化的Flink版本,其中增加了大量的批处理相关功能,使Flink成为统一了批流计算模型的大数据处理引擎。

如何试用Flink Batch功能

与流处理功能相同,Flink Batch功能对SQL有完善的支持,并且做到了批流SQL统一。与流相比,批的SQL暂不支持window相关函数,其他语法都支持。所以SQL文档请参考公共云流计算SQL文档。

如何创建批处理作业

准备工作

  1. 申请独享模式:目前批处理功能仅在独享模式开通,请移步独享模式申请。
  2. 创建集群:请按创建集群流程创建集群并创建项目。

创建批处理作业

  1. 进入流计算控制台。

  2. 创建batch作业。1

  3. 编写作业,示例:读取HDFS数据进行计算,并写回HDFS。

  4.  
        
    1. -- 源表DDL,类型orc,存放路径,用户HDFS hdfs://roothdfs/table/ds=20180816/ 目录
    2. create table hdfs_orc_source(
    3. name varchar,
    4. age BIGINT,
    5. birthday BIGINT
    6. ) with (
    7. type='orc',
    8. path='hdfs://hdfshome/user/hive/warehouse/xxx/table1/dt=20180814',
    9. enumerateNestedFiles='true'
    10. );
    11. -- 结果表ddl
    12. create table test_sink(
    13. name varchar,
    14. age bigint,
    15. birthday bigint
    16. ) with (
    17. type='orc',
    18. filePath='hdfs://hdfshome/orcpath/test'
    19. )
    20. -- DML语句
    21. insert into test_sink
    22. select
    23. name,
    24. age,
    25. birthday
    26. from hdfs_source

    说明:

    1. connector相关配置,请参考阿里云官网Batch(试用)。
    2. SQL相关文档,请参考FlinkSQL手册。
本文转自实时计算—— Batch功能介绍

相关文章:

  • jQuery页面加载初始化的3种方法
  • MetaMask/provider-engine-1
  • canvas-star7.html
  • 微信小程序上拉加载:onReachBottom详解+设置触发距离
  • ubuntu 安装配置ssh
  • niucms就是以城市为分割单位,在上面 小区/乡村/同城论坛+58+团购
  • idea tomcat启动时候中文乱码、问号
  • 如何从CRM中获益?看专家怎么说!
  • ECharts初使用,从后台得到数据源
  • linux 使用ssh到远端并且使用while的坑
  • [置顶] 开源史上最成功的8个开源产品
  • 广州大学华软软件学院——NA视频下载
  • Android Studio使用来自控制台的模拟器,/dev/kvm device:
  • 安装win系统报错
  • CentOS6.10下安装mysql-5.7.24
  • (ckeditor+ckfinder用法)Jquery,js获取ckeditor值
  • 07.Android之多媒体问题
  • conda常用的命令
  • eclipse的离线汉化
  • iOS筛选菜单、分段选择器、导航栏、悬浮窗、转场动画、启动视频等源码
  • js ES6 求数组的交集,并集,还有差集
  • JS专题之继承
  • php ci框架整合银盛支付
  • Redash本地开发环境搭建
  • uni-app项目数字滚动
  • Vultr 教程目录
  • Zepto.js源码学习之二
  • 阿里云Kubernetes容器服务上体验Knative
  • 多线程 start 和 run 方法到底有什么区别?
  • 干货 | 以太坊Mist负责人教你建立无服务器应用
  • 规范化安全开发 KOA 手脚架
  • 解决iview多表头动态更改列元素发生的错误
  • 聊聊spring cloud的LoadBalancerAutoConfiguration
  • 普通函数和构造函数的区别
  • 通过来模仿稀土掘金个人页面的布局来学习使用CoordinatorLayout
  • 无服务器化是企业 IT 架构的未来吗?
  • 一个普通的 5 年iOS开发者的自我总结,以及5年开发经历和感想!
  • CMake 入门1/5:基于阿里云 ECS搭建体验环境
  • 格斗健身潮牌24KiCK获近千万Pre-A轮融资,用户留存高达9个月 ...
  • 回归生活:清理微信公众号
  • 交换综合实验一
  • ​软考-高级-信息系统项目管理师教程 第四版【第23章-组织通用管理-思维导图】​
  • #Java第九次作业--输入输出流和文件操作
  • #LLM入门|Prompt#1.7_文本拓展_Expanding
  • (八)五种元启发算法(DBO、LO、SWO、COA、LSO、KOA、GRO)求解无人机路径规划MATLAB
  • (分布式缓存)Redis持久化
  • (附源码)springboot高校宿舍交电费系统 毕业设计031552
  • (附源码)ssm考生评分系统 毕业设计 071114
  • (六)软件测试分工
  • (论文阅读笔记)Network planning with deep reinforcement learning
  • (没学懂,待填坑)【动态规划】数位动态规划
  • (求助)用傲游上csdn博客时标签栏和网址栏一直显示袁萌 的头像
  • (转)Unity3DUnity3D在android下调试
  • (转)总结使用Unity 3D优化游戏运行性能的经验
  • ***linux下安装xampp,XAMPP目录结构(阿里云安装xampp)