当前位置: 首页 > news >正文

流计算独享模式正式邀测

流计算 - 不止于流

572001635db43e168ec86dea191b90facfefc1dd

流计算&独享模式

阿里云流计算(Alibaba Cloud StreamCompute,Powered by Blink)是一个一站式、高性能、稳定、易用的流式大数据处理平台,通过它,您可以快速搭建具有亿级QPS处理能力的流式大数据系统。
近期流计算发布了一种新的售卖模式:独享模式。独享模式中,同时开放了一些针对数据湖场景的新功能:
  • ETL - 数据清洗,数据同步
  • 数据分析

数据湖

Data Lake并不是一个新的概念,早在2011年就被提出,作为数仓的补充。
数据湖是一个中心化的存储,能够存储任意规模的结构化与半结构化数据。数据湖中的数据,不必经过结构化过程,即可进行各种类型的分析,如可视化,大数据处理,实时数据分析和机器学习。

数仓&数据湖

与数仓相比,数据湖中数据有以下几个特点:

56d9b6a6e35125785da5294b601f0861671893c9
在数据湖场景中,流计算有其独特优势,可完美解决数据湖场景下,结构化和半结构化数据的异构数据源计算和ETL等问题。下面以IoT场景举例说明其优势。

适应场景

典型工业化IoT场景,传感器,采集厂房中各地点的温度/湿度/压力等信息,并上传到云端做环境监控及数据分析,整体业务架构如下:
1528537808768-3c0c6a2c-7f34-47ca-b4af-76

场景数据流

IoT场景中,整个系统数据分为几类:
  • IoT Device的运行日志,以文件的形式存储在OSS中
  • IoT Device采集的数据,上传到SLS/MQ/Kafka等各种数据通道类系统
  • MySQL/HBase/Redis等RDBMS/NoSQL中保存的重点监控区域设备白名单

场景业务逻辑

实时链路

1528539281605-fabe0b9d-16bb-479a-80c2-e6

离线链路

DataLake ETL

1528539921993-287173f5-561a-4934-b8af-e4
将IoT采集到的数据经过清洗,上传到数仓中做持久存储及分析

DalaLake分析

1528540179432-ff72c1c8-2ac7-4602-8eef-93

适用场景

实时BI
实时监控(CEP
离线链路

优势

功能丰富:
  • 实时/数据湖场景下ETL/分析/监控等功能集为一体
  • 20+种connector,无缝对接各种类数据源<RDBMS/NoSQL/Queue/Hive...>
  • 异构数据源计算:可使用标准SQL,对异构数据源<RDBMS/NoSQL/Queue/Hive...>直接计算<JOIN/UNION/SELECT...>
节省成本:
  • 开发成本:实时/离线各种场景中,SQL+UDF即可解决所有问题,一套SQL,实时/离线无缝切换
  • 运维成本:全托管模式,保证高SLA情况下,减轻用户运维负担
  • 存储成本:直接分析OSS/RDBMS/NoSQL/Queue/Hive...中结构化/半结构化数据,与传统数仓中,数据集中后才能分析的模式相比,对低频查询类场景,可大大节省存储成本
  • 计算成本:一个产品,支持多种计算能力,降低用户计算成本

阿里云流计算始终致力于为用户提供更丰富的功能,更强大的计算能力。
使用户以更低的成本更灵活的方式更短的时间,发掘所有数据中的价值,真正做到 DIVE INTO THE DATA,INSIGHT INTO THE FUTURE。

相关文章:

  • 微信小程序接口改版后的登录和会话保持流程
  • Spring Cloud Finchley 正式发布,包含 4 个重大更新!
  • React全家桶项目
  • Linux 配置双网卡绑定,实现负载均衡
  • Python程序的执行原理
  • 使用 node(wd)编写 Appium 测试用例--测试2
  • [BZOJ2850]巧克力王国
  • 刚刚!“跨境汇款”被区块链重新定义,马云:源于多年前一个承诺
  • 大数据理论体系总结--数据仓库管理与全链路数据体系
  • 局域网大型文件分发的可能解决方案
  • 搭建视频监控平台《监视我的团宝宝》
  • BCH踏着优化升级路线,在数字货币界声名鹊起
  • Rust 1.27支持SIMD
  • 使用机器学习预测电子竞技游戏《守望先锋》的胜负
  • 技术团队管理笔记(二)-带人
  • 【刷算法】求1+2+3+...+n
  • 11111111
  • CNN 在图像分割中的简史:从 R-CNN 到 Mask R-CNN
  • thinkphp5.1 easywechat4 微信第三方开放平台
  • 阿里研究院入选中国企业智库系统影响力榜
  • 类orAPI - 收藏集 - 掘金
  • 如何优雅地使用 Sublime Text
  • 我这样减少了26.5M Java内存!
  • k8s使用glusterfs实现动态持久化存储
  • NLPIR智能语义技术让大数据挖掘更简单
  • 国内唯一,阿里云入选全球区块链云服务报告,领先AWS、Google ...
  • ​【已解决】npm install​卡主不动的情况
  • ​Spring Boot 分片上传文件
  • $().each和$.each的区别
  • ${ }的特别功能
  • (Oracle)SQL优化技巧(一):分页查询
  • (ResultSet.TYPE_SCROLL_INSENSITIVE,ResultSet.CONCUR_READ_ONLY)讲解
  • (分享)自己整理的一些简单awk实用语句
  • (附源码)springboot炼糖厂地磅全自动控制系统 毕业设计 341357
  • (解决办法)ASP.NET导出Excel,打开时提示“您尝试打开文件'XXX.xls'的格式与文件扩展名指定文件不一致
  • (论文阅读40-45)图像描述1
  • (十八)用JAVA编写MP3解码器——迷你播放器
  • (算法)Game
  • (图)IntelliTrace Tools 跟踪云端程序
  • **Java有哪些悲观锁的实现_乐观锁、悲观锁、Redis分布式锁和Zookeeper分布式锁的实现以及流程原理...
  • **PyTorch月学习计划 - 第一周;第6-7天: 自动梯度(Autograd)**
  • ./configure,make,make install的作用(转)
  • .equals()到底是什么意思?
  • .NET Core6.0 MVC+layui+SqlSugar 简单增删改查
  • .Net IE10 _doPostBack 未定义
  • .NET委托:一个关于C#的睡前故事
  • .Net下的签名与混淆
  • [ Linux ] Linux信号概述 信号的产生
  • [ Linux 长征路第二篇] 基本指令head,tail,date,cal,find,grep,zip,tar,bc,unname
  • [ 代码审计篇 ] 代码审计案例详解(一) SQL注入代码审计案例
  • [2010-8-30]
  • [20160807][系统设计的三次迭代]
  • [CF543A]/[CF544C]Writing Code
  • [Flex][问题笔记]TextArea滚动条问题
  • [GDMEC-无人机遥感研究小组]无人机遥感小组-000-数据集制备