当前位置: 首页 > news >正文

Kafka(消息队列)--简介

1、kafka:

        是一个高吞吐的分布式消息系统,与Hdfs比较相似,但是与hdfs的区别是在于hdfs是存储的是历史的、海量的数据,然而kafka存储的是实时的、最新的数据。

2、消息队列:

        指的是在Kafka中的数据队列。可以存放数据在峰值的时候的数据,因为在数据峰值的时候,此时的数据量比较大,对于消费者没有办法及时的消费,为了防止反压的现象,此时的数据就可以在消息队列中等待。

生产者:生产者负责产生数据

消费者:消费者负责消费数据

3、消息队列的一般的应用场景:系统之间的解耦合、峰值压力缓冲、异步通信

峰值压力缓冲的应用在Flink中:

        当数据某一时刻的产生的速度要是大于Flink的处理的速度,可以通过提高并行度来增加数据处理的速度,但是Flink是7*24小时的工作机制,就会导致资源的浪费,此时可以通过kafka来做峰值压力缓冲,就是在Flink高峰期的时候,将没办法及时处理的数据缓存在队列中,减轻Flink的压力。

4、Kafka的特点:

        1、消息系统的模型:生存者消费者模型,FIFO模型

        2、高性能:单节点支持上千个客户端

        3、持久性:消息直接持久化在磁盘上且性能比较好

        4、分布式:数据副本冗余,流量负载均衡,可扩展

        5、很灵活:消息长时间持久化+client维护消费状态

5、kafka性能比较好的原因:

        1、kafka写磁盘是顺序写的

        2、采用了sendFile的0拷贝的技术,提高速度

        3、还采用了批量写入,一批一批的写入数据,64k为一个单位。

6、kafka集群:

        1、组件:

                1、broker:使用存放数据的,也是多节点的

                2、Zookeeper:负责存储kafka的元数据

相关文章:

  • 单基因泛癌+实验简单验证,要素丰富,没研究方向的赶紧上车
  • Nginx 实现负载均衡
  • java数据结构(红黑树)set集合 HashSet HashSet三个问题 LinkedHashSetTreeSet TreeSet集合默认规则排序规则
  • 软件测试面试怎样介绍自己的测试项目?会问到什么程度?
  • Zookeeper经典应用场景实战(一)
  • 11月9日,每日信息差
  • SpringCloudAlibaba - 项目完整搭建(Nacos + OpenFeign + Getway + Sentinel)
  • KubeSphere v3.4.0 部署K8S Docker + Prometheus + grafana
  • web应用程序、Django框架的学习
  • 思谋科技进博首秀:工业多模态大模型IndustryGPT V1.0正式发布
  • GaN HEMT 电容的分析建模,包括寄生元件
  • xv6实验课程--xv6的写时复制fork(2023)
  • MySQL数据类型介绍及使用场景
  • 呆头鹅-全自动视频混剪,批量剪辑批量剪视频,探店带货系统,精细化顺序混剪,故事影视解说,视频处理大全,精细化顺序混剪,多场景裂变,多视频混剪
  • 怎么调整excel表里面所有单元格中,某个相同字体大小,单元格中其他文字大小不变?
  • #Java异常处理
  • 【翻译】Mashape是如何管理15000个API和微服务的(三)
  • 【干货分享】SpringCloud微服务架构分布式组件如何共享session对象
  • Apache Zeppelin在Apache Trafodion上的可视化
  • Docker入门(二) - Dockerfile
  • ES6简单总结(搭配简单的讲解和小案例)
  • Git的一些常用操作
  • Python连接Oracle
  • vue 配置sass、scss全局变量
  • 从零开始在ubuntu上搭建node开发环境
  • 关于 Cirru Editor 存储格式
  • 回流、重绘及其优化
  • 检测对象或数组
  • 理清楚Vue的结构
  • 利用阿里云 OSS 搭建私有 Docker 仓库
  • 区块链分支循环
  • 文本多行溢出显示...之最后一行不到行尾的解决
  • 原生js练习题---第五课
  • 正则与JS中的正则
  • 【运维趟坑回忆录】vpc迁移 - 吃螃蟹之路
  • zabbix3.2监控linux磁盘IO
  • # Python csv、xlsx、json、二进制(MP3) 文件读写基本使用
  • (06)Hive——正则表达式
  • (06)金属布线——为半导体注入生命的连接
  • (1)STL算法之遍历容器
  • (C#)获取字符编码的类
  • (done) ROC曲线 和 AUC值 分别是什么?
  • (翻译)Quartz官方教程——第一课:Quartz入门
  • (附源码)springboot 房产中介系统 毕业设计 312341
  • (免费领源码)Python#MySQL图书馆管理系统071718-计算机毕业设计项目选题推荐
  • (十)【Jmeter】线程(Threads(Users))之jp@gc - Stepping Thread Group (deprecated)
  • (实战)静默dbca安装创建数据库 --参数说明+举例
  • (未解决)macOS matplotlib 中文是方框
  • (转)Java socket中关闭IO流后,发生什么事?(以关闭输出流为例) .
  • (转)真正的中国天气api接口xml,json(求加精) ...
  • ****Linux下Mysql的安装和配置
  • *ST京蓝入股力合节能 着力绿色智慧城市服务
  • .[backups@airmail.cc].faust勒索病毒的最新威胁:如何恢复您的数据?
  • .\OBJ\test1.axf: Error: L6230W: Ignoring --entry command. Cannot find argumen 'Reset_Handler'
  • .NET Core SkiaSharp 替代 System.Drawing.Common 的一些用法