当前位置: 首页 > news >正文

大数据技术基础

一、大数据平台

1.大数据平台方案步骤:

  ①市场上有哪些大数据平台

  ②硬件、系统、业务增长等方面

  ③方案是否通过

通过后:按照一期目标投入

先虚拟环境部署联系,再实际部署

《大数据架构介绍》《Hadoop架构解析》《Hadoop集群规划》

《Hadoop安装部署》,《实验:Hadoop集群搭建》

《Hadoop核心组件-HDFS》,《实验:HDFS查看元数据》《高可用HDFS》

十分的事情,完成十二分!!!比预期完成的更好

因为需求、业务需求,所以上大数据

2.数据库管理员 (DBA) 是指负责维护、保护和运营数据库,确保正确存储和检索数据的专业人员。

3.大数据:大量、多样、快速、价值密度低的数据

4.传统服务器架构:单机、主备、主从-----数据之间需要同步,例如:一人一本完整的书,得复印十本书

    现有服务器架构:分片式架构,将数据分散在多个节点,多个节点合成一个数据,例如:查找一本书中的页数,每10页分给一个人,合起来,就是页码数

二、主流大数据平台---Hadoop

1.Hadoop常用组件:

2.结构

主节点:领导,从节点:员工 

 

3.版本 

一版本无Yarn,只能通过MapReduce进行资源管理和数据处理,只有一个leader

二版本好处:以下三个好处 ---加入了yarn,有两个leader

 

4.运行模式 

三、集群-----不是某一个人的任务,而是一群人的任务

集群考虑:组件分配、硬件、虚拟化和节点配置等;

相关文章:

  • 北京网站建设多少钱?
  • 辽宁网页制作哪家好_网站建设
  • 高端品牌网站建设_汉中网站制作
  • Laravel表单验证的艺术:精细控制数据的入口
  • React遍历tree结构,获取所有的id,切换自动展开对应层级
  • Ajax从零到实战
  • Log4j的原理及应用详解(三)
  • 在GPU上运行PyTorch
  • MVC之 IHttpModule管道模型《二》
  • C++的关键字const
  • 飞睿智能UWB Tag蓝牙防丢器标签,宠物安全新升级,5cm精准定位测距不迷路
  • 杭州汽修元宇宙
  • 芋道项目发版后报错: jt is not a function...
  • VBA学习(20):一批简单的Excel VBA编程问题解答
  • 持续集成06--Jenkins构建触发器
  • 集线器、交换机、路由器的区别,冲突域、广播域
  • 【RabbitMQ】一文详解消息可靠性
  • 基于springboot和mybatis的RealWorld后端项目实战三之添加swagger
  • Asm.js的简单介绍
  • classpath对获取配置文件的影响
  • IOS评论框不贴底(ios12新bug)
  • js对象的深浅拷贝
  • leetcode98. Validate Binary Search Tree
  • python 学习笔记 - Queue Pipes,进程间通讯
  • Python打包系统简单入门
  • RxJS: 简单入门
  • Spring声明式事务管理之一:五大属性分析
  • Swift 中的尾递归和蹦床
  • UMLCHINA 首席专家潘加宇鼎力推荐
  • Unix命令
  • vue从创建到完整的饿了么(11)组件的使用(svg图标及watch的简单使用)
  • 编写符合Python风格的对象
  • 高性能JavaScript阅读简记(三)
  • 工程优化暨babel升级小记
  • 工作手记之html2canvas使用概述
  • 回流、重绘及其优化
  • 前端每日实战 2018 年 7 月份项目汇总(共 29 个项目)
  • 如何合理的规划jvm性能调优
  • 如何胜任知名企业的商业数据分析师?
  • 算法-图和图算法
  • 通过npm或yarn自动生成vue组件
  • 湖北分布式智能数据采集方法有哪些?
  • ​一些不规范的GTID使用场景
  • (4) PIVOT 和 UPIVOT 的使用
  • (板子)A* astar算法,AcWing第k短路+八数码 带注释
  • (二)c52学习之旅-简单了解单片机
  • (附源码)spring boot北京冬奥会志愿者报名系统 毕业设计 150947
  • (含react-draggable库以及相关BUG如何解决)固定在左上方某盒子内(如按钮)添加可拖动功能,使用react hook语法实现
  • (九)信息融合方式简介
  • (十八)用JAVA编写MP3解码器——迷你播放器
  • (一)pytest自动化测试框架之生成测试报告(mac系统)
  • (译) 理解 Elixir 中的宏 Macro, 第四部分:深入化
  • (转)3D模板阴影原理
  • (转)用.Net的File控件上传文件的解决方案
  • ***linux下安装xampp,XAMPP目录结构(阿里云安装xampp)
  • **登录+JWT+异常处理+拦截器+ThreadLocal-开发思想与代码实现**
  • .NET CLR Hosting 简介
  • .net core Redis 使用有序集合实现延迟队列