当前位置: 首页 > news >正文

cdh sqoop 配置_Navigator 配置定期删除管理元数据

一、概述

    Navigator Metadata Server维护的元数据量在持续增长的情况下,不仅影响正常索引的效率,也会影响搜索结果的速度和显示数据的时间。此外,老的元数据可能会显示不再存在的关系,或者由于系统处理无关的详细信息,显示的血统可能需要更长的时间。而当使用一段时间Navigator 在MySQL中的存储数据暴增会导致MySQL线程死锁。

    Cloudera Navigator的清除功能会删除已删除文件或早于指定时间范围的操作的元数据。只有包含目录也被删除时,才会清除已删除文件的元数据。另外,在将Cloudera Navigator升级到新版本之前,清除元数据可以加快升级过程,并减少出现内存不足错误。在进行元数据清除时,会停止提取数据和其他的Navigator作业,这时用户无法使用 Cloudera Navigator。

二、环境准备

    CDH版本:6.3.3

    操作系统:Cent0S7.6

三、配置元数据定时清除

    3.1 登录Cloudera Navigator

3baac8ec40b1fa1306c7f29841134fbd.png

75ed8d3172026492880b28f4f439ea4e.png

     3.2 查看已有的时间表

     依次点击Administration,Purge Settings

1e553886916e63e89798429d735bee4a.png

       这里显示元数据和血统的清除计划,包括即将进行清除的5个计划列表和2个(最多显示五个)最近完成的清除计划

       3.3 更改现有的时间表

        点击Edit,进行清除参数的配置

0b6c24d635e8fb7cf9da5e5dc0cd75b2.png

bfe0ce7e4bf7d97df2b8903679075ac6.png

        我们可以根据需求去配置相应的时间限制        

e47ee917c824ad516159addfc43b7acc.png

        等待清除数据结束

312623cb5ac5c0ba39a291dc582c0a44.png

        3.3 相关参数说明

选项默认值用法说明及范围
How oftenWeekly不可配置,根据指定配置的时间进行清除,默认处于开启状态
Day SaturdaySaturday选择对生产影响最小的清除日
Time12 Midnight从午夜 12 点到晚上 11 点,选择对生产影响最小的时间
Maximum purge duration12 hours设置要允许清除过程运行的时间量。如果尚未完成,HDFS 清除过程不会在指定持续时间后添加任何要清除的新项。清除到该点的实体将保持清除状态。所有非 HDFS 清除进程都将无限制地运行。如果设置为 0,则清除将被禁用
Purge HDFS entities deleted more than*60 days删除实体后经过的天数,直到清除过程删除其元数据。例如,设置为 1 天清除两天前删除但保留昨天删除的实体的设置
Purge SELECT operations*EnabledHive 和 Impala SELECT 操作比"仅清除SELECT"操作中指定的天数要长,而要清除的天数要大于清除日期
Purge operations older than*60 days将清除比指定日期还旧的纱线、Sqoop 和 Pig 操作。如果启用了"Purge SELECT Operations",则还将清除比指定日期还旧的 Hive 和 Impala SELECT 操作

四、参考文献

   https://docs.cloudera.com/documentation/enterprise/latest/topics/cn_admin_menu_purge.html#setup-purge-schedule

相关文章:

  • perl 新得
  • token干什么用_什么是TOKEN?Token小号的理解运用,拼多多,知乎,快手,抖音的Token是什么意思...
  • GCC for Win32 开发环境介绍(3)
  • m3u8手机批量转码_阿里云视频转码批量提交(mp4 to m3u8)
  • 什么项目可以发布?一切竭可外包——CSDN外包频道(57)
  • db2数据库连接数 linux_Db2数据库在Linux下的安装和配置
  • 丙戌年三伏第8天,雷雨交加,我彻底失去了你!
  • jetson nano 系统镜像制作_Jetson Nano 修改源镜像
  • 天融信防火墙重置配置_天融信防火墙怎么配置路由
  • 成为项目顾问的标准——客户满意度——CSDN外包实践(58)
  • Swing组件响应事件与自身重绘
  • 精密制造业行业_精密制造业的发展:精密制造业的深度报告
  • ASP.NET项目怎样进行管理?(VSS的使用)
  • nuxt 全局css_Nuxt开发经验分享,让你踩少点坑!
  • 能力越强,责任越重!——朱学恒和他主持的OOPS计划!
  • “大数据应用场景”之隔壁老王(连载四)
  • android图片蒙层
  • Babel配置的不完全指南
  • ECMAScript入门(七)--Module语法
  • JavaScript异步流程控制的前世今生
  • jQuery(一)
  • JS正则表达式精简教程(JavaScript RegExp 对象)
  • React as a UI Runtime(五、列表)
  • SpiderData 2019年2月16日 DApp数据排行榜
  • 离散点最小(凸)包围边界查找
  • 详解移动APP与web APP的区别
  • 一起来学SpringBoot | 第十篇:使用Spring Cache集成Redis
  • 2017年360最后一道编程题
  • k8s使用glusterfs实现动态持久化存储
  • 阿里云服务器购买完整流程
  • ​2020 年大前端技术趋势解读
  • #vue3 实现前端下载excel文件模板功能
  • $forceUpdate()函数
  • (1)虚拟机的安装与使用,linux系统安装
  • (Java岗)秋招打卡!一本学历拿下美团、阿里、快手、米哈游offer
  • (ZT) 理解系统底层的概念是多么重要(by趋势科技邹飞)
  • (十) 初识 Docker file
  • (最全解法)输入一个整数,输出该数二进制表示中1的个数。
  • .net core 6 redis操作类
  • .NET Standard、.NET Framework 、.NET Core三者的关系与区别?
  • .NET 中创建支持集合初始化器的类型
  • .NET 中使用 Mutex 进行跨越进程边界的同步
  • .NetCore Flurl.Http 升级到4.0后 https 无法建立SSL连接
  • .net反编译工具
  • .NET开源的一个小而快并且功能强大的 Windows 动态桌面软件 - DreamScene2
  • .NET微信公众号开发-2.0创建自定义菜单
  • .NET学习教程二——.net基础定义+VS常用设置
  • ;号自动换行
  • ?php echo ?,?php echo Hello world!;?
  • @Autowired自动装配
  • @Data注解的作用
  • [ 隧道技术 ] cpolar 工具详解之将内网端口映射到公网
  • []指针
  • [Android Pro] AndroidX重构和映射
  • [c]扫雷