当前位置: 首页 > news >正文

hive集群加了个参数后,union all的任务都执行不了影响业务

文章目录

  • hive集群加了个参数后,union all的任务都执行不了影响业务
    • 背景
    • 问题
    • 解决
    • 参数hive.semantic.analyzer.hook

hive集群加了个参数后,union all的任务都执行不了影响业务

背景

今年1月内蒙的数据中台和大数据平台上线,运行至今很稳定,昨天半夜3点半被叫起来,说大部分任务卡住了,运行不了,追查问题,发现union all的任务都执行不了,问了现场早上改了什么吗?发现局方要求改了一个参数导致的,任务执行不了挺严重的,早上任务出不来,主任要背责任的。

问题

中台报错:
在这里插入图片描述
在hive执行报错:Invalid function ‘TOK_SETCOLREF’
在这里插入图片描述

解决

1.发现都是union all的任务出错
例如:

SELECT 
       USER_NO,
       MIN(FIRST_CALL_DATE),
       MAX(LAST_CALL_DATE)
  FROM (SELECT USER_NO,
               MIN(CALL_DATE) FIRST_CALL_DATE,
               MAX(CALL_DATE) LAST_CALL_DATE
          FROM EDWV.DWV_D_EV_BIL_MB_VOICE
         WHERE ACCT_MONTH = '202209'
           AND DAY_ID = '26'
         GROUP BY USER_NO
        UNION ALL
        SELECT USER_NO, FIST_CALL_DATE, LAST_CALL_DATE
          FROM MID.MID_DWV_D_EV_BIL_FIRST_CALL) T1
 GROUP BY USER_NO

2.回想早上改什么,发现改动了一个参数
在这里插入图片描述
3.暂时将参数改回去,回滚配置,重启服务
4.任务恢复正常

参数hive.semantic.analyzer.hook

生命周期:在对查询语句进行语义分析时被调用

使用方式:修改hive-site.xml为如下配置,多个实现类使用逗号分割

<property>

    <name>hive.semantic.analyzer.hook</name>

    <value>org.apache.hadoop.hive.ql.parse.AbstractSemanticAnalyzerHook<value/>

</property>

Hive中没有超级管理员,任何用户都可以进行Grant/Revoke操作,为了完善“超级管理员”,必须添加hive.semantic.analyzer.hook配置,并实现自己的权限控制类。
怀疑他自定义的类,没有在我们的用户导致union all操作不能执行
这个参数官网已经找不到。

相关文章:

  • 攻防演练中防守方的防护措施.
  • 鲁棒的非负监督低秩鉴别嵌入算法
  • 第一季:12Linux常用服务类相关命令【Java面试题】
  • 35-SpringBoot 短信验证码接口使用
  • RTOS 任务划分
  • 无人机基础知识:多旋翼无人机系统基本组成
  • uniapp原生插件-YL视频播放器
  • 黑马瑞吉外卖之套餐信息的删除
  • 第十三届蓝桥杯C++B组国赛C题——卡牌 (AC)
  • SpringMVC中的接口传参接参总结
  • python毕业设计项目源码选题(17)校园二手书籍交易系统毕业设计毕设作品开题报告开题答辩PPT
  • 首版次高端软件的申报材料?
  • 关于防抖和节流在前端开发中的应用
  • 姓芦男孩名字简单大气
  • vue实战-分页器
  • [数据结构]链表的实现在PHP中
  • 【干货分享】SpringCloud微服务架构分布式组件如何共享session对象
  • Java 9 被无情抛弃,Java 8 直接升级到 Java 10!!
  • JavaScript 奇技淫巧
  • Js基础知识(四) - js运行原理与机制
  • Logstash 参考指南(目录)
  • passportjs 源码分析
  • PAT A1017 优先队列
  • Puppeteer:浏览器控制器
  • sessionStorage和localStorage
  • Spark RDD学习: aggregate函数
  • VUE es6技巧写法(持续更新中~~~)
  • vue-router的history模式发布配置
  • 面试题:给你个id,去拿到name,多叉树遍历
  • 让你的分享飞起来——极光推出社会化分享组件
  • 如何打造100亿SDK累计覆盖量的大数据系统
  • 使用SAX解析XML
  • 原生JS动态加载JS、CSS文件及代码脚本
  • Spring第一个helloWorld
  • 哈罗单车融资几十亿元,蚂蚁金服与春华资本加持 ...
  • (Bean工厂的后处理器入门)学习Spring的第七天
  • (搬运以学习)flask 上下文的实现
  • (附源码)spring boot火车票售卖系统 毕业设计 211004
  • (黑马出品_高级篇_01)SpringCloud+RabbitMQ+Docker+Redis+搜索+分布式
  • (区间dp) (经典例题) 石子合并
  • (转)setTimeout 和 setInterval 的区别
  • .bat批处理(三):变量声明、设置、拼接、截取
  • .net 8 发布了,试下微软最近强推的MAUI
  • .NET Core Web APi类库如何内嵌运行?
  • .NET MVC之AOP
  • .Net 高效开发之不可错过的实用工具
  • .Net各种迷惑命名解释
  • @font-face 用字体画图标
  • @SuppressWarnings注解
  • [ 云计算 | AWS 实践 ] Java 如何重命名 Amazon S3 中的文件和文件夹
  • [C/C++]关于C++11中的std::move和std::forward
  • [CF703D]Mishka and Interesting sum/[BZOJ5476]位运算
  • [C语言][C++][时间复杂度详解分析]二分查找——杨氏矩阵查找数字详解!!!
  • [ICCV2017]Neural Person Search Machines
  • [Jquery] 实现鼠标移到某个对象,在旁边显示层。