当前位置: 首页 > news >正文

大数据之Oracle同步Doris数据不一致问题

数据同步架构如下:

出现的问题:

 doris中的数据条数

源库中的数据条数

 

总数完全不一致。

出现问题的原因:

  在Dinky中建立表结构时,缺少对主键属性的限制

  primary key(ID) not enforced

 加上如上语句,数据条数解决一致

第二:数据完整性内容不一致

   

方案一虽然解决了数据总数的问题,但是数据完整性的方案解决因为如下原因:

原本的数据推送kafka中的before和after字段为表字段,类似与如下:

但是在oracle中数据推送的过程中,after中少了字段,导致数据不全

解决方案:

 oralce重新推送相关表数据的数据结构,保证数据字段的完整性,参考ogg官网

相关文章:

  • 北京网站建设多少钱?
  • 辽宁网页制作哪家好_网站建设
  • 高端品牌网站建设_汉中网站制作
  • C#用Aspose.Cells导出Excel,.NET导出Excel
  • Dockerfile自定义镜像
  • 搜索引擎项目(四)
  • ubuntu20.04.6 安装Skywalking 10.0.1
  • Kylin系列(一):入门与深入解析(大数据分析)
  • RVC-AI声音克隆-你的声音不再是唯一
  • Wechat Files目录垃圾清理指南
  • Android笔试面试题AI答之线程Handler、Thread(2)
  • ES(Elasticsearch)常用的函数有哪些?
  • 代码审计:Bluecms v1.6
  • 9. kubernetes资源——pv/pvc持久卷
  • 银行贷款信用评分不足?大数据帮你找回失去的“分”
  • 史上最全网络安全面试题+答案
  • pve笔记
  • 「C++系列」数组
  • canvas 绘制双线技巧
  • CAP 一致性协议及应用解析
  • es6--symbol
  • Linux各目录及每个目录的详细介绍
  • Quartz初级教程
  • vuex 笔记整理
  • webpack4 一点通
  • 不发不行!Netty集成文字图片聊天室外加TCP/IP软硬件通信
  • 反思总结然后整装待发
  • 可能是历史上最全的CC0版权可以免费商用的图片网站
  • 使用 Node.js 的 nodemailer 模块发送邮件(支持 QQ、163 等、支持附件)
  • 使用 Xcode 的 Target 区分开发和生产环境
  • 思考 CSS 架构
  • 消息队列系列二(IOT中消息队列的应用)
  • 硬币翻转问题,区间操作
  • 云大使推广中的常见热门问题
  • 400多位云计算专家和开发者,加入了同一个组织 ...
  • kubernetes资源对象--ingress
  • ​你们这样子,耽误我的工作进度怎么办?
  • ​数据链路层——流量控制可靠传输机制 ​
  • ​一文看懂数据清洗:缺失值、异常值和重复值的处理
  • ​中南建设2022年半年报“韧”字当头,经营性现金流持续为正​
  • "无招胜有招"nbsp;史上最全的互…
  • #nginx配置案例
  • #单片机(TB6600驱动42步进电机)
  • #设计模式#4.6 Flyweight(享元) 对象结构型模式
  • (C#)if (this == null)?你在逗我,this 怎么可能为 null!用 IL 编译和反编译看穿一切
  • (LeetCode 49)Anagrams
  • (附源码)spring boot火车票售卖系统 毕业设计 211004
  • (附源码)ssm失物招领系统 毕业设计 182317
  • (牛客腾讯思维编程题)编码编码分组打印下标题目分析
  • (十)T检验-第一部分
  • (算法二)滑动窗口
  • .【机器学习】隐马尔可夫模型(Hidden Markov Model,HMM)
  • .form文件_SSM框架文件上传篇
  • .NET Core 发展历程和版本迭代
  • .Net CoreRabbitMQ消息存储可靠机制
  • .NET MAUI学习笔记——2.构建第一个程序_初级篇
  • .Net Remoting常用部署结构
  • .NET 自定义中间件 判断是否存在 AllowAnonymousAttribute 特性 来判断是否需要身份验证