当前位置: 首页 > news >正文

DataX PostgreSQL 读写支持Geometry类型

这里写目录标题

  • 简要说明
  • 依赖
  • 代码

简要说明

通过简单修改源码中关于相关的reader、writer和DBUtil工具类,实现表到表之间的Geometry字段类型数据的输送,目前修改仅测试过在postgresql的postgis插件下的Geometry类型可行。

依赖

1.通过gitclone 或者 到github 下载dataX的源码
2.后期的本地测试debug方式,可参考 https://blog.csdn.net/qq_41613913/article/details/140638920

代码

用ide 打开项目后,找到相应的模块进行修改。
1.CommonRdbmsReader类的修改
在模块plugin-rdbms-util下,找到CommonRdbmsReader类,找到buildRecord方法。
因为在关系型数据库下的读数据都是通过CommonRdbmsReader封装的逻辑,在现在的框架下,是不支持geometry类型的字段的,你可以通过java.sql.Types了解到,并没有geometry的对应值,所以通过jdbc connection执行得到的字段元数据中,geometry的数据库类型被标注为‘1111’(代表其他),所以我们必须做些特殊处理
修改如下:
在这里插入图片描述
在这里插入图片描述
即是在组装record时,遍历读取到的数据时,当columnTypeName为geometry时,当成字符串处理。

2.PostgresqlWriter类型的修改
在这里插入图片描述
其中calcValueHolder() 方法的意义,你可以理解为字段值的类型指明

3.DBUtil工具类的修改
在这里插入图片描述
在写入目标表时,会先查询目标表的字段类型,而Triple<List, List, List> 分别代表Left:ColumnName Middle:ColumnType Right:ColumnTypeName,因为在现有的代码中,中间的ColumnType 当是‘1111’ 时,CommonRdbmsWriter是不支持处理的,所以对应读取时的修改,这里直接当做普通字符串去处理。

至此,修改完毕,进行打包,替换jar
在这里插入图片描述
只需打包部分模块,将最外层的pom.xml文件中,只保留

        <module>common</module><module>core</module><module>transformer</module><module>postgresqlreader</module><module>postgresqlwriter</module><module>plugin-rdbms-util</module>

拿到postgresqlreader-0.0.1-SNAPSHOT.jar、postgresqlwriter-0.0.1-SNAPSHOT.jar和plugin-rdbms-util-0.0.1-SNAPSHOT.jar后,替换本地或者服务器上的plugin目录下reader 和 writer 的对应的jar,比如reader下
在这里插入图片描述
在这里插入图片描述

相关文章:

  • 北京网站建设多少钱?
  • 辽宁网页制作哪家好_网站建设
  • 高端品牌网站建设_汉中网站制作
  • 【C#】读取与写入txt文件内容
  • Redis中zset结构的常用命令总结
  • HTTP、HTTPS、SOCKS5三种协议特点
  • spring boot 笔记大杂烩
  • 【ARM】CMSIS 软件标准接口
  • 回归预测|基于灰狼优化GWO-Transformer-BiLSTM组合模型的数据回归预测Matlab程序 多特征输入单输出
  • 前端(三):Ajax
  • 【Linux】Linux环境基础开发工具使用之软件包管理(yum)与 Linux编辑器(vim)
  • 力扣面试经典100题
  • php7.2后解密微信推送过来的数据
  • 使用 Java RestClient 与 Elasticsearch 进行商品文档操作
  • 进阶SpringBoot之 Thymeleaf 模板引擎
  • MySQL:复杂查询(一)——聚合函数分组查询联合查询01
  • C#实现动画效果
  • 基于STM32开发的智能温室控制系统
  • [deviceone开发]-do_Webview的基本示例
  • 「译」Node.js Streams 基础
  • 【挥舞JS】JS实现继承,封装一个extends方法
  • 【跃迁之路】【585天】程序员高效学习方法论探索系列(实验阶段342-2018.09.13)...
  • axios 和 cookie 的那些事
  • Date型的使用
  • egg(89)--egg之redis的发布和订阅
  • Facebook AccountKit 接入的坑点
  • Java-详解HashMap
  • vagrant 添加本地 box 安装 laravel homestead
  • Vue.js-Day01
  • Vue实战(四)登录/注册页的实现
  • 动态魔术使用DBMS_SQL
  • 分享几个不错的工具
  • 前端面试题总结
  • 什么是Javascript函数节流?
  • 使用API自动生成工具优化前端工作流
  • 云栖大讲堂Java基础入门(三)- 阿里巴巴Java开发手册介绍
  • ​1:1公有云能力整体输出,腾讯云“七剑”下云端
  • ​iOS安全加固方法及实现
  • !!【OpenCV学习】计算两幅图像的重叠区域
  • #70结构体案例1(导师,学生,成绩)
  • (html转换)StringEscapeUtils类的转义与反转义方法
  • (板子)A* astar算法,AcWing第k短路+八数码 带注释
  • (读书笔记)Javascript高级程序设计---ECMAScript基础
  • (附源码)spring boot智能服药提醒app 毕业设计 102151
  • (介绍与使用)物联网NodeMCUESP8266(ESP-12F)连接新版onenet mqtt协议实现上传数据(温湿度)和下发指令(控制LED灯)
  • (利用IDEA+Maven)定制属于自己的jar包
  • (每日持续更新)jdk api之FileReader基础、应用、实战
  • (牛客腾讯思维编程题)编码编码分组打印下标(java 版本+ C版本)
  • (七)Appdesigner-初步入门及常用组件的使用方法说明
  • (三)centos7案例实战—vmware虚拟机硬盘挂载与卸载
  • (三维重建学习)已有位姿放入colmap和3D Gaussian Splatting训练
  • (十七)devops持续集成开发——使用jenkins流水线pipeline方式发布一个微服务项目
  • (四)TensorRT | 基于 GPU 端的 Python 推理
  • (转)负载均衡,回话保持,cookie
  • (最全解法)输入一个整数,输出该数二进制表示中1的个数。
  • .NET使用存储过程实现对数据库的增删改查
  • .vue文件怎么使用_我在项目中是这样配置Vue的
  • @Autowired @Resource @Qualifier的区别