datax3.0专题

记Datax3.0解决MySQL抽数到HDFSNULL变为空字符的问题

一、背景 使用Datax3.0 地址: https://github.com/alibaba/DataX 在HDFS读的时候开放了如下nullFormat选项:   nullFormat 描述:文本文件中无法使用标准字符串定义null(空指针),DataX提供nullFormat定义哪些字符串可以表示为null。 例如如果用户配置: nullFormat:"\N",那么如果源头数据是"\N

DataX3.0的安装及小试

DataX安装及小试 一. DataX 3.0 概览 DataX 是一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能。 设计理念 为了解决异构数据源同步问题,DataX将复杂的网状的同步链路变成了星型数据链路,DataX作为中间传输载体负责连接各种