通过⼯具sqoop导⼊hive数据时对换⾏等特殊字符处理
使⽤场景:
公司⼤数据平台ETL操作中,在使⽤sqoop将mysql中的数据抽取到hive中时,由于mysql库中默写字段中会有换⾏符,导致数据存⼊hive 后,条数增多(每个换⾏符会多出带有null值得⼀条数据),导致统计数据不准确。
解决办法:
利⽤⼀下两个参数可以实现对换⾏等特殊字符的替换或者删除
--hive-delims-replacement
--hive-drop-import-delims
参考官⽅⽂档
大数据etl工具有哪些使⽤⽅法,
1、在原有sqoop语句中添加 --hive-delims-replacement “ ” 可以将如mysql中取到的\n, \r, and \01等特殊字符替换为⾃定义的字符,此处⽤了空格
2、在原有sqoop语句中添加 --hive-drop-import-delims 可以将如mysql中取到的\n, \r, and \01等特殊字符丢弃