CentOS7 部署DataX及DataX-web
创始人
2025-06-01 12:57:36
0

一、基础环境安装

  • JDK
  • MySQL
  • Python2(本文使用默认2.x)

JDK安装:CentOS安装JDK

Python安装:CentOS安装Python

MySQL安装:CentOS安装MySQL

注:MySQL必须允许dataX-web所在的服务器访问,否则会连不上mysql一直报错。

二、安装DataX

1、下载并解压datax

wget http://datax-opensource.oss-cn-hangzhou.aliyuncs.com/datax.tar.gz
tar -zxvf datax.tar.gz
  1. 调试
#进入相应目录
cd /opt/datax/bin
python datax.py../job/job.json

在这里插入图片描述

# 这里有reader和writer会显示报错,需要执行删除相应的文件即可(文件没看见,但还是执行一下)
在这里插入图片描述
执行 # rm -rf/opt/datax/plugin/reader/._*
在这里插入图片描述

执行 # python datax.py…/job/job.json
在这里插入图片描述
报错后再删除writer的相应目录

# rm -rf/opt/datax/plugin/writer/._*

最后再执行datax验证任务就能成功

# python datax.py…/job/job.json

出现以下信息说明datax安装成功
在这里插入图片描述

三、datax-web安装配置

1、下载免编译包(在git地址上)
在这里插入图片描述

  1. 解压安装
# 解压
tar -zxvf datax-web-2.1.2.tar.gz
# 安装
cd datax-web-2.1.2/bin
sh install.sh
#一直Y确认,即可安装完成
  1. 创建数据库执行脚本
datax-web-2.1.2/bin/db/datax_web.sql
  1. 修改admin配置
vim datax-web-2.1.2/modules/datax-admin/conf/bootstrap.propertiesDB_HOST=mysql
DB_PORT=3306
DB_USERNAME=datax
DB_PASSWORD=datax
DB_DATABASE=datax_web
  1. 配置executor
#配置datax.py运行脚本位置
vim /datax-web-2.1.2/modules/datax-executor/bin/datax-executor.sh
  1. 启动
cd /datax-web-2.1.2/bin
./start-all.sh
  1. 访问web页面

http://host:9527/index.html 账密(admin/123456)

DataX配置Mysql8访问

datax源码内引入的MySQL驱动是5的版本,因此只支持连接mysql5版本,如果我们想要连接mysql8需要自己下载源码更改驱动并重新编译打包

  1. 下载源码

  2. idea打开项目,进入mysqlreadermysqlwriter模块修改pom.xml内的mysql驱动版本

8.0.30
mysqlmysql-connector-java${mysql.driver.version}

  1. 进入plugin-rdbms-util模块找到DataBaseType类,修改
1.全文替换 convertToNull 为 CONVERT_TO_NULL
2.全文替换mysql驱动类com.mysql.jdbc.Driver 为 com.mysql.cj.jdbc.Driver
  1. 进行maven打包
mvn -U clean package assembly:assembly -Dmaven.test.skip=true

注:如果maven打包失败,提示test失败,可以吧对应的test包删除重新打包即可

  1. 将对应的jar包上传到mysqlReader和mysqlWriter模块
#mysqlreader
cd datax/plugin/reader/mysqlreader/libs/
#删除mysql5的驱动jar,去自己maven仓库吧mysql8的驱动上传
#上传并覆盖原有文件 mysqlreader-0.0.1-SNAPSHOT.jar 和 plugin-rdbms-util-0.0.1-SNAPSHOT.jar #mysqlwirter
cd datax/plugin/writer/mysqlwriter/libs/
#删除mysql5的驱动jar,去自己maven仓库吧mysql8的驱动上传
#上传并覆盖原有文件 mysqlreader-0.0.1-SNAPSHOT.jar 和 plugin-rdbms-util-0.0.1-SNAPSHOT.jar 

相关内容

热门资讯

最想对爸爸说的话 最想对爸爸说的话合集  1、记得爸爸生气的时候也是很吓人的,他最讨厌我们不好好学习了,也最不愿意看到...
美文摘抄的经典 关于美文摘抄的经典  1、“啊,你!”小甲虫尖锐的叫声在我耳边响起,我拖着湿漉漉的双翼,睁开疲惫的眼...
逆向思维的5个简单运用美文摘... 逆向思维的5个简单运用美文摘抄  逆向思维,是指从事物的反面去思考问题的思维方法。这种方法常常使问题...
借钱容易还钱难美文摘抄 借钱容易还钱难美文摘抄  我时常被人“惦记”,主要是来借钱的。  首先就是我哥和我弟这俩冤家。比如我...
情感美文 情感美文精选范文  情感美文看一看触动你感性的神经,以下的情感美文精选范文,请继续往下阅读:  情感...
医学生发朋友圈的暖心文案 医学生发朋友圈的暖心文案(精选60句)  随着社交网络的兴起,越来越多人会在朋友圈发布文案,文案用于...
《肖申克的救赎》经典台词摘抄 《肖申克的救赎》经典台词摘抄  Red: Let me tell you something my ...
雪中送炭的成语故事   相信大家都听过雪中送炭这个成语,那么你知道雪中送炭的意思吗?雪中送炭的反义词近义词有哪些?雪中送...
美文阅读挥之不去的回忆 美文阅读挥之不去的回忆  因为读书,把家乡越读越远,因为岁月,把往事渐渐淡忘,沉淀下来的便是挥之不去...
形容上班无聊的说说 形容上班无聊的说说  上班感到无聊的时候,可以发一些说说表达自己的心情,以下是小编搜索整理一篇形容上...
母亲节对母亲说的话语 母亲节对母亲说的话语(精选126句)  在学习、工作乃至生活中,越来越多人会在社交平台上发布话语,话...
母亲节对妈妈说的话 母亲节对妈妈说的话  节日是民族文化的结晶和载体。文化记忆很大一部分是节日的记忆。多年后,许多往事都...
高中短篇小说精选   下面是yjbys小编为大家分享的高中短篇小说精选,供大家参考借鉴,欢迎浏览!  高中短篇小说精选...
蜗角美文欣赏 蜗角美文欣赏  我爸常说:“能跟你段叔叔学篆刻,算你上辈子的造化!”  我十岁开始学书法,启蒙老师是...
成功人士的人生格言摘抄 成功人士的人生格言摘抄  导语:如果你想在这个世界上获得成功,当你进入某个沙龙时,你必须让你的虚荣心...
荒草萋萋叶适墓散文 荒草萋萋叶适墓散文  在日常的学习、工作、生活中,说起散文,大家肯定都不陌生吧?散文的特点是通过对现...
二十七八岁的年纪美文 二十七八岁的年纪美文  哭嚷着要糖吃仿佛还是昨天的记忆,刹那间已经二十七八岁了。一个既尴尬又荣耀的年...
描写桂花的优美段落 描写桂花的优美段落精选5篇描写桂花的优美段落1  1 、在秋雨纷纷的日子里,门前的桂花树没一点动静。...
蒙田的名言阅读欣赏 蒙田的名言阅读欣赏  在生活、工作和学习中,大家都知道一些经典的名言吧,名言主要用来激励和告诉当事人...
中秋经典美文 中秋经典美文中秋经典美文1  也许是我出生在秋高气爽,丹桂飘香的时节,格外觉得桂花的馨香沁人心脾……...