datax-service

所属分类:博客
开发工具:Java
文件大小:1083KB
下载次数:0
上传日期:2022-12-14 20:40:08
上 传 者sh-1993
说明:  针对datax进行2次开发,实现data 以rpc的方式传递json配置调用推数服务,同时修复datax多处bug。项目中也引入nacos作为服务的配置中心和注册中心; 同时项目内扩展了kafkawriter,rabbitmqwrit...
(Carry out secondary development for datax, realize that data transfers json configuration and calls push service in rpc mode, and fix multiple bugs in datax at the same time. The project also introduces nacos as the configuration center and registry of services; At the same time, kafkawriter, rabitmqwrite)

文件列表:
123 (4, 2019-10-17)
common (0, 2019-10-17)
common\pom.xml (2399, 2019-10-17)
common\src (0, 2019-10-17)
common\src\main (0, 2019-10-17)
common\src\main\java (0, 2019-10-17)
common\src\main\java\com (0, 2019-10-17)
common\src\main\java\com\alibaba (0, 2019-10-17)
common\src\main\java\com\alibaba\datax (0, 2019-10-17)
common\src\main\java\com\alibaba\datax\common (0, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\base (0, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\base\BaseObject.java (638, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\constant (0, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\constant\CommonConstant.java (717, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\constant\PluginType.java (562, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\element (0, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\element\BoolColumn.java (2203, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\element\BytesColumn.java (1994, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\element\Column.java (1307, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\element\ColumnCast.java (5770, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\element\DataXJob.java (2528, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\element\DataXReport.java (7101, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\element\DateColumn.java (3174, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\element\DecimalColumn.java (2635, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\element\DoubleColumn.java (3853, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\element\LongColumn.java (3011, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\element\OverFlowUtil.java (1864, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\element\Record.java (361, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\element\StringColumn.java (3742, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\enums (0, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\enums\ValueTypes.java (1624, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\exception (0, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\exception\CommonErrorCode.java (1448, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\exception\DataXException.java (1942, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\exception\ExceptionTracker.java (414, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\job (0, 2019-10-17)
common\src\main\java\com\alibaba\datax\common\job\DataXJobManager.java (1781, 2019-10-17)
... ...

# datax-service 针对datax进行2次开发,实现data 以rpc的方式传递json配置调用推数服务,同时修复datax多处bug。项目中也引入nacos作为服务的配置中心和注册中心; 同时项目内扩展了kafkawriter,rabbitmqwriter,esreader,hivereader。增强了hdfs插件,支持分区表推送,支持动态参数传递(例如时间实现自增式抽取)。具体使用方式可以参照example模块。目前该服务已经稳定服务某上市公司半年,累计总任务数100+ ,日推送数据过10亿。具体如何使用,如何做插件开发以及datax底层原理,请关注https://blog.csdn.net/xiaoyao1999hn ##打包方式 $ mvn -U clean package assembly:assembly -Dmaven.test.skip=true #如何启动服务 运行datax-servicer模块下的App即可 # 如果有用到nacos则需要加入配置datax-service.yml具体如下 logging: level: root: debug org.springframework.cloud.gateway.filter.LoadBalancerClientFilter: TRACE log4j.logger.org.springframework.jdbc.core.JdbcTemplate: debug com.alibaba.nacos.client.naming: error spring: cloud: loadbalancer: retry: enabled: true datasource: type: com.alibaba.druid.pool.DruidDataSource driverClassName: org.apache.derby.jdbc.EmbeddedDriver url: jdbc:derby:${classpath:resource}/datax_metas_db;create=true username: root password: 123456 ribbon: # 同一实例最大重试次数,不包括首次调用 MaxAutoRetries: 1 # 重试其他实例的最大重试次数,不包括首次所选的server MaxAutoRetriesNextServer: 2 # 是否所有操作都进行重试 OkToRetryOnAllOperations: false datax: home: D:/JavaProject/glbg-datax-service/target/datax/datax maxJobCount: 3

近期下载者

相关文件


收藏者