设计
任务的目标:将多条数据最终合并成一个数据,不用保证其数据间的关系。
数据的来源:小财神,磐石
今日完成
1.重新设计了磐石和clickhouse之间的传输流程。总的来说变化很大,几乎推翻了重新写。
2.看了一下mvcc,更加深刻了理解了它的想法。
3.重新看了一下explain的分析指令。不过说实话,这东西真不是死记硬背的,感觉应该用着用着才能熟悉。
今日问题
尝试使用clickhouse的jdbc表函数同步数据,但是遇到了第三个参数无法使用sql的问题。正在通过阅读源码来解决。
问题SQL
SELECT * FROM jdbc('mysql://localhost:3306/?user=root&password=root', 'select * from schema.table')
初步判定是因为引擎的问题,目前第一个参数只能传入jdbc开头的。而这个jdbc是默认的引擎。而实例中使用的是mysql://localhost:3306/?user=root&password=root。如果不添加jdbc会提示没有NamedDataSource。因此感觉是哪里配置出了问题
明日任务
1.统计公司所需的所有字段,将字段进行统一的命名。
2.研究如何使用jdbc来进行数据的同步
亲爱的自己,加油呀!不知为什么,总感觉时间过得好快,自己学东西太慢了,虽然知道心急吃不成热豆腐,可看到那些大牛,真的羡慕。