本文分享了使用树莓派作为Kudu数据库数据中转服务的经验，指出避免使用DataFrame.to_sql()方法，推荐使用SQLAlchemy直接执行SQL语句。通过测试发现，频繁连接可能导致数据写入失败，解决方案是先将数据写入MySQL，再同步到Kudu。同时，文章详细记录了thrift-sasl版本对数据写入的影响，强调必须使用0.2.1版本。
这两天成功实现了使用树莓派作为kudu数据库的数据中转服务
一条经验之谈：不要在树莓派上使用DataFrame.to_sql()！！直接用SQLAlchemy创建engine再connect再execute sql语句就一切正常！
2020-05-07更新
经测试，由于经常性出现数据写入失败，而没有任何报错，故推断kudu数据库不适合频繁连接的场景。故将架构改为：先将数据写入MySQL后再定时同步MySQL数据到kudu库中。
2020-05-11更新
经测试，经常性出现数据写入失败是由于thrift-sasl安装版本错误，必须为thrift-sasl 0.2.1
为了使用impyla，需要安装关联包：
>>> sudo apt install libsasl2-dev libsasl2-2 libsasl2-modules-gssapi-mit python3-sqlalchemy
>>> pip3 install cython impyla thrift thrift-sasl==0.2.1 thriftpy sasl
其中thrift-sasl必须为0.2.1！！！！
最新的0.4.2不行！！！！
参考：
https://github.com/cloudera/impyla/issues/268#issuecomment-625729079
扫一扫
1194
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
