中科院项目
谢郎Kobe
随便记录一下,只是不想忘记。
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
sqlldr 如何提升性能速度
其实就是三点,分别是errors,rows,bindsize。当然,最重要的是rows和bindsize。这里我们首先对于这几个参数进行一些讲解:1、errors参数用来设定最多允许多少数据入库出错,一旦错误数据超过参数值,sqlldr就会退出。2、rows表示一次加载的行数,默认值为64。3、bindsize表示每次提交记录缓冲区的大小,默认256k这几项按照默认,我这里解析100万行的数据,时间是23分钟2秒多,性能有点太差了。# 原本的执行脚本chmod -R 777 [原创 2021-12-15 14:29:27 · 2590 阅读 · 0 评论 -
解决ORA-00054错误
遇到ORA-00054错误,资源正忙, 但指定以 NOWAIT 方式获取资源, 或者超时失效。执行如下语句,简单分析,应该是资源被占用,没有及时释放导致的。通过下面的SQL去查出到底是哪个用户或者哪个id占用了相关资源等。select O.OBJECT_NAME, S.SID, S.SERIAL#, P.SPID, S.PROGRAM, S.LOGON_TIME, S.OSUSERfrom V$LOCKED_OBJECT l, ALL_.原创 2021-11-30 15:29:52 · 2122 阅读 · 0 评论 -
python 连接Oracle并新建表
首先,在配置文件config.ini处,列出oracle的相关连接信息:[database]host=x.x.x.xport=1522 # 端口号db_name=orcl # 数据库名user=ictuserpassword=qazwsx下面我们连接这个oracle数据库的话,还需要导入connections:from django.db import connections看一下如何临界上述的数据库呢:# 连接oracle数据库 数据库名c原创 2021-11-29 10:50:42 · 1744 阅读 · 0 评论 -
xls文件解析及数据入库
包括内容: 1、读取文件数据(open方法)2、Python的迭代器使用 3、文件的写入4、判断表头是否合理 # xjy_create # 读取csv文件 line_length = 0 with open(filename, 'r')as read_csv: print("open filename as read_csv") # 读取5行数据 lines = read_csv.readlines(5)...原创 2021-11-25 21:06:56 · 679 阅读 · 0 评论 -
Python 控制文件入库
首先,创建文件(里边内容是空的):# 创建 file1(ctl文件) file1 = "/home/xjy/dataImport/logs/" + str(user_id) + times + ".ctl"# 创建filename (csv文件) filename = "/home/xjy/dataImport/data/input/" + str(user_id) + times + ".csv"一、load_excel.ctl相当于模板load data infile原创 2021-11-25 21:02:32 · 1003 阅读 · 0 评论 -
如何跨服务器转移mysql数据库表
我的需求是:将222中的mysql的一部分数据库给删除了,但是通过Django的migrate没法恢复,可能也是删除了有联系的表了。 现在我的需求是将 223中的一些表(与222中删除的一致) 首先,进入dataplaltform这个container,我们把mysql放在这个里边了:# 进入mysqlmysql -uroot -p进入mysql模式后,输入命令行(展示相关数据库):mysql> show databases; 这...原创 2021-11-17 20:21:14 · 1633 阅读 · 0 评论 -
后台获得ajax传来的data参数
首先,我们可以看到管理系统的一行代码,用ajax传一个data数据request .POST本质上看成一个字典,我们如何获取deptid这个值呢(这里就是一个key-value关系)departmentname = request.POST.get("deptid")传参与打印过程: 这里我用的是postwoman来进行传参的(postman也可以试一下),因为不太方便用管理系统代码来访问接口。打印结果:...原创 2021-10-28 16:51:43 · 2773 阅读 · 0 评论 -
Django数据库migrate
我只想对一个app下的数据结构进行更新,比如:我只是想对Hub4.0这个工程文件下的,cus_auth应用的model进行更新,简而言之,就是在相应的class下添加或修改你想要的属性。当你改完代码之后,下面就是更新数据库:# 第一步:指定app来makemigration(这里我的cus_auth下已经有了migrations这个文件夹)python manage.py makemigrations App名称# 第二步:迁移数据库(指定)python manage.py mig.原创 2021-10-27 10:36:56 · 495 阅读 · 0 评论 -
Django前端传参
总结一下最近解决的问题:也就是前端的传参问题,如果不好解决,我的建议就是转换成全局变量。这里我想要将task_json这个数据,post到后台的assign函数,这里assign函数的url是(如下):url(r'^assign', view.assign) 首先,你需要了解ajax和post,简单来说ajax一共含有的两个data,这里我们需要了解:第一个data是前端想要传到后端的数据,比如:data: $jsTagsform.serialize(), 第二...原创 2021-10-26 20:50:25 · 677 阅读 · 0 评论 -
详细讲解authorization_task_permission
前文写过,在导入过程中呢,调用了权限系统中的op_authorization_task_permission。我再来总结一下。他到底干了些什么事情:1、获得导入数据的useruser = request.user2、初始化Data_info表 //没有就生成,有就添加到Data_info表中data_info = Data_info.objects.get_or_create(task_id=params['task_id'], ...原创 2021-10-20 11:38:03 · 276 阅读 · 0 评论 -
Django:导入系统 与 权限系统交互(项目思路逻辑)
简单阐述一下,我的导入系统在3个位置与Hub(权限系统)进行了交互: 登录、导入、登出。First——op_login(登录) 在导入系统登录的时候,会调用到对应的url:# Create your views here.# 登录界面@csrf_exemptdef op_login(request): logobj = Logger(APP_LOG_PATH + 'cus_auth.log', logging.ERROR, logging.DEBUG) log...原创 2021-10-19 21:19:11 · 311 阅读 · 0 评论 -
Pycharm如何配置同台机器docker(ssh方法)
配置过程: 声明一下:所有的依赖环境都在docker这个容器下,想要用Pycharm使用到docker上依赖(因为自己懒得去pip了,当然项目中还有一种pip -r requirement.txt这种方式也可以试一下,不过我试过还是需要针对各别的package,也不简单)。总而言之,也就是让本机与docker产生一种连接。 Ps: 这里我搜了很多,都是远程来做的。哈哈!我这里docker和Pycharm都在一台服务器。首先,先进入docker里面,进入你所需要的dock...原创 2021-09-17 18:02:26 · 378 阅读 · 3 评论 -
如何拉docker到服务器上
解决问题:我需要一个hdfs的一个docker,因为这其中有一些现成的接口。(我自己也懒得去搞了)第一步:首先去docker hub这个网站(找你自己需要的docker)Docker Hub第二步:复制这一部分在服务器终端输入,下载完就可以用了。...原创 2021-09-20 20:25:34 · 188 阅读 · 1 评论 -
docker下的文件夹 复制到本地指定目录
首先需要,通过以下命令行,来查看你机器上的容器信息:docker ps 或者 docker ps -a 比如我想将我dataInform下的 一个项目文件进行备份在root模式下输入(不要进入docker啊!)docker cp -a a35a30bfa717:/home/liuyy/dataImport /home/xiejy如图,这样就copy过来了...原创 2021-09-25 14:08:43 · 9976 阅读 · 0 评论 -
Django如何从前端获取数据,post到后台,再入数据库呢
首先,从前端获取值。这里需要你自己去掌握怎么取,我只是总结一下我这个过程!下边我是想能同时上传多个文件,所以才嵌套的循环。然后,根据对应的url,找到相关的model(这里,需要了解好你的数据库属性)。比如,这里是我想入库的model:好了,看完这个,我们去前端所post到的assign(),这里我们需要掌握一下Django进阶Model篇—数据库操作(ORM) - 思维无界限 - 博客园# 筛选条件:name和task_tags,所以不能用get(),而是用filter()原创 2021-09-29 22:52:34 · 1682 阅读 · 0 评论 -
配置一个单节点的Hadoop
我是按照这个帖子来的:Centos7安装 Hadoop(单节点)_weixin_33866037的博客-优快云博客写的蛮详细的,不过这里我在配置过程中,也遇到了相应的问题就是:我的回报错,没有namenode和datanode,这个我也很疑问:如图,最终发现是在配置文件时候,<name></name>这种尖括号间不能存在空格,最终检查修改之后结果如下图所示:登录验证:...原创 2021-10-06 19:35:25 · 139 阅读 · 0 评论 -
django权限
权限改造:与用户主数据集成要求:需要从部门和型号两个维度约束用户权限(已有功能只支持个人用户权限,没有部门和型号的维度限制)。型号:个人:只能查看个人和他人共享的数据(1. 主数据不包含个人所属型号信息 2. 该功能已实现)。 型号领导:可查看所属型号的全部数据。部门:个人:只能查看个人和他人共享的数据(该功能已实现)。 部门领导:能查看所属部门的全部数据。设计思路:将部门/型号看成“个人”,以便于最小化改动和维护已有架构(部门、型号均有自己的编号,相当于个人的user id)。原创 2021-10-19 19:28:58 · 389 阅读 · 0 评论
分享