impdp/expdp性能详细对比

imp/exp impdp/expdp性能详细对比(2008-09-02 16:20:16)转载标签: imp/expimpdp/expdp比较杂谈 分类: Oracle-DBA
EXP常规模式、EXP直接路径模式和EXPDP三种方式导出的性能对比
1.首先是EXP的常规路径导出:
exp zhejiang/zhejiang file=/data1/zj_regular.dmp buffer=20480000
常规EXP导出方式执行了1小时24分钟。
2.直接路径导出方式:
exp zhejiang/zhejiang file=/data1/zj_direct.dmp buffer=20480000
recordlength=65535 direct=y
直接路径导入用时18分钟,比常规路径导出速度有一个明显的提高。



3.数据泵的导出速度。
expdp zhejiang/zhejiang dumpfile=zj_datapump.dp directory=d_test schemas=zhejiang
数据泵的导出时间仅用了14分钟,比直接路径导入方式还快了20%多。而且观察三个导出文件的大小可以发现,导出速度越快对应的文件也越小,其中数据泵的导出方式得到的文件要比EXP方式小将近1.5G。


IMP和IMPDP导入性能对比
1.IMP的导入速度:
imp zhejiang/zhejiang file=/data1/zj_regular.dmp full=y buffer=20480000 log=/data1/zj_regular.log
IMP导入花费了3小时17分钟,

2.IMPdp的导入速度:
impdp zhejiang/zhejiang DUMPFILE=zj_datapump.dp DIRECTORY=d_test FULL=y LOGFILE=zj_datapump.log
数据泵的导入(parallel参数)操作居然花了3个小时8分钟的时间,和IMP的导入速度十分接近,看来并非所有情况下都像Oracle描述的那样,数据泵的导入比普通导入效率有大幅度的提高。



上面一篇文章的测试中发现IMPDP的导入速度和IMP导入速度相差无几。而Oracle在介绍数据泵的时候,提到IMPDP的导入速度最高是IMP的10倍。不过好在IMPDP还是可以优化调整的,那就是通过设置PARALLEL来提高IMPDP的并行度。
首先还是看一下CPU的数量:

SQL> show parameter cpu


由于数据库服务器的CPU个数为2,下面尝试设置PARALLEL为2来进行导入
impdp zhejiang/zhejiang DUMPFILE=zj_datapump.dp DIRECTORY=d_test FULL=y LOGFILE=zj_datapump.log parallel=2

采用并行度为2的导入方式,发现速度果然提高了很多。并行度为1的导入速度是3小时8分钟,而现在用了不到2个半小时。
由于并行度设置不应该超过CPU数的2倍,因此尝试平行度3和4的导入,导入时间和并行度2十分接近。看来已经无法再使用通过提高并行度的方法来提高性能了。


1.先看直接导出的性能:

$ expdp zhejiang/zhejiang directory=d_test dumpfile=zhejiang.dp
整个导出操作大概用了14分半,

2.尝试使用并行度2进行导出,这时仍然设置一个导出的数据文件:
$ expdp zhejiang/zhejiang directory=d_test dumpfile=zhejiang_p2_1file.dp parallel=2

整个导入过程不到14分钟,不过这个性能的提升实在不是很明显。不过这是有原因的,由于设置了并行度,两个进程在同时执行导出操作,但是二者要将导出的数据写入同一个数据文件中,因此必然会导致资源的争用

3.仍然使用并行度2,但是同时设置两个数据文件再次检查导出性能:
$ expdp zhejiang/zhejiang directory=d_test dumpfile=zhejiang_p2_2file1.dp,zhejiang_p2_2file2.dp parallel=2

这次导出仅仅用了10分半,导出的效率大大的提高。

4.测试一下并行度4,分别导出到4个数据文件中:
用了9分钟整导出完成,设置成并行度4仍然可以获得一定的性能提升,但是并不明显了,这主要是由于整个性能的瓶颈已经不是单个进程的处理能力,多半性能的瓶颈已经变成了磁盘IO瓶颈,此时单单靠增加并行度已经无法明显提升性能了。
infercnv的实操 摘要: 博主在infercnv分析中遇到执行困难,外包服务不可靠(未按要求使用HMM方法)。通过优化策略(逐样本处理、精简细胞至1000个、固定随机种子)解决了运行问题,但HMM功能仍无法实现。最终参考Cell期刊标准设置阈值完成分析,后续将继续更新进展。该案例凸显了生物信息分析中自主优化的重要性。(150字) 阅读详情

相关推荐

EduCoder 计算机网络实验 IP协议分析

第1关:跟踪抓包 任务描述 相关知识 IPV4数据包 截获数据报 分析截获结果 使用git将本地文件推送到远程仓库永久保存 操作要求 任务描述 本关任务:使用 Ping 命令发送数据报,用 Wireshark 截获数据报,分析 IP 数据报的格式,理解 IPV4 地址的编址方法,加深对 IP 协议的理解。 相关知识 为了完成本关任务,你需要掌握: 截获数据报; 简单分析数据包格式。 IPV4数据包 网际协议第 4 版(Internet Protocol version 4

qq_41975868的博客 1万+

imp/exp impdp/expdp性能详细对比

EXP常规模式、EXP直接路径模式和EXPDP三种方式导出的性能对比1.首先是EXP的常规路径导出:exp zhejiang/zhejiang file=/data1/zj_regular.dmp buffer=20480000常规EXP导出方式执行了1小时24分钟。 2.直接路径导出方式:exp zhejiang/zhejiang file=/data1/zj_direct.dmp buffe...

368

告别有线:用PVE直通无线网卡,打造一台真正的‘无线’Win10软路由/测试机

本文详细介绍了如何通过PVE直通无线网卡技术,构建全无线Win10软路由或测试机。从硬件选型、PVE环境配置到PCIe和USB双模直通技术,逐步指导实现Wi-Fi AP和蓝牙连接功能,为家庭实验室和小型办公环境提供灵活高效的网络解决方案。

weixin_28683689的博客 586

优化exp/imp导入导出速度大全__www.2cto.com/database/201308/238175.html

首页 > 数据库 > Oracle > 正文 优化exp/imp导入导出速度大全 2013-08-22     0 个评论      作者:DBA-Tony收藏  我要投稿 优化exp/imp导入导出速度大全   1、exp      我们知道采用direct path可以提高导出速度。所以,在使用exp时,就可以采用直接路径模式。这

a363722188的专栏 980

矢量量化的基本原理:高效数据压缩与信息检索的关键矢量量化(Vector Quantization,简称VQ)是一种数据压缩和信

此外,在矢量量化过程中,可能会引入一定的信息损失,对一些精细特征的表示可能存在一定的误差。它通过将高维数据映射到低维码本空间中,并将相似的数据映射到相同的码本向量中,实现对数据的高效表示和存储。最重要的是,矢量量化可以用于数据的检索和分析,提供了高效的数据查询和处理手段。通过使用码本索引,我们可以高效地存储和检索大量的数据。在图像处理中,矢量量化可以用于图像压缩,将复杂的图像数据转化为较少的码字,实现图像的存储和传输。矢量量化通过将连续的高维数据分割并映射到有限的码本集合中,实现数据的离散表示和压缩。

m0_70886513的博客 1373

目前最新NIST随机数测试软件下载、安装、及使用教程

最近由于科研需要,在搞一些随机数的测试的事情,众所周知 随机数测试我们可以使用NIST的软件进行多大15项的随机测试,我也在网上查找了很多大牛的博客,但是都是年代久远,很多的链接现在都是物是人非,都是不能直接使用了,今天顺便抽点时间更新一下这个NIST软件的下载及使用。我们首先讲一下该软件的下载:1.我们直接取NIST的官网(https://csrc.nist.gov/)下载即可 ;链接如下:下载...

Miracle.Zhao的博客 3万+

oracle impdp性能,oracle 数据泵 EXPDP&IMPDP

导出/导入步骤:expdp system/pwd directory=s_dirname dumpfile=mes1_20150810.dmp logfile=mes1_20150810.log schemas=mes1 CONTENT=METADATA_ONLY1.在源资料库s中查看mes1与mes4中所有表和索引存放的表空间名称:SQL@S>SELECTDISTINCTTABLES...

weixin_29797343的博客 173

手把手教你搞定6脚三位一体数码管的驱动(附C语言源码与Visual Studio调试技巧)

本文详细解析了6脚三位一体数码管的驱动原理与实战技巧,包括引脚复用、动态扫描时序、Visual Studio模拟调试及单片机实现。通过C语言源码示例和调试技巧,帮助开发者快速掌握非标准数码管的驱动方法,提升硬件开发效率。

weixin_30613727的博客 591

执行impdp速度非常慢

场景描述: 1、执行impdp命令速度很慢(导完4G的dmp文件需要一个半小时),通过impdp.log发现导入一个数据量很小的表也需要很长时间 问题分析: 1、检查alert日志,提示“Thread 1 connot allocate new log,sequence xxx;Checkpoint not complete”(起初没有在意),无其它报错信息; 2、检查系统磁盘空间及内存、...

观风馆听雨厅 6054

MacBook Air老本重装系统

手里的这个本子型号是A1466,cpu i5,4G内存,硬盘ssd 120G。 重装系统可以在原系统上升级到更新版本,或者用U盘安装。 先确定,这个本子可以安装什么系统。 最权威的信息当然是apple的官网,地址:https://support.apple.com/zh-cn/HT211683 在“检查兼容性”中,可以依次检查每个系统兼容的硬件型号。Mojave是A1466能安装的最高版本。 确认兼容性后,下一步就是下载安装文件。还是这个页面稍下面一点可以找到。 这里告诉用户文件可以在什

bigwood99的博客 2万+

Python爬虫实战:绕过Cloudflare反爬的最新技术与完整代码详解

在互联网数据采集领域,越来越多的网站开始部署CDN和安全防护服务,其中 Cloudflare 是最为广泛使用的防护方案之一。它不仅为网站提供DDoS防护,还能通过JS挑战、验证码和行为分析来识别并拦截爬虫。这给爬虫工程师带来了极大挑战——如何在不违反网站服务条款的情况下,实现有效的数据采集?本文将分享Python领域绕过Cloudflare反爬的最新技术方法,结合最新流行库与自动化浏览器,帮助你攻克这一难题。绕过Cloudflare反爬不是一蹴而就,需结合多技术、多策略,持续迭代。

2201_76125261的博客 2628

oracle数据泵索引创建慢,IMPDP 很慢的原因探究

最近帮一个客户做数据迁移测试,数据库版本的10.2.0.4.0,操作系统是AIX到Linux,采用EXPDP/IMPDP方式进行全库导出和导入。客户的数据库有3.6T,导出时间花了30小时,但是导入却花了120小时,这个很不正常。因为目标数据库的I/O效率比源数据库的I/O效率要高,导入过程中发现导入表数据的时候很快,而后来创建索引的时间特别长,占了80%的时间。通过AWR报告分析,竟然发现在导入...

weixin_36308872的博客 2352

世界模型(World Models)进展全景调研(截至 2025-08)

A5) 2019-07(待核验) | C-SWM:Contrastive Structured World Models(Kipf et al.)A6) 2019-07(待核验) | SLAC:Stochastic Latent Actor-Critic(Lee et al.)A3) 2015-12(背景注记,待核验) | Embed to Control(E2C,Watter et al.)Nature 2020)Repro/Code:werner-duvaud/muzero-general(社区)

u013250861的博客 488

imp/exp impdp/expdp性能详细对比

EXP常规模式、EXP直接路径模式和EXPDP三种方式导出的性能对比<br />1.首先是EXP的常规路径导出:<br />exp zhejiang/zhejiang file=/data1/zj_regular.dmp buffer=20480000<br />常规EXP导出方式执行了1小时24分钟。<br />2.直接路径导出方式:<br />exp zhejiang/zhejiang file=/data1/zj_direct.dmp buffer=20480000<br />recordlength

大山 730

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

exp/expdp imp/impdp性能詳細對比

EXP常规模式、EXP直接路径模式和EXPDP三种方式导出的性能对比 1.首先是EXP的常规路径导出: exp zhejiang/zhejiang file=/data1/zj_regular.dmp buffer=20480000 常规EXP导出方式执行了1小时24分钟。 2.直接路径导出方式: exp zhejiang/zhejiang file=/data1/zj_direct.dmp buffer=20480000 recordlength=65535 direct=y 直接路径导

小庄往左走 1311

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

Oracle数据迁移实战:从exp/imp到expdp/impdp的平滑过渡指南(附性能对比)

本文详细介绍了Oracle数据迁移从传统exp/imp工具到高效expdp/impdp数据泵技术的平滑过渡指南。通过性能对比、核心技术解析和实战迁移路线图,帮助DBA掌握数据泵的并行处理、智能任务分片等先进特性,实现6倍以上的效率提升,特别适用于TB级大数据量迁移场景。

kmeans3miner的博客 174

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

EXP EXPDP数据导入本地性能测试

EXP,EXPDP导数据 性能测试

lbyyy的专栏 833

数据库导入导出exp和expdp以及imp和impdp的区别

在使用命令行进行数据库导入导出时,经常会看到使用exp和expdp一级imp和impdp的,但是这些具体有什么区别呢?expdp和impdp是oracle 10g版本出的一个新功能,使用数据泵导入导出数据,据官方推荐说使用数据泵导入导出会比普通的导入导出快十倍。可以说是非常强大了,下面来详细说下数据泵到底还有哪些神奇的功能:1、...

fighting_tobe_better的博客 6180

EXP,EXPDP数据导入本地性能测试

大家都知道,Oracle数据库有两种比较方便的导出导入工具,那就是exp/imp和expdp/impdp。熟悉此工具的人也会了解到,exp/imp的使用 (服务器端和客户端都可以执行,并且备份文件可以在客户端产生);e...

cjl421391196的博客 153

exp/imp 与 expdp/impdp 对比及使用中的一些优化事项

一. exp/imp 与 expdp/impdp 对比 1.1 expdp/impdp调用Server端的API在执行操作,是数据库内部的job任务。可以远程使用,但是生成的dump 文件存在于服务器上的directory里。   1.2  exp/imp 与 expdp/impdp 的默认模式和原理不一样 1.2.1 exp/imp 不同模式原理   在metalink的这边文章中,

Aamir 的专栏 1677

EXPDP/IMPDP与EXP/IMP在不同用户和表空间之间迁移数据的实现方法

1. EXPDP/IMPDP方式 SQL&gt; create user zlm identified by zlm; User created. SQL&gt; grant connect,resource to zlm; Grant succeeded. SQL&gt; create tablespace ts_zlm datafile...

weixin_34179968的博客 344

exp_imp/expdp_impdp学习之1:简单对比基础导入导出

exp_imp/expdp_impdp学习之1:简单对比基础导入导出 一、获取帮助exp –help 或 exp help=y,效果一样。 [oracle@ocpserver ~]$ exp help=y Export: Release 10.2.0.1.0...

weixin_30892037的博客 224

oracle10g新工具expdp,impdp 

来源:http://lzfhope.blog.163.com/blog/static/63639922008394255736/ 一,expdp       1.1 命令行下expdp的解释       在命令行下输入expdp  help=y  就会出现如下的说明,如果了解exp,那么一些参数还是可以看懂的。        Export: Release 10.2.0.1.0 - Pro

书生的专栏 6060

exp/imp 与 expdp/impdp 对比 及使用中的一些优化事项 .

一. exp/imp 与 expdp/impdp 对比   1.1 expdp/impdp调用Server端的API在执行操作,是数据库内部的job任务。可以远程使用,但是生成的dump 文件存在于服务器上的directory里。   1.2  exp/imp 与 expdp/impdp 的默认模式和原理不一样   1.2.1 exp/imp 不同模式原理 在meta

u012298337的专栏 921

oracle导出命令full=n,Oracle常用导出导出命令及性能效率对比

说明Oracle导入导出命令主要有EXPDP和IMPDP、EXP和IMP,区别如下:EXP和IMP是客户端工具程序,它们既可以在客户端使用,也可以在服务端使用。EXPDP和IMPDP是服务端的工具程序,他们只能在ORACLE服务端使用,不能在客户端使用。IMP只适用于EXP导出的文件,不适用于EXPDP导出文件;IMPDP只适用于EXPDP导出的文件,而不适用于EXP导出文件。expdp或impd...

weixin_42388631的博客 720

Oracle Datapump 学习

近段时间要做一个使用datapump做数据迁移的项目,正好利用这个机会复习一下datapump。1. exp/imp 于 expdp/impdp 的对比1)性能对比-- exp/imp默认采用传统路...

169
上一篇: java自定义注解
goofy521
博客等级 码龄19年 2粉丝 20原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值