SQL语句优化:大批量循环插入数据的简化

最近在学习SQL查询语句优化,试着弄个大数据量的数据库用来测试SQL语句,写了下面的存储过程,用的是循环插入的方式,效率超差,将参数设为30000,跑了20分钟还没跑完。不知像下面的存储过程该怎样优化?还有大家如果知道哪个博客有SQL查询语句优化方面的文章,都麻烦推荐一下,谢谢!
createPROCEDURE[dbo].[P_InsertAdminInfo]
         @dataNumber INT-- 需要插入的数据量
     AS
-------------------------------
set nocount on
------------------------------
    DECLARE@count           INT;           -- 计数器
    DECLARE@adminLoginName NVARCHAR(50); -- 管理员登录名
    DECLARE@adminPassWord   NVARCHAR(50); -- 管理员密码
    DECLARE@adminLevel      INT;           -- 管理员级别
    
    SET@count=1;
    SET@adminPassWord='111111';
         WHILE(@count<=@dataNumber)
    BEGIN
        SET@adminLoginName='manager'+CAST(@countASVARCHAR);
        SET@adminLevel=CAST(CEILING(RAND()*2) ASINT);
        
        IFEXISTS(SELECT1FROM adminInfo WHERE adminLoginName=@adminLoginName)
        BEGIN
            SET@count=@count+1
            CONTINUE   
        END                           
        ELSE
        BEGIN
            INSERTINTO adminInfo
            (
                -- adminId -- this column value is auto-generated,
                adminLoginName,
                adminPassword,
                adminLevel
            )
            VALUES
            (
                                     @adminLoginName,
                                     @adminPassword,
                                     @adminLevel
                            )
               SET@count=@count+1
        END        
    END        
END
GO
SET ANSI_NULLS OFF
GO
SET QUOTED_IDENTIFIER OFF
GO
优化——
1.  关于checksum 
CREATETABLE adminInfo
            (
                -- adminId -- this column value is auto-generated,
                adminLoginName nvarchar(50),
                adminPassword nvarchar(50),
                adminLevel int
            )
GO
CREATEPROCEDURE[dbo].[P_InsertAdminInfo]
    @dataNumber INT-- 需要插入的数据量
AS
    INSERTINTO adminInfo
         SELECTTOP(@dataNumber)
             'manager'+RTRIM(ROW_NUMBER() OVER(ORDERBY o.object_id)),
             '1111111',
             ABS(CHECKSUM(NEWID())) %2+1
         FROM sys.all_objects AS o,sys.all_columns AS c
GO
EXEC[dbo].[P_InsertAdminInfo]500
SELECT*FROM adminInfo
GO
DROPTABLE adminInfo
DROPPROCEDURE[dbo].[P_InsertAdminInfo]
2. 考虑检查字段adminLoginName是否已存在后,重新优化
CREATETABLE adminInfo
            (
                -- adminId -- this column value is auto-generated,
                adminLoginName nvarchar(50),
                adminPassword nvarchar(50),
                adminLevel int
            )
GO
CREATEPROCEDURE[dbo].[P_InsertAdminInfo]
    @dataNumber INT-- 需要插入的数据量
AS
    INSERTINTO adminInfo
         SELECT*
         FROM (
             SELECTTOP(@dataNumber)
                 'manager'+RTRIM(ROW_NUMBER() OVER(ORDERBY o.object_id)) AS adminLoginName,
                 '1111111'AS adminPassword,
                 ABS(CHECKSUM(NEWID())) %2+1AS adminLevel
             FROM sys.all_objects AS o,sys.all_columns AS c
         ) AS T
         WHERENOTEXISTS(
             SELECT1
             FROM adminInfo
             WHERE adminLoginName = T.adminLoginName)
GO
EXEC[dbo].[P_InsertAdminInfo]500
SELECT*FROM adminInfo
GO
DROPTABLE adminInfo
DROPPROCEDURE[dbo].[P_InsertAdminInfo]
3. 进一步改进
CREATETABLE adminInfo
            (
                -- adminId -- this column value is auto-generated,
                adminLoginName nvarchar(50),
                adminPassword nvarchar(50),
                adminLevel int
            )
GO
CREATEPROCEDURE[dbo].[P_InsertAdminInfo]
    @dataNumber INT-- 需要插入的数据量
AS
    INSERTINTO adminInfo
         SELECT*
         FROM (
             SELECTTOP(@dataNumber)
                 'manager'+RTRIM(ISNULL((SELECTMAX(REPLACE(adminLoginName,'manager','')*1) FROM adminInfo)+ROW_NUMBER() OVER(ORDERBY o.object_id),ROW_NUMBER() OVER(ORDERBY o.object_id)))AS adminLoginName,
                 '1111111'AS adminPassword,
                 ABS(CHECKSUM(NEWID())) %2+1AS adminLevel
             FROM sys.all_objects AS o,sys.all_columns AS c
         ) AS T
         WHERENOTEXISTS(
             SELECT1
             FROM adminInfo
             WHERE adminLoginName = T.adminLoginName)
GO
EXEC[dbo].[P_InsertAdminInfo]500
SELECT*FROM adminInfo
GO
DROPTABLE adminInfo
DROPPROCEDURE[dbo].[P_InsertAdminInfo]
4. 简化
CREATETABLE adminInfo
            (
                -- adminId -- this column value is auto-generated,
                adminLoginName nvarchar(50),
                adminPassword nvarchar(50),
                adminLevel int
            )
GO
CREATEPROCEDURE[dbo].[P_InsertAdminInfo]
    @dataNumber INT-- 需要插入的数据量
AS
    INSERTINTO adminInfo
         SELECTTOP(@dataNumber)
             'manager'+RTRIM(ISNULL((SELECTMAX(REPLACE(adminLoginName,'manager','')*1) FROM adminInfo),0)+ROW_NUMBER() OVER(ORDERBY o.object_id)),
             '1111111',
             ABS(CHECKSUM(NEWID())) %2+1
         FROM sys.all_objects AS o,sys.all_columns AS c
GO
EXEC[dbo].[P_InsertAdminInfo]500
SELECT*FROM adminInfo
GO
DROPTABLE adminInfo
DROPPROCEDURE[dbo].[P_InsertAdminInfo]
  SQL Server数据库查询速度慢的原因有很多,常见的有以下几种: 
    1、没有索引或者没有用到索引(这是查询慢最常见的问题,是程序设计的缺陷)
    2、I/O吞吐量小,形成了瓶颈效应。
    3、没有创建计算列导致查询不优化。
    4、内存不足
    5、网络速度慢
    6、查询出的数据量过大(可以采用多次查询,其他的方法降低数据量)
    7、锁或者死锁(这也是查询慢最常见的问题,是程序设计的缺陷)
    8、sp_lock,sp_who,活动的用户查看,原因是读写竞争资源。
    9、返回了不必要的行和列
    10、查询语句不好,没有优化 
  ●可以通过以下方法来优化查询 : 
  1、把数据、日志、索引放到不同的I/O设备上,增加读取速度,以前可以将Tempdb应放在RAID0上,SQL2000不在支持。数据量(尺寸)越大,提高I/O越重要。 
  2、纵向、横向分割表,减少表的尺寸(sp_spaceuse) 
  3、升级硬件 
  4、根据查询条件,建立索引,优化索引、优化访问方式,限制结果集的数据量。注意填充因子要适当(最好是使用默认值0)。索引应该尽量小,使用字节数小的列建索引好(参照索引的创建),不要对有限的几个值的字段建单一索引如性别字段。 
  5、提高网速。 
  6、扩大服务器的内存,Windows 2000和SQL server 2000能支持4-8G的内存。 
   配置虚拟内存:虚拟内存大小应基于计算机上并发运行的服务进行配置。运行 Microsoft SQL Server? 2000时,可考虑将虚拟内存 大小设置为计算机中安装的物理内存的1.5倍。如果另外安装了全文检索功能,并打算运行Microsoft搜索服务以便执行全文索引和查询,可考虑:将虚 拟内存大小配置为至少是计算机中安装的物理内存的3倍。将SQL Server max server memory服务器配置选项配置为物理内存的1.5倍(虚拟内存大小设置的一半)。 
  7、增加服务器CPU个数;但是必须 明白并行处理串行处理更需要资源例如内存。使用并行还是串行程是MSSQL自动评估选择的。单个任务分解成多个任务,就可以在处理器上运行。例如耽搁查询 的排序、连接、扫描和GROUP BY字句同时执行,SQL SERVER根据系统的负载情况决定最优的并行等级,复杂的需要消耗大量的CPU的查询最适合并行处理。但是更新操作UPDATE,INSERT, DELETE还不能并行处理。 
  8、如果是使用like进行查询的话,简单的使用index是不行的,但是全文索引,耗空间。 like ''a%'' 使用索引 like ''%a'' 不使用索引用 like ''%a%'' 查询时,查询耗时和字段值总长度成正比,所以不能用CHAR类型,而是VARCHAR。对于字段的值很长的建全文索引。 
  9、DB Server 和APPLication Server 分离;OLTP和OLAP分离 
  10、分布式分区视图可用于实现数据库服务器联合体。 
  联合体是一组分开管理的服务器,但它们相互协作分担系统的处理负荷。这种通过分区数据形成数据库服务器联合体的机制能够扩大一组服务器,以支持大型的多层 Web 站点的处理需要。有关更多信息,参见设计联合数据库服务器。(参照SQL帮助文件''分区视图'') 
  a、在实现分区视图之前,必须先水平分区表 
   b、 在创建成员表后,在每个成员服务器上定义一个分布式分区视图,并且每个视图具有相同的名称。这样,引用分布式分区视图名的查询可以在任何一个成员 服务器上 运行。系统操作如同每个成员服务器上都有一个原始表的复本一样,但其实每个服务器上只有一个成员表和一个分布式分区视图。数据的位置对应用程序 是透明的。 
  11、重建索引 DBCC REINDEX ,DBCC INDEXDEFRAG,收缩数据和日志 DBCC SHRINKDB,DBCC SHRINKFILE. 设置自动收缩日志.对于大的数据库不要设置数据库自动增长,它会降低服务器的性能。 
  在T-sql的写法上有很大的讲究,下面列出常见的要点:首先,DBMS处理查询计划的过程是这样的: 
    1、 查询语句的词法、语法检查
    2、 将语句提交给DBMS的查询优化器
    3、 优化器做代数优化和存取路径的优化
    4、 由预编译模块生成查询规划
    5、 然后在合适的时间提交给系统处理执行
    6、 最后将执行结果返回给用户。 
  其次,看一下SQL SERVER的数据存放的结构:一个页面的大小为8K(8060)字节,8个页面为一个盘区,按照B树存放。 
我们要做到不但会写SQL,还要做到写出性能优良的SQL,以下为笔者学习、摘录、并汇总部
分资料与大家分享!
(1)选择最有效率的表名顺序(只在基于规则的优化器中有效):ORACLE 的解析器按照从右到左的顺序处理FROM 子句中的表名,FROM子句中写在最后的表(基础表driving table)将被最先处理,在FROM 子句中包含多个表的情况下,你必须选择记录条数最少的表作为基础表。如果有3个以上的表连接查询, 那就需要选择交叉表(intersection table)作为基础表, 交叉表是指那个被其他表所引用的表.
(2)WHERE子句中的连接顺序.:ORACLE 采用自下而上的顺序解析WHERE 子句,根据这个原理,表之间的连接必须写在其他WHERE 条件之前, 那些可以过滤掉最大数量记录的条件必须写在WHERE 子句的末尾.
(3)SELECT子句中避免使用' * ':ORACLE 在解析的过程中, 会将'*'依次转换成所有的列名, 这个工作是通过查询数据字典完成的, 这意味着将耗费更多的时间
(4)减少访问数据库的次数:ORACLE 在内部执行了许多工作: 解析SQL 语句, 估算索引的利用率, 绑定变量, 读数据块等;
(5)在SQL*Plus , SQL*Forms 和Pro*C 中重新设置ARRAYSIZE 参数, 可以增加每次数据库访问的检索数据量,建议值为200
(6)使用DECODE 函数来减少处理时间:使用DECODE 函数可以避免重复扫描相同记录或重复连接相同的表.
(7)整合简单,无关联的数据库访问:如果你有几个简单的数据库查询语句,你可以把它们整合到一个查询中(即使它们之间没有关系)
(8)删除重复记录:最高效的删除重复记录方法( 因为使用了ROWID)例子:
DELETEFROM EMP E WHERE E.ROWID > (SELECTMIN(X.ROWID)
FROM EMP X WHERE X.EMP_NO = E.EMP_NO);
(9)用TRUNCATE 替代DELETE:当删除表中的记录时,在通常情况下, 回滚段(rollback segments ) 用来存放可以被恢复的信息. 如果你没有COMMIT 事务,ORACLE 会将数据恢复到删除之前的状态(准确地说是恢复到执行删除命令之前的状况) 而当运用TRUNCATE 时, 回滚段不再存放任何可被恢复的信息.当命令运行后,数据不能被恢复.因此很少的资源被调用,执行时间也会很短. (译者按: TRUNCATE 只在删除全表适用,TRUNCATE是DDL 不是DML)
(10)尽量多使用COMMIT:只要有可能,在程序中尽量多使用COMMIT, 这样程序的性能得到提高,需求也会因为COMMIT所释放的资源而减少:COMMIT所释放的资源:
a. 回滚段上用于恢复数据的信息.
b. 被程序语句获得的锁
c. redo log buffer 中的空间
d. ORACLE 为管理上述3种资源中的内部花费
(11)用Where 子句替换HAVING 子句:
避免使用HAVING 子句, HAVING只会在检索出所有记录之后才对结果集进行过滤. 这个处理需要排序,总计等操作. 如果能通过WHERE 子句限制记录的数目,那就能减少这方面的开销. (非oracle 中)on、where、having这三个都可以加条件的子句中,on是最先执行,where 次之,having最后,因为on 是先把不符合条件的记录过滤后才进行统计,它就可以减少中间运算要处理的数据,按理说应该速度是最快的,where也应该比having 快点的,因为它过滤数据后才进行sum,在两个表联接时才用on 的,所以在一个表的时候,就剩下where跟having 比较了。在这单表查询统计的情况下,如果要过滤的条件没有涉及到要计算字段,那它们的结果是一样的,只是where 可以使用rushmore 技术,而having 就不能,在速度上后者要慢如果要涉及到计算的字段,就表示在没计算之前,这个字段的值是不确定的,根据上篇写的工作流程,where的作用时间是在计算之前就完成的,而having 就是在计算后才起作用的,所以在这种情况下,两者的结果会不同。在多表联接查询时,on比where 更早起作用。系统首先根据各个表之间的联接条件,把多个表合成一个临时表后,再由where进行过滤,然后再计算,计算完后再由having 进行过滤。由此可见,要想过滤条件起到正确的作用,首先要明白这个条件应该在什么时候起作用,然后再决定放在那里
(12)减少对表的查询:
在含有子查询的SQL 语句中,要特别注意减少对表的查询.例子:
SELECT TAB_NAME FROM TABLES WHERE (TAB_NAME,DB_VER) = ( SELECT
TAB_NAME,DB_VER FROM TAB_COLUMNS WHERE VERSION =604)
(13)通过内部函数提高SQL 效率.:
复杂的SQL 往往牺牲了执行效率. 能够掌握上面的运用函数解决问题的方法在实际工作中是非常有意义的
(14)使用表的别名(Alias):
当在SQL 语句中连接多个表时, 请使用表的别名并把别名前缀于每个Column 上.这样一来,就可以减少解析的时间并减少那些由Column 歧义引起的语法错误.
(15)用EXISTS 替代IN、用NOT EXISTS替代NOT IN:
在许多基于基础表的查询中,为了满足一个条件,往往需要对另一个表进行联接.在这种情况下, 使用EXISTS(或NOT EXISTS)通常将提高查询的效率. 在子查询中,NOTIN子句将执行一个内部的排序和合并. 无论在哪种情况下,NOTIN都是最低效的(因为它对子查询中的表执行了一个全表遍历). 为了避免使用NOT IN ,我们可以把它改写成外连接(OuterJoins)或NOT EXISTS.
例子:
(高效)SELECT*FROM EMP (基础表) WHERE EMPNO >0ANDEXISTS (SELECT'X'
FROM DEPT WHERE DEPT.DEPTNO = EMP.DEPTNO AND LOC ='MELB')
(低效)SELECT*FROM EMP (基础表) WHERE EMPNO >0AND DEPTNO IN(SELECT DEP
TNO FROM DEPT WHERE LOC ='MELB')
(16)识别'低效执行'的SQL 语句:
虽然目前各种关于SQL 优化的图形化工具层出不穷,但是写出自己的SQL 工具来解决问题始终是一个最好的方法:
SELECT EXECUTIONS , DISK_READS, BUFFER_GETS,
ROUND((BUFFER_GETS-DISK_READS)/BUFFER_GETS,2) Hit_radio,
ROUND(DISK_READS/EXECUTIONS,2) Reads_per_run,
SQL_TEXT
FROM V$SQLAREA
WHERE EXECUTIONS>0
AND BUFFER_GETS >0
AND (BUFFER_GETS-DISK_READS)/BUFFER_GETS <0.8
ORDERBY4DESC;
17)用索引提高效率:
索引是表的一个概念部分,用来提高检索数据的效率,ORACLE 使用了一个复杂的自平衡B-tree 结构. 通常,通过索引查询数据比全表扫描要快. 当ORACLE 找出执行查询和Update 语句的最佳路径时, ORACLE 优化器将使用索引. 同样在联结多个表时使用索引也可以提高效率.
另一个使用索引的好处是,它提供了主键(primarykey)的唯一性验证.。那些LONG 或LONGRAW数据类型, 你可以索引几乎所有的列. 通常, 在大型表中使用索引特别有效. 当然,你也会发现, 在扫描小表时,使用索引同样能提高效率. 虽然使用索引能得到查询效率的提高,但是我们也必须注意到它的代价. 索引需要空间来存储,也需要定期维护, 每当有记录在表中增减或索引列被修改时, 索引本身也会被修改. 这意味着每条记录的INSERT , DELETE , UPDATE将为此多付出4 , 5次的磁盘I/O . 因为索引需要额外的存储空间和处理,那些不必要的索引反而会使查询反应时间变慢.。定期的重构索引是有必要的.:ALTERINDEX<INDEXNAME> REBUILD <TABLESPACENAME>
18)用EXISTS 替换DISTINCT:当提交一个包含一对多表信息(比如部门表和雇员表)的查询时,避免在SELECT 子句中使用DISTINCT. 一般可以考虑用EXIST 替换, EXISTS使查询更为迅速,因为RDBMS 核心模块将在子查询的条件一旦满足后,立刻返回结果. 例子:(低效):
SELECTDISTINCT DEPT_NO,DEPT_NAME FROM DEPT D , EMP E
WHERE D.DEPT_NO = E.DEPT_NO
(高效):
SELECT DEPT_NO,DEPT_NAME FROM DEPT D WHEREEXISTS ( SELECT'X'
FROM EMP E WHERE E.DEPT_NO = D.DEPT_NO);
(19) sql 语句用大写的;因为oracle 总是先解析sql 语句,把小写的字母转换成大写的再执行
(20)在java 代码中尽量少用连接符“+”连接字符串!
(21)避免在索引列上使用NOT 通常,我们要避免在索引列上使用NOT, NOT会产生在和在索引列上使用函数相同的影响. 当ORACLE”遇到”NOT,他就会停止使用索引转而执行全表扫描.
(22)避免在索引列上使用计算.
WHERE子句中,如果索引列是函数的一部分.优化器将不使用索引而使用全表扫描.
举例:低效:
SELECT … FROM DEPT WHERE SAL *12>25000;
高效:
SELECT … FROM DEPT WHERE SAL >25000/12;
(23)用>=替代>高效:
SELECT*FROM EMP WHERE DEPTNO >=4
低效:
SELECT*FROM EMP WHERE DEPTNO >3
两者的区别在于, 前者DBMS 将直接跳到第一个DEPT 等于4的记录而后者将首先定位到DEPT
NO=3的记录并且向前扫描到第一个DEPT 大于3的记录.
(24)用UNION 替换OR (适用于索引列)
通常情况下, 用UNION 替换WHERE 子句中的OR 将会起到较好的效果. 对索引列使用OR 将造成全表扫描. 注意, 以上规则只针对多个索引列有效. 如果有column 没有被索引, 查询效率可能会因为你没有选择OR 而降低. 在下面的例子中, LOC_ID 和REGION 上都建有索引.
高效:
SELECT LOC_ID , LOC_DESC , REGION
FROM LOCATION
WHERE LOC_ID =10
UNION
SELECT LOC_ID , LOC_DESC , REGION
FROM LOCATION
WHERE REGION = “MELBOURNE”
低效:
SELECT LOC_ID , LOC_DESC , REGION
FROM LOCATION
WHERE LOC_ID =10OR REGION = “MELBOURNE”
如果你坚持要用OR, 那就需要返回记录最少的索引列写在最前面.
(25)用IN 来替换OR
这是一条简单易记的规则,但是实际的执行效果还须检验,在ORACLE8i 下,两者的执行路径似乎是相同的.
低效:
SELECT…. FROM LOCATION WHERE LOC_ID =10OR LOC_ID =20OR LOC_ID =30
高效SELECT… FROM LOCATION WHERE LOC_IN IN (10,20,30);
(26)避免在索引列上使用IS NULL和IS NOTNULL避免在索引中使用任何可以为空的列,ORACLE 将无法使用该索引.对于单列索引,如果列包含空值,索引中将不存在此记录. 对于复合索引,如果每个列都为空,索引中同样不存在此记录. 如果至少有一个列不为空,则记录存在于索引中.举例: 如果唯一性索引建立在表的A 列和B 列上, 并且表中存在一条记录的A,B 值为(123,null) , ORACLE 将不接受下一条具有相同A,B 值(123,null)的记录(插入). 然而如果所有的索引列都为空,ORACLE 将认为整个键值为空而空不等于空. 因此你可以插入1000 条具有相同键值的记录,当然它们都是空! 因为空值不存在于索引列中,所以WHERE 子句中对索引列进行空值比较将使ORACLE停用该索引.
低效: (索引失效)
SELECT … FROM DEPARTMENT WHERE DEPT_CODE ISNOTNULL;
高效: (索引有效)
SELECT … FROM DEPARTMENT WHERE DEPT_CODE >=0;
(27)总是使用索引的第一个列:如果索引是建立在多个列上, 只有在它的第一个列(leading column)被where 子句引用时,优化器才会选择使用该索引. 这也是一条简单而重要的规则,当仅引用索引的第二个列时,优化器使用了全表扫描而忽略了索引
28)用UNION-ALL替换UNION ( 如果有可能的话):当SQL 语句需要UNION 两个查询结果集合时,这两个结果集合会以UNION-ALL的方式被合并, 然后在输出最终结果前进行排序. 如果用UNION ALL替代UNION, 这样排序就不是必要了. 效率就会因此得到提高. 需要注意的是,UNIONALL将重复输出两个结果集合中相同记录. 因此各位还是要从业务需求分析使用UNION ALL的可行性. UNION将对结果集合排序,这个操作会使用到SORT_AREA_SIZE 这块内存. 对于这块内存的优化也是相当重要的. 下面的SQL 可以用来查询排序的消耗量
低效:
SELECT ACCT_NUM, BALANCE_AMT
FROM DEBIT_TRANSACTIONS
WHERE TRAN_DATE ='31-DEC-95'
UNION
SELECT ACCT_NUM, BALANCE_AMT
FROM DEBIT_TRANSACTIONS
WHERE TRAN_DATE ='31-DEC-95'
高效:
SELECT ACCT_NUM, BALANCE_AMT
FROM DEBIT_TRANSACTIONS
WHERE TRAN_DATE ='31-DEC-95'
UNIONALL
SELECT ACCT_NUM, BALANCE_AMT
FROM DEBIT_TRANSACTIONS
WHERE TRAN_DATE ='31-DEC-95'
(29)用WHERE 替代ORDER BY:
ORDERBY子句只在两种严格的条件下使用索引.
ORDERBY中所有的列必须包含在相同的索引中并保持在索引中的排列顺序.
ORDERBY中所有的列必须定义为非空.
WHERE子句使用的索引和ORDER BY子句中所使用的索引不能并列.
例如:
表DEPT 包含以下列:
DEPT_CODE PKNOTNULL
DEPT_DESC NOTNULL
DEPT_TYPE NULL
低效: (索引不被使用)
SELECT DEPT_CODE FROM DEPT ORDERBY DEPT_TYPE
高效: (使用索引)
SELECT DEPT_CODE FROM DEPT WHERE DEPT_TYPE >0
(30)避免改变索引列的类型.:当比较不同数据类型的数据时, ORACLE 自动对列进行简单的类型转换.假设EMPNO 是一个数值类型的索引列.
SELECT … FROM EMP WHERE EMPNO ='123'
实际上,经过ORACLE 类型转换, 语句转化为:
SELECT … FROM EMP WHERE EMPNO = TO_NUMBER('123')
幸运的是,类型转换没有发生在索引列上,索引的用途没有被改变.现在,假设EMP_TYPE 是一个字符类型的索引列.
SELECT … FROM EMP WHERE EMP_TYPE =123
这个语句被ORACLE 转换为:
SELECT … FROM EMP WHERETO_NUMBER(EMP_TYPE)=123
因为内部发生的类型转换, 这个索引将不会被用到! 为了避免ORACLE 对你的SQL 进行隐式的类型转换, 最好把类型转换用显式表现出来. 注意当字符和数值比较时, ORACLE 会优先转换数值类型到字符类型
(31)需要当心的WHERE 子句:某些SELECT 语句中的WHERE 子句不使用索引. 这里有一些例子.在下面的例子里,
(1)'!='将不使用索引. 记住, 索引只能告诉你什么存在于表中, 而不能告诉你什么不存在于表中.
(2) '||'是字符连接函数. 就象其他函数那样, 停用了索引.
(3) '+'是数学函数. 就象其他数学函数那样, 停用了索引. (4)相同的索引列不能互相
比较,这将会启用全表扫描.
(32) a. 如果检索数据量超过30%的表中记录数.使用索引将没有显著的效率提高.
b. 在特定情况下, 使用索引也许会比全表扫描慢, 但这是同一个数量级上的区别. 而通常
情况下,使用索引比全表扫描要块几倍乃至几千倍!
(33)避免使用耗费资源的操作:
带有DISTINCT,UNION,MINUS,INTERSECT,ORDERBY的SQL 语句会启动SQL 引擎执行耗费资源的排序(SORT)功能. DISTINCT需要一次排序操作, 而其他的至少需要执行两次排序. 通常, 带有UNION, MINUS , INTERSECT的SQL 语句都可以用其他方式重写. 如果你的数据库的SORT_AREA_SIZE 调配得好, 使用UNION , MINUS, INTERSECT也是可以考虑的, 毕竟它们的可读性很强
(34)优化GROUP BY:提高GROUP BY语句的效率, 可以通过将不需要的记录在GROUP BY之前过滤掉.下面两个查询返回相同结果但第二个明显就快了许多.
低效:
SELECT JOB , AVG(SAL)
FROM EMP
GROUPby JOB
HAVING JOB ='PRESIDENT'
OR JOB ='MANAGER'
高效:
SELECT JOB , AVG(SAL)
FROM EMP
WHERE JOB ='PRESIDENT'
OR JOB ='MANAGER'
GROUPby JOB
sqlserver的大批量数据的处理以及数据库的优化 立即下载

相关推荐

王爽《汇编语言》课程设计2(不涉及软盘版本)

assume cs:code,ds:data,ss:stack stack segment db 128 dup (0) stack ends data segment db 256 dup (0) data ends code segment start: mov ax,stack mov ss,ax mov sp,128 ...

weixin_41944412的博客 1178

【SQL】循环插入数据

SQL循环插入数据

人生苦短,我用python 6664

学习STM32的流体水位传感器

引言: 流体水位传感器是一种常用于测量液体水位的设备,广泛应用于水位监测、液位控制和流量计量等领域。STM32是一款功能强大的单片机,具有丰富的外设和灵活的编程能力,非常适合用于流体水位传感器的开发。本文将介绍如何使用STM32开发板与流体水位传感器进行连接和通信,并通过编写代码实现水位的测量和显示。五、总结: 通过以上的代码示例,我们可以实现使用STM32开发板与流体水位传感器进行连接和通信的功能。三、编写代码: 以下是使用STM32CubeIDE编写的示例代码,实现了读取流体水位传感器的功能。

xiaoalla的博客 740

SQL写入性能优化。

SQL写入性能优化。

孤芳不自赏 475

Windows下快速搭建Kettle开发环境:基于9.4.0.0版本的保姆级教程

本文提供Windows系统下Kettle 9.4.0.0开发环境的详细搭建指南,涵盖源码获取、Maven配置优化、高效编译及部署运行全流程。通过实战验证的步骤和常见问题解决方案,帮助数据工程师快速完成环境配置,提升ETL开发效率。

weixin_28829479的博客 331

【Unity3D优化】优化内置shader的内存占用

在打AB包的过程中,并不会把这些Built-in的shader单独打包,并与材质球和预设体做好依赖,因此打AB包时,Unity会自行在材质球和预制体的AB包内每一个都包含进去用到的Built-in的Shader,而且运行时,由于加载的是不同的AB包,shader也是不同的实例,占用的也是多份内存。结合项目特点可以分析,由于项目里使用了大量的粒子特效,一些特殊的效果,会给特效师写定制的shader,但是这些常见的效果,特效师直接使用了Unity Built-in的shader。继续优化内存占用。

a310989583的专栏 2313

【数据库】sqlit循环插入速度慢优化

系统: win10 IDE: QT(Qt Quick) 优化前 循环往表中插入10000条数据 /*插入*/ bool Sqlite::dbInsert(QSqlDatabase *_db) { QSqlQuery * _sql = new QSqlQuery(*_db); QTime t; t.start(); for(int i = 0; i < 10000; ++i) { _sql->prepare(QString("inser.

weixin_44697562的博客 615

碎碎念android eMMC【转】

本文转载自:https://blog.youkuaiyun.com/Fybon/article/details/44242549 一、/dev/blockroot@:/dev/block #lsbootdevicemmcblk0mmcblk0p1mmcblk0p10…….mmcblk0p18mmcblk0p19mmcblk0p2mmcblk0p20……mmcblk0p29mmcblk0p3mmcblk0p3...

zzb2760715357的博客 377

sql优化的N种方法_持续更新

当你访问网站的时候,有的时候会慢的想让你砸电脑,这个时候服务器要背锅了吗? 不,要背锅的不仅仅是服务器,数据库也有很大责任,不负责任的sql开发者更会让你崩溃的.为了提高sql响应速度,还是好好了解下sql的优化吧 sql优化的方式 1: explain关键字 :使用explain关键字来查看当前sql语句的执行情况,来对症下药.因为内容较多,放在最后进行讲解 2: 正确的建立索引:索引的建立对sql的影响是非常大的,如果对索引不太理解的可以看我另一篇文章: ............

wang5701071的博客 8万+

从零开始:EAS2+Elmo+Maxon电机调试全流程(含电流环优化技巧)

本文详细解析了从零开始搭建基于EAS2软件、Elmo驱动器和Maxon电机的运动控制系统的全流程。内容涵盖硬件连接规范、EAS2基础配置、核心的电流环模型辨识与手动优化技巧,以及速度环、位置环的搭建与调试策略,旨在帮助工程师构建稳定、高性能的伺服控制核心。

i0j1k2l3m的博客 502

Gmsh+OCC对应版本库编译

输入 GMSH_DLL_EXPORT值C:\LIB\OCCT-7_8_0-i;9、如果只是生成库文件编译gmesh工程即可生成文件在C:\LIB\Gmsh\gmsh-4.13.1-Windows64-B\Debug 下gmsh.dll、gmsh.lib、gmsh.h、gmshc.h文件;3、CMAK编译Gmsh对应OCC版本的,CMAK选择源文件路径C:\LIB\Gmsh\gmsh-4.13.1-source,生成构建文件路径C:\LIB\Gmsh\gmsh-4.13.1-Windows64-B。

u013401364的博客 412

mysql大批量插入数据四种方法

mysql大批量插入数据四种方法 方法一:循环插入 这个也是最普通的方式,如果数据量不是很大,可以使用,但是每次都要消耗连接数据库的资源。 大致思维如下 (我这里写伪代码,具体编写可以结合自己的业务逻辑或者框架语法编写) for($i=1;$i<=100;$i++){ $sql = 'insert...............'; //querysql } foreach($arr as...

自有永有的博客 5万+

10、硬件工程师笔试面试——继电器(2025版本)

在设计电路时,应综合考虑SSR的优势和局限性,确保选择合适的型号,并采取适当的设计措施来优化性能和可靠性。继电器的主要功能是利用较小的电流或电压来控制较大电流或电压的电路,实现信号的放大和隔离。在处理继电器故障时,应综合考虑电源、线圈、触点和负载等因素,及时进行故障诊断和处理,以确保电路系统的稳定性和安全性。由于汽车电子系统的复杂性,继电器的设计和选择必须考虑到系统的特定要求,包括电流容量、电压等级、环境条件(如温度、湿度、振动)以及所需的保护和隔离功能。确定线圈的工作电压或电流,以及吸合电压或电流。

XU157303764的博客 3733

mysql大批量插入数据的正确做法

目录1 批量插入和单条插入比较1.1 测试普通插入1.2 测试批处理配合拼接SQL语句插入2 原理探究 1 批量插入和单条插入比较 如何快速的向数据库中插入已知的1000万条数据 ​ 假设这1000W条数据在同一个集合里,那么将这个集合进行遍历,循环1000W次,结合数据库编程技术,如JDBC,就可以插入数据库,这么简单的操作,显然不是正确答案… List<User> list = findAllUser(); Statement stat = conn.createStatement(

赵广陆 2万+

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

sql插入语句循环插入_MySQL实战中,Insert语句的使用心得总结

一、Insert的几种语法1-1.普通插入语句INSERT INTO table (`a`, `b`, `c`, ……) VALUES ('a', 'b', 'c', ……)1-2.插入或更新如果我们希望插入一条新记录(INSERT),但如果记录已经存在,就更新该记录,此时,可以使用"INSERT INTO … ON DUPLICATE KEY UPDATE …"语句:情景示例:这张表存...

weixin_39965514的博客 2802

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

MySQL优化:批量插入大数据4种实用、讲究方案的测试

记录MySQL插入大数据一些方案的测试心得,即for循环插入、拼接SQL语句、批量插入saveBatch()、循环插入 + 开启批处理模式,该4种情况的测试内容,最终以平均耗时来预测各方案的性能问题,可得知开启批处理模式的方案效率是最高的,但是必须注意一个点:一定要开启批处理模式,在URL地址加入rewriteBatchedStatements = true 参数,否则即使是在批量插入情况下,也是无法发挥该方法优点。

彼岸尚有荣光在,应不断记录总结!!! 1万+

MySQL大批量数据插入方案探讨

可以看到,这种方式的效率比mp的批插入还要高,具体原因我认为是mp的批插入是每1000条做一次提交,但是它这1000条都是一条条插入的,而这种方法是将1000条合并为1条SQL插入的,所以效率会更高一些。) values(…通过查看源码,可以发现mp的批量插入对要插入的数据进行了分批操作,每1000条作为一批次,然后循环将数据插入,所以效率也是很高的。可以看到,将所有数据的插入拼接成一条SQL后,效率极大的提高了,毕竟只有一条SQL,不需要花什么时间去建立连接之类的。

weixin_50117915的博客 1650

避免在循环语句中执行sql插入操作

在循环中插入数据到数据库效率低下的主要原因是每次插入操作都会生成一个单独的SQL语句,导致大量的网络往返和解析开销。通过使用批处理、预编译语句和可能的异步操作,可以显著减少这些开销,从而提高性能。我认为问题的关键在于每次插入操作都会生成一个单独的SQL语句,这些语句通过网络发送到数据库。例如,比较循环插入和批处理插入相同数量记录所需的时间。假设我们有一个包含多个对象的列表,每个对象代表一条需要插入数据库的记录。这些步骤在每次迭代中都会重复,导致大量的开销。通过这些方法,我们可以显著提升插入数据的效率。

weixin_73060959的博客 707

mysql批量插入数据,一次插入多少行数据效率最高?

文章目录一、前言二、批量插入前准备1、插入到数据表的字段2、计算一行字段占用的空间3、在数据里做插入操作的时候,整体时间的分配三、批量插入数据测试1、SQL语句的大小限制2、查看服务器上的参数:3、计算一次能插入的最大行记录4、测试插入数据比对(1)插入11W条数据,按照每次10,600,1000,20000,80000来测试:(2)加大数据量到24w(3)加大测试量到42W5、如果插入的值就是s...

铁柱的博客 2万+

提高数据库效率的一些方法--eg:大批量循环插入数据的简化

提高数据库效率的一些方法--eg:大批量循环插入数据的简化   作者及来源: 小奈鲁 - 博客园    收藏到→_→: 摘要: 提高数据库效率的一些方法--eg:大批量循环插入数据的简化 "提高数据库效率的一些方法--eg:大批量循环插入数据的简化": 关键词:提高 

evilcry2012的专栏 1570

SQL Server 循环插入数据

关键语句 1 Declare @i int = 0 --说明循环次数 2 -- 说明需要插入的列值 3 WHILE @i< 需要插入的次数) 4 BEGIN 5 -- 需要写入数据的值 6 Insert INTO 表名(列名) 7 Values(属性值) 8 END 例子 1 DECLARE @i i...

Liyiming1995的博客 1046

mysql执行大批量插入数据_mysql大批量插入数据的4种方法示例

前言本文主要给大家介绍了关于mysql大批量插入数据的4种方法,分享出来供大家参考学习,下面话不多说了,来一起看看详细的介绍吧方法一:循环插入这个也是最普通的方式,如果数据量不是很大,可以使用,但是每次都要消耗连接数据库的资源。大致思维如下(我这里写伪代码,具体编写可以结合自己的业务逻辑或者框架语法编写)for($i=1;$i<=100;$i++){$sql = 'insert..........

weixin_39745269的博客 694

SQL语句优化

一、找出导致性能慢的原因       首先你要知道是否跟sql语句有关,然后使用sql性能检测工具--sql server profiler,分析出sql慢的相关语句,就是执行时间过长,占用系统资源,cpu过多的 1.查看执行时间和cpu占用时间(查询后在消息中查看) set statistics time on select * from dbo.Product set stat...

爱笑的喵 7796

1亿条数据批量插入 MySQL,哪种方式最快?

能够看到,在开启事务下 JDBC直接处理 和 JDBC批处理 均耗时更短。Mybatis 轻量级框架插入 , mybatis在我这次实验被黑的可惨了,哈哈。实际开启事务以后,差距不会这么大(差距10倍)。大家有兴趣的可以接着去测试JDBC直接处理,在本次实验,开启事务和关闭事务,耗时差距5倍左右,并且这个倍数会随着数据量的增大而增大。因为在未开启事务时,更新10000条数据,就得访问数据库10000次。导致每次操作都需要操作一次数据库。

2501_92608043的博客 1056

MySQL 批量插入数据,单次插入多少条数据效率最高

文章目录一、前言二、批量插入前准备1、插入到数据表的字段2、计算一行字段占用的空间3、在数据里做插入操作的时候,整体时间的分配三、批量插入数据测试1、SQL语句的大小限制2、查看服务器上的参数:3、计算一次能插入的最大行记录4、测试插入数据比对(1)插入11W条数据,按照每次10,600,1000,20000,80000来测试:(2)加大数据量到24w(3)加大测试量到42W5、如果插入的值就是s...

技术博客 3万+
上一篇: Hibernate中二级缓存的配置和使用
下一篇: Tomcat并发数优化的方法总结
JACKASDFGHJKL
博客等级 码龄18年 13粉丝 620原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值