删除重复记录(zt)

删除重复记录方法
本文介绍了四种从数据库表中删除重复记录的方法,包括创建临时表、利用rowid特性、结合max或min函数及group by等技术手段,每种方法均有详细的SQL语句示例及其适用场景。
总结了一下删除重复记录的方法,以及每种方法的优缺点。

假设表名为Tbl,表中有三列col1,col2,col3,其中col1,col2是主键,并且,col1,col2上加了索引。

1、通过创建临时表

可以把数据先导入到一个临时表中,然后删除原表的数据,再把数据导回原表,SQL语句如下:

creat table tbl_tmp (select distinct* from tbl);

truncate table tbl;//清空表记录

insert into tbl select * from tbl_tmp;//将临时表中的数据插回来。

这种方法可以实现需求,但是很明显,对于一个千万级记录的表,这种方法很慢,在生产系统中,这会给系统带来很大的开销,不可行。

2、利用rowid

在oracle中,每一条记录都有一个rowid,rowid在整个数据库中是唯一的,rowid确定了每条记录是oracle中的哪一个数据文件、块、行上。在重复的记录中,可能所有列的内容都相同,但rowid不会相同。SQL语句如下:

delete from tbl where rowid in (select a.rowid from tbl a, tbl b where a.rowid>b.rowid and a.col1=b.col1 and a.col2 = b.col2)

如果已经知道每条记录只有一条重复的,这个sql语句适用。但是如果每条记录的重复记录有N条,这个N是未知的,就要考虑适用下面这种方法了。

3、利用max或min函数

这里也要使用rowid,与上面不同的是结合max或min函数来实现。SQL语句如下

delete from tbl a where rowid not in (select max(b.rowid) from tbl b where a.col1=b.col1 and a.col2 = b.col2);//这里max使用min也可以

或者用下面的语句

delete from tbl a where rowid < (select max(b.rowid) from tbl b where a.col1=b.col1 and a.col2 = b.col2);//这里如果把max换成min的话,前面的where子句中需要把""

跟上面的方法思路基本是一样的,不过使用了group by,减少了显性的比较条件,提高效率。SQL语句如下:

delete from tbl where rowid not in (select max(rowid) from tbl t group by t.col1, t.col2 );

delete from tbl where (col1, col2) in (select col1,col2 from tbl group by col1,col2 having count(*) > 1) and rowid not in (select nin(rowid) from tbl group by col1,col2 having count(*) > 1)

还有一种方法,对于表中有重复记录的记录比较少的,并且有索引的情况,比较适用。假定col1,col2上有索引,并且tbl表中有重复记录的记录比较少,SQL语句如下4、利用group by,提高效率

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/37724/viewspace-152602/,如需转载,请注明出处,否则将追究法律责任。

转载于:http://blog.itpub.net/37724/viewspace-152602/

CREATE TABLE `zt_equip` ( `id` MEDIUMINT(8) NOT NULL AUTO_INCREMENT, `code` VARCHAR(50) NOT NULL COMMENT '设备编码' COLLATE 'utf8_general_ci', `name` VARCHAR(50) NOT NULL COMMENT '设备名称' COLLATE 'utf8_general_ci', `dept` MEDIUMINT(8) NOT NULL DEFAULT '0' COMMENT '所属部门', `softtype` VARCHAR(500) NOT NULL DEFAULT '' COMMENT '软件类型' COLLATE 'utf8_general_ci', `type` VARCHAR(50) NULL DEFAULT NULL COMMENT '设备类别' COLLATE 'utf8_general_ci', `remark` TEXT NULL DEFAULT NULL COMMENT '备注' COLLATE 'utf8_general_ci', `deleted` ENUM('0','1') NOT NULL DEFAULT '0' COLLATE 'utf8_general_ci', `current` VARCHAR(255) NULL DEFAULT '' COMMENT '产品型号状态' COLLATE 'utf8_general_ci', `NMCPdtMdlDept` VARCHAR(255) NULL DEFAULT '' COMMENT '事业单元' COLLATE 'utf8_general_ci', `ApplicationArea` VARCHAR(255) NULL DEFAULT '' COMMENT '应用领域' COLLATE 'utf8_general_ci', `Technology` VARCHAR(255) NULL DEFAULT '' COMMENT '工艺应用' COLLATE 'utf8_general_ci', `ProductStage` VARCHAR(255) NULL DEFAULT '' COMMENT '产品所处阶段' COLLATE 'utf8_general_ci', `pkId` VARCHAR(255) NULL DEFAULT '' COMMENT '数据唯一标识' COLLATE 'utf8_general_ci', `batchId` VARCHAR(255) NULL DEFAULT '' COMMENT '批数据的唯一ID' COLLATE 'utf8_general_ci', `mainCode` VARCHAR(255) NULL DEFAULT '' COMMENT '序号' COLLATE 'utf8_general_ci', `openedBy` VARCHAR(255) NULL DEFAULT '' COMMENT '创建人' COLLATE 'utf8_general_ci', `openedDate` DATETIME NULL DEFAULT NULL COMMENT '创建时间', `updatedBy` VARCHAR(255) NULL DEFAULT '' COMMENT '更新人' COLLATE 'utf8_general_ci', `updatedDate` DATETIME NULL DEFAULT NULL COMMENT '更新时间', `deletedBy` VARCHAR(255) NULL DEFAULT '' COMMENT '删除人' COLLATE 'utf8_general_ci', `deletedDate` DATETIME NULL DEFAULT NULL COMMENT '删除时间', PRIMARY KEY (`id`) USING BTREE ) COLLATE='utf8_general_ci' ENGINE=MyISAM AUTO_INCREMENT=914 ; CREATE TABLE `zt_baseprojectinfo` ( `id` MEDIUMINT(8) NOT NULL AUTO_INCREMENT, `dept` VARCHAR(255) NOT NULL COMMENT '所属部门' COLLATE 'utf8_general_ci', `projectno` VARCHAR(255) NOT NULL COMMENT '项目号' COLLATE 'utf8_general_ci', `clientcode` VARCHAR(255) NOT NULL COMMENT '客户编码' COLLATE 'utf8_general_ci', `equip` VARCHAR(255) NOT NULL COMMENT '机台产品型号' COLLATE 'utf8_general_ci', `industrytype` VARCHAR(255) NOT NULL COMMENT '行业类型' COLLATE 'utf8_general_ci', `firstlicenseddate` DATE NULL DEFAULT NULL COMMENT '出厂日期', `regionalhead` VARCHAR(255) NULL DEFAULT NULL COMMENT '大区负责人' COLLATE 'utf8_general_ci', `equipstage` VARCHAR(255) NULL DEFAULT NULL COMMENT '机台阶段' COLLATE 'utf8_general_ci', `problemInterfacePerson` VARCHAR(255) NULL DEFAULT '' COMMENT '问题接口人' COLLATE 'utf8_general_ci', `requirementInterfacePerson` VARCHAR(255) NULL DEFAULT '' COMMENT '需求接口人' COLLATE 'utf8_general_ci', `serviceteam` VARCHAR(255) NULL DEFAULT NULL COMMENT '客服服务团队' COLLATE 'utf8_general_ci', `outdate` DATE NULL DEFAULT NULL, `area` VARCHAR(50) NULL DEFAULT NULL COMMENT '区域' COLLATE 'utf8_general_ci', `deleted` ENUM('0','1') NOT NULL DEFAULT '0' COMMENT '是否删除' COLLATE 'utf8_general_ci', `createdate` DATETIME NOT NULL COMMENT '创建时间', `machinestatus` VARCHAR(255) NULL DEFAULT NULL COMMENT '机台状态' COLLATE 'utf8_general_ci', `isChange` ENUM('0','1') NULL DEFAULT '0' COMMENT '变更中' COLLATE 'utf8_general_ci', `extendedWarranty` VARCHAR(255) NULL DEFAULT '' COMMENT '机台是否过保' COLLATE 'utf8_general_ci', `customerType` VARCHAR(255) NULL DEFAULT '' COLLATE 'utf8_general_ci', `customerName` VARCHAR(500) NULL DEFAULT NULL COMMENT '客户名称' COLLATE 'utf8_general_ci', `isMoc` VARCHAR(30) NULL DEFAULT '' COMMENT 'yes是MOC客户,no不是MOC客户' COLLATE 'utf8_general_ci', `warrantyStartTime` DATE NULL DEFAULT NULL COMMENT '质保开始时间', `warrantyEndTime` DATE NULL DEFAULT NULL COMMENT '质保结束时间', `actualArrivalTime` DATE NULL DEFAULT NULL COMMENT '实际到货时间', `productDepartment` VARCHAR(255) NULL DEFAULT NULL COMMENT '产品线' COLLATE 'utf8_general_ci', `stageSubdivision` VARCHAR(255) NULL DEFAULT NULL COMMENT '阶段细分' COLLATE 'utf8_general_ci', `productManager` VARCHAR(255) NULL DEFAULT NULL COMMENT '主要负责人' COLLATE 'utf8_general_ci', `updatedate` DATETIME NULL DEFAULT NULL COMMENT '更新时间', `firstupdate` DATETIME NULL DEFAULT NULL, PRIMARY KEY (`id`) USING BTREE, INDEX `projectno` (`projectno`) USING BTREE ) COLLATE='utf8_general_ci' ENGINE=MyISAM AUTO_INCREMENT=19052 ; 目标表结构CREATE TABLE `product_key_customers` ( `create_time` DATETIME(6) NOT NULL DEFAULT current_timestamp(6), `update_time` DATETIME(6) NOT NULL DEFAULT current_timestamp(6) ON UPDATE current_timestamp(6), `created_by` VARCHAR(128) NULL DEFAULT '' COMMENT '创建人' COLLATE 'utf8_general_ci', `updated_by` VARCHAR(128) NULL DEFAULT '' COMMENT '修改人' COLLATE 'utf8_general_ci', `is_del` TINYINT(1) NOT NULL DEFAULT '0' COMMENT '标记删除', `id` INT(11) NOT NULL AUTO_INCREMENT COMMENT 'ID', `product` INT(11) NOT NULL COMMENT 'Product ID', `customer_number` VARCHAR(255) NULL DEFAULT NULL COMMENT '客户编号' COLLATE 'utf8_general_ci', `customer_name` VARCHAR(255) NULL DEFAULT NULL COMMENT '客户名称' COLLATE 'utf8_general_ci', `number_of_machine_orders` VARCHAR(255) NULL DEFAULT NULL COMMENT '机台订单数' COLLATE 'utf8_general_ci', `zt_id` INT(11) NULL DEFAULT NULL COMMENT '禅道id', `project_no` VARCHAR(255) NULL DEFAULT NULL COMMENT '禅道项目号P4-XXXXX' COLLATE 'utf8_general_ci', PRIMARY KEY (`id`) USING BTREE ) COMMENT='主要客户' COLLATE='utf8_general_ci' ENGINE=InnoDB AUTO_INCREMENT=39 ; 根据设备表和项目表 生成每个设备的客户列表与每个客户订单数量 存入目标表
09-05
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值