删除数据库中重复数据的技巧

本文介绍了两种删除数据库中重复数据的方法:一种适用于完全重复记录的情况,另一种则针对部分关键字段重复的情形。通过使用SQL语句,可以有效地清理数据库中的冗余数据。
 删除数据库中重复数据的技巧

数据库的使用过程中由于程序方面的问题有时候会碰到重复数据,重复数据导致了数据库部分设置不能正确设置……

  方法一

  declare @max integer,@id integer

  declare cur_rows cursor local for select 主字段,count(*) from 表名 group by 主字段 having count(*) > 1

  open cur_rows

  fetch cur_rows into @id,@max

  while @@fetch_status=0

  begin

  select @max = @max -1

  set rowcount @max

  delete from 表名 where 主字段 = @id

  fetch cur_rows into @id,@max

  end

  close cur_rows

  set rowcount 0

  方法二

  有两个意义上的重复记录,一是完全重复的记录,也即所有字段均重复的记录,二是部分关键字段重复的记录,比如Name字段重复,而其他字段不一定重复或都重复可以忽略。

  1、对于第一种重复,比较容易解决,使用

  select distinct * from tableName

  就可以得到无重复记录的结果集。

  如果该表需要删除重复的记录(重复记录保留1条),可以按以下方法删除

  select distinct * into #Tmp from tableName

  drop table tableName

  select * into tableName from #Tmp

  drop table #Tmp

  发生这种重复的原因是表设计不周产生的,增加唯一索引列即可解决。

  2、这类重复问题通常要求保留重复记录中的第一条记录,操作方法如下

  假设有重复的字段为Name,Address,要求得到这两个字段唯一的结果集

  select identity(int,1,1) as autoID, * into #Tmp from tableName

  select min(autoID) as autoID into #Tmp2 from #Tmp group by Name,autoID

  select * from #Tmp where autoID in(select autoID from #tmp2)

  最后一个select即得到了Name,Address不重复的结果集(但多了一个autoID字段,实际写时可以写在select子句中省去此列)

原文地址:http://blog.youkuaiyun.com/LBPeking/archive/2008/03/30/2231364.aspx
数据库表中**没有主键**,但存在**完全重复的行数据**时,删除重复数据会比较棘手,因为无法直接通过主键区分记录。不过我们可以通过 MySQL 的一些技巧来识别并删除重复项,只保留一条。 --- ### ✅ 示例场景 假设你有一个表 `users`: ```sql CREATE TABLE users ( name VARCHAR(100), email VARCHAR(100), age INT ); INSERT INTO users (name, email, age) VALUES ('Alice', 'alice@example.com', 25), ('Bob', 'bob@example.com', 30), ('Alice', 'alice@example.com', 25), -- 完全重复 ('Charlie', 'charlie@example.com', 35), ('Bob', 'bob@example.com', 30); -- 完全重复 ``` 目标:删除重复行,每组相同数据只保留一条。 --- ## ✅ 解决方案一:使用临时表 + `GROUP BY`(推荐,安全) 这是最简单、兼容性最好的方法。 ```sql -- 步骤1: 创建一个去重后的临时表 CREATE TABLE users_temp AS SELECT DISTINCT * FROM users; -- 步骤2: 删除原表 DROP TABLE users; -- 步骤3: 将临时表重命名为原表名 RENAME TABLE users_temp TO users; ``` ✅ 优点: - 简单清晰 - 不依赖自增 ID 或主键 - 所有 MySQL 版本都支持 ⚠️ 注意:如果原表有索引、外键或触发器,需要手动重建。 --- ## ✅ 解决方案二:使用 `ROW_NUMBER()` 窗口函数(MySQL 8.0+ 推荐) 利用窗口函数为重复行编号,然后删除编号大于1的行。 ```sql -- 添加虚拟行号,按所有字段分组排序 DELETE t1 FROM users t1 INNER JOIN ( SELECT name, email, age, ROW_NUMBER() OVER (PARTITION BY name, email, age ORDER BY (SELECT NULL)) AS rn FROM users ) t2 ON t1.name = t2.name AND t1.email = t2.email AND t1.age = t2.age WHERE t2.rn > 1; ``` > ⚠️ 注意:`ORDER BY (SELECT NULL)` 表示不关心顺序,任意保留一行即可。 📌 如果你想保留“最先插入”的那一行(假设有自增ID),可以加上 ID 字段: ```sql -- 假设你后来加了个自动增长字段 id(可选) ALTER TABLE users ADD id INT AUTO_INCREMENT PRIMARY KEY FIRST; ``` 然后使用: ```sql DELETE FROM users WHERE id NOT IN ( SELECT min_id FROM ( SELECT MIN(id) AS min_id FROM users GROUP BY name, email, age ) AS t ); ``` --- ## ✅ 解决方案三:使用用户变量模拟行号(适用于旧版 MySQL < 8.0) ```sql SET @row_number := 0; SET @prev_name := ''; SET @prev_email := ''; SET @prev_age := ''; DELETE FROM users WHERE id IN ( SELECT id FROM ( SELECT id, CASE WHEN @prev_name = name AND @prev_email = email AND @prev_age = age THEN @row_number := @row_number + 1 ELSE @row_number := 1 END AS rn, @prev_name := name, @prev_email := email, @prev_age := age FROM users ORDER BY name, email, age ) AS ranked WHERE rn > 1 ); ``` ⚠️ 注意:这种方法要求先添加 `id` 自增列用于标识每一行。 --- ### 🔍 总结对比 | 方法 | 是否需要主键 | 适用版本 | 安全性 | 推荐程度 | |------|---------------|----------|--------|----------| | `CREATE TABLE ... SELECT DISTINCT` | ❌ 不需要 | 所有版本 | ⭐⭐⭐⭐☆ | ⭐⭐⭐⭐⭐ | | `ROW_NUMBER()` + CTE | ❌ 不需要 | MySQL 8.0+ | ⭐⭐⭐⭐⭐ | ⭐⭐⭐⭐☆ | | 用户变量 + 排序 | ✅ 需要唯一标识 | < 8.0 | ⭐⭐☆☆☆ | ⭐⭐☆☆☆ | --- ### ✅ 最佳实践建议 即使当前没有主键,也应尽快为表添加一个: ```sql ALTER TABLE users ADD COLUMN id INT AUTO_INCREMENT PRIMARY KEY FIRST; ``` 这有助于后续维护、索引、删除重复等操作。 --- ###
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值