关于SQL删除重复数据只保留一条

本文详细介绍了使用SQL语句删除数据库中重复记录的方法,包括单个字段和多个字段的情况,提供了多种实现方式及其优缺点分析,旨在帮助数据库管理员和开发者高效地解决数据去重问题。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

用SQL语句,删除掉重复项只保留一条

在几千条记录里,存在着些相同的记录,如何能用SQL语句,删除掉重复的呢
1、查找表中多余的重复记录,重复记录是根据单个字段(peopleId)来判断
select * from people
where peopleId in (select peopleId from people group by peopleId having count(peopleId) > 1)

2、删除表中多余的重复记录,重复记录是根据单个字段(peopleId)来判断,只留有rowid最小的记录
delete from people
where   peopleName in (select peopleName    from people group by peopleName      having count(peopleName) > 1)
and   peopleId not in (select min(peopleId) from people group by peopleName     having count(peopleName)>1)

3、删除表中多余的重复记录,重复记录是根据对个字段来判断的。并且重复条数多余2条。

while 1=1 
begin
    delete top (1) from CNLaw_Info
    from CNLaw_Info p1 join ( select app_no,noticeDate,law_state,law_info from CNLaw_Info group by app_no,noticeDate,law_state
    ,law_info having COUNT(*)>1 )
     p2 on p1.app_no=p2.app_no and p1.noticeDate=p2.noticeDate and p1.law_state=p2.law_state and p1.law_info=p2.law_info
     if @@ROWCOUNT=0 break;
end;


上面这种方法效率非常的低,后来通过改进,例子如下:

select  * from Patent.dbo.patent_US_Grant where ID in(select max(ID)
   from Patent.dbo.patent_US_Grant where NoticeDate='20121023' group by ApplicationNumber having COUNT(ApplicationNumber)>1)

 

如果要删除的话把 “select *” 改为delete

解析上面语句:其实在sql server 最好用上 exists关键字,在这里的后面的select max(ID)。。。 ,查询出id最大的记录。

如果我们在查询时候,不用到having count 那么多个字段相同,找出重复数据的sql:

 比如现在有一人员表  (表名:peosons)
若想将姓名、身份证号、住址这三个字段完全相同的记录查询出来
:select p1.*  from persons  p1,persons p2 where p1.id<>p2.id and p1.cardid = p2.cardid  and p1.pname   = p2.pname and p1.address = p2.address


3、查找表中多余的重复记录(多个字段)
select * from vitae a
where (a.peopleId,a.seq) in (select peopleId,seq from vitae group by peopleId,seq having count(*) > 1)

4、删除表中多余的重复记录(多个字段),只留有rowid最小的记录
delete from vitae a
where (a.peopleId,a.seq) in (select peopleId,seq from vitae group by peopleId,seq having count(*) > 1)
and rowid not in (select min(rowid) from vitae group by peopleId,seq having count(*)>1)

5、查找表中多余的重复记录(多个字段),不包含rowid最小的记录
select * from vitae a
where (a.peopleId,a.seq) in (select peopleId,seq from vitae group by peopleId,seq having count(*) > 1)
and rowid not in (select min(rowid) from vitae group by peopleId,seq having count(*)>1)   

6.消除一个字段的左边的第一位:

update tableName set [Title]=Right([Title],(len([Title])-1)) where Title like '村%'

7.消除一个字段的右边的第一位:

update tableName set [Title]=left([Title],(len([Title])-1)) where Title like '%村'

8.假删除表中多余的重复记录(多个字段),不包含rowid最小的记录
update vitae set ispass=-1
where peopleId in (select peopleId from vitae group by peopleId

 
### PostgreSQL删除重复数据保留唯一记录 在 PostgreSQL 数据库中,可以通过 SQL 查询来实现删除重复的数据行,并仅保留唯一的记录。以下是具体方法: #### 方法一:基于子查询和 `DELETE` 的方式 此方法适用于需要保留具有最小 ID 或特定条件的记录情况。假设有一个名为 `people` 的表,其中包含重复的电子邮件地址(email),目标是删除重复项,仅保留每组中 `id` 最小的一条记录。 ```sql DELETE FROM people WHERE id NOT IN ( SELECT MIN(id) FROM people GROUP BY email ); ``` 上述语句的功能是从 `people` 表中删除那些不满足 `MIN(id)` 条件的记录[^5]。这意味着对于每一组相同的 `email` 值,只有拥有最小 `id` 的记录会被保留下来。 --- #### 方法二:利用窗口函数进行高效删除 如果数据库版本支持窗口函数(如 PostgreSQL 8.0+),则可以更灵活地定义哪些记录应该被保留删除。以下是一个示例,它会删除重复的记录,而只保留每组中最新的记录(例如按时间戳或其他字段排序)。 ```sql WITH cte AS ( SELECT id, email, ROW_NUMBER() OVER (PARTITION BY email ORDER BY id ASC) as rn FROM people ) DELETE FROM people USING cte WHERE people.id = cte.id AND cte.rn > 1; ``` 在此查询中: - 使用了 `ROW_NUMBER()` 窗口函数为每个分区(即 `email` 列相等的分组)分配一个序号。 - 序号从小到大排列 (`ORDER BY id ASC`),因此第一条记录始终获得编号 `1`。 - 接着通过 `DELETE` 结合 CTE(公用表达式)移除所有序号大于 `1` 的记录[^2]。 这种方法的优势在于能够精确控制哪一条记录应被保留,同时兼容复杂的业务逻辑。 --- #### 方法三:直接操作物理存储位置(CTID) 另一种较少使用的技巧涉及直接对比元组标识符(`ctid`)。这种方式虽然有效,但在性能上可能不如前两种方案理想,尤其是在大规模数据集下。 ```sql DELETE FROM deltest a USING deltest b WHERE a.ctid < b.ctid AND a.id = b.id; ``` 这里的关键点是对两个相同表实例之间的连接施加约束条件,从而找到冗余副本并将它们标记为待删除对象[^4]。然而需要注意的是,由于涉及到底层存储细节,该策略通常较难维护且不够直观。 --- ### 总结 以上介绍了三种主流技术用于解决 PostgreSQL 下的去重问题。推荐优先考虑 **方法一** 和 **方法二** ,因为它们更加标准化、易于理解和扩展性强;除非特殊情况下才建议采用第三种依赖于内部机制的方式完成任务。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值