SQL 中删除重复记录

在Database中可能由于某种原因如用户输入,导入数据失败等 导致了重复记录. 如果你没有用主键,约束,或来其它机制实现数据完整性,那最后总是重复记录在你的数据库中.现在让我们来看在SQL SERVER 2008中如何删除这些记录, 首先,可以模拟造一些简单重复记录:

 代码如下 复制代码

Create Table dbo.Employee

([Id] int Primary KEY ,

[Name] varchar(50),

[Age] int,

[Sex] bit default 1)

 

Insert Into Employee ([Id] , [Name] , [Age] , [Sex] ) Values(1,'James',25,default)

Insert Into Employee ([Id] , [Name] , [Age] , [Sex] ) Values(2,'James',25,default)

Insert Into Employee ([Id] , [Name] , [Age] , [Sex] ) Values(3,'James',25,default)

Insert Into Employee ([Id] , [Name] , [Age] , [Sex] ) Values(4,'Lisa',24,0)

Insert Into Employee ([Id] , [Name] , [Age] , [Sex] ) Values(5,'Lisa',24,0)

Insert Into Employee ([Id] , [Name] , [Age] , [Sex] ) Values(6,'Lisa',24,0)

Insert Into Employee ([Id] , [Name] , [Age] , [Sex] ) Values(7,'Mirsa',23,0)

Insert Into Employee ([Id] , [Name] , [Age] , [Sex] ) Values(8,'Mirsa',23,0)

Insert Into Employee ([Id] , [Name] , [Age] , [Sex] ) Values(9,'Mirsa',23,0)

Insert Into Employee ([Id] , [Name] , [Age] , [Sex] ) Values(10,'John',26,default)

Insert Into Employee ([Id] , [Name] , [Age] , [Sex] ) Values(11,'Abraham',28,default)

Insert Into Employee ([Id] , [Name] , [Age] , [Sex] ) Values(12,'Lincoln',30,default)

 

Select * From dbo.Employee

首先我们使用最常见的方法:

 代码如下 复制代码

Delete From Employee Where Name in (

select Name

From Employee Group By Name Having Count(Name)>1);

接着使用RowNumber():

 代码如下 复制代码

Delete T From(

   Select Row_Number() Over(Partition By [Name] Order By (SELECT 0)) As RowNumber,* From Employee) T

Where T.RowNumber > 1;

With Dups as

(

  select ROW_NUMBER() Over(Partition by [Name] Order by (SELECT 0)) as rn

  FROM Employee

)

Delete From Dups

Where rn>1;

WITH Dups As

(

  Select [ID],[Name],[Age],[Sex]

    , ROW_NUMBER() OVER(Partition By [Name] Order By (SELECT 0)) AS rn

    ,RANK() OVER(Partition By [Name] Order By (SELECT 0)) AS rnk

  FROM Employee

)

DELETE FROM Dups

WHERE rn<>rnk;

下面是这四个T-SQL查询的执行计划:

 

你可以看到没有用CTE的方法开销最大, 主要是在Table Spool, 这里开销了44%, Table Spool 是一个物理运算符。

Table Spool 运算符扫描输入，并将各行的一个副本放入隐藏的假脱机表中，此表存储在 tempdb 数据库中并且仅在查询的生存期内存在。如果重绕该运算符（例如通过 Nested Loops 运算符重绕），但不需要任何重新绑定，则将使用假脱机数据，而不用重新扫描输入。

 

注意上面的方法只是在重复记录比较少的情况下, 如果重复记录多. DELETE将会非常慢, 最好的方法是复制目标数据到另一个新表,删除原来的表,重命名新表为原来的表. 或用临时表, 这样还可以减少数据库事务日志. 看下面的T-SQL:

 代码如下 复制代码

WITH Dups As

(

  Select [ID],[Name],[Age],[Sex]

    , ROW_NUMBER() OVER(Partition By [ID] Order By (SELECT 0)) AS rn

  FROM Employee

)

Select [ID],[Name],[Age],[Sex]

INTO dbo.EmployeeDupsTmp

FROM Dups

WHERE rn=1

 

DROP TABLE dbo.Employee;

 

EXEC sp_rename 'dbo.EmployeeDupsTmp','Employee'
时间： 2024-09-15 18:56:22

SQL 中删除重复记录的相关文章

在SQL中删除重复记录(多种方法)

重复|重复记录  学习sql有一段时间了,发现在我建了一个用来测试的表(没有建索引)中出现了许多的重复记录.后来总结了一些删除重复记录的方法,在Oracle中,可以通过唯一rowid实现删除重复记录:还可以建临时表来实现...这个只提到其中的几种简单实用的方法,希望可以和大家分享(以表employee为例). SQL> desc employee  Name                                      Null?    Type ------------------

在SQL中删除重复记录的多种方法

学习sql有一段时间了,发现在我建了一个用来测试的表(没有建索引)中出现了许多的重复记录.后来总结了一些删除重复记录的方法,在Oracle中,可以通过唯一rowid实现删除重复记录:还可以建临时表来实现...这个只提到其中的几种简单实用的方法,希望可以和大家分享(以表employee为例). SQL> desc employee Name Null? Type ----------------------------------------- -------- -----------------

mysql sql DISTINCT 删除重复记录

mysql教程 sql  distinct  删除重复记录 如何在mysql中使用distinct关键字过滤在一个select语句的结果列表重复值 如果你在查询数据时想删除重复的数据,可以利用distinct关键字过滤重复值,下面看下distinct用法. select distinct column_name from table_name; 让我们来看看一个简单的例子,我们有一个汽车列表.每辆车都有一个id,品牌,类型和颜色,但现在我们只是简单的列出所有品牌: select brand fr

SQL语句删除重复记录

问题:如何把具有相同字段的记录删除,只留下一条.   例如:表test里有id,name字段,如果有name相同的记录只留下一条,其余的删除.name的内容不定,相同的记录数不定.   用SQL语句删除重复记录的方法: 1.将重复的记录记入temp1表   select [标志字段id],count(*) into temp1 from [表名] group by [标志字段id] having count(*)>1 2.将不重复的记录记入temp1表   insert temp1 select

sql中查询重复记录与删除重复记录

1.查找全部重复记录  代码如下 复制代码 Select * From 表 Where 重复字段 In (Select 重复字段 From 表 Group By 重复字段 Having Count(*)>1) 2.过滤重复记录(只显示一条)  代码如下 复制代码 Select * From HZT Where ID In (Select Max(ID) From HZT Group By Title) 注:此处显示ID最大一条记录 SQL Server删除重复行是我们最常见的操作之一,下面就为您

SQL Server中删除重复记录的SQL语句

方法:  代码如下 复制代码            select distinct * into #tmp from tablename  drop table tablename  select * into tablename from #tmp drop table # tmp 常有时候遇到需要删除SQL Server中的重复记录,这里有一些常用的删除重复记录的SQL, 最常用的 T-SQL 语句:  代码如下 复制代码 DELETE FROM [dbo].[myTable] WHERE

mysql中删除重复记录sql语句

删除重复记录方法一: 1. 新建一个临时表  代码如下 复制代码 create table tmp as select * from youtable group by  name(name为不希望有重复的列) 2. 删除原来的表  代码如下 复制代码 drop table youtable 3. 重命名表  代码如下 复制代码 alter table tmp rename youtable 但是这个方法有个问题,由临时表转变过来的最终表,其表结构会和原来的不一致,需要手工更改.这个问题,待解决

SQL Server 删除重复记录的几种方法

  例如: id name value 1 a pp 2 a pp 3 b iii 4 b pp 5 b pp 6 c pp 7 c pp 8 c iii id是主键 要求得到这样的结果 id name value 1 a pp 3 b iii 4 b pp 6 c pp 8 c iii 方法1 delete YourTable where [id] not in ( select max([id]) from YourTable group by (name + value)) 方法2 del

MySQL 数据库中删除重复记录方法总结

MYSQL数据库中,经常会遇到重复记录的情况,那么就需要SQL删除重复记录,下面为您列举了四种删除重复记录的方式,用于不同的情况,希望对您有所帮助. 1.查找表中多余的重复记录,重复记录是根据单个字段(peopleId)来判断  代码如下 复制代码 select * from people  where peopleId in (select   peopleId from   people group by   peopleId having count(peopleId) > 1)