《从Excel到R 数据分析进阶指南》一3.5 删除重复值

3.5 删除重复值

很多数据表中还包含重复值的问题。Excel的数据目录下有“删除重复项”的功能,可以用来删除数据表中的重复值。默认Excel会保留最先出现的数据,删除后面重复出现的数据。

R中使用duplicated()函数查找重复值。duplicated()函数既可以查找数据表的重复值,也可以查找特定列中的重复值。发现重复值后使用unique()函数删除重复值。下面是具体的代码和比较结果。

#查找数据表重复值
duplicated(df)

#查找特定列的重复值
duplicated(df$city)

#查看数据表的唯一值(删除重复值)
df<-unique(df)

时间: 2024-09-21 08:51:03

《从Excel到R 数据分析进阶指南》一3.5 删除重复值的相关文章

《从Excel到R 数据分析进阶指南》一第4章 数据预处理4.1 数据合并

第4章 数据预处理 从Excel到R 数据分析进阶指南 本章是对清洗完的数据进行整理,以便后期的统计和分析工作,主要包括数据表的合并.排序.数据分列.数据表匹配和设置索引列等工作. 4.1 数据合并 首先是对不同的数据表进行合并.数据表的合并有3种,即横向合并.纵向合并和增加新字段.我们这里创建一个新的数据表df1,并将df和df1两个数据表进行纵向合并. df1<-data.frame(id=c(1007,1008,1009,1010), city=c("Beijing",&q

《从Excel到R 数据分析进阶指南》一导读

序 从Excel到R 数据分析进阶指南 Excel是数据分析中最常用的工具.本书通过R与Excel的功能对比介绍如何使用R通过函数式编程完成Excel中的数据处理及分析工作.我们总结出最常用的50个函数.通过这些函数介绍如何通过R完成数据生成和导入.数据清洗.预处理,以及最常见的数据筛选,回归预测和假设检验等最常见的操作. 目 录 第1章 生成数据表1.1 导入数据表1.2 创建数据表第2章 数据表检查2.1 数据维度(行列)2.2 查看数据表2.3 查看特定列的格式2.4 查看空值2.5 查看

《从Excel到R 数据分析进阶指南》一第3章 数据表清洗3.1 处理空值(删除或填充)

第3章 数据表清洗 从Excel到R 数据分析进阶指南 本章是对数据表中的问题进行清洗,主要内容包括对空值.大小写问题.数据格式和重复值的处理.这里不包含对数据间的逻辑验证. 3.1 处理空值(删除或填充) 我们在创建数据表的时候,在price字段中故意设置了几个NA值.对于空值的处理方式有很多种,既可以直接删除包含空值的数据,也可以对空值进行填充,比如用0填充或者用均值填充.还可以根据不同字段的逻辑对空值进行推算. Excel中可以通过"查找和替换"功能对空值进行处理,将空值统一替换

《从Excel到R 数据分析进阶指南》一第2章 数据表检查2.1 数据维度(行列)

第2章 数据表检查 从Excel到R 数据分析进阶指南R中处理的数据量与在Excel中处理的数据量相比会大一些,因此我们无法一目了然地了解数据表的整体情况,必须要通过一些方法来获得数据表的关键信息.数据表检查的另一个目的是了解数据的概况,例如整个数据表的大小.数据格式.是否有空值和重复项和具体的数据内容,为后面的清洗和预处理做好准备. 2.1 数据维度(行列) Excel中可以通过Ctrl+向下的光标键,和Ctrl+向右的光标键来查看行号和列号.R中使用dim()函数来查看数据表的维度,也就是行

《从Excel到R 数据分析进阶指南》一第1章 生成数据表1.1 导入数据表

第1章 生成数据表 从Excel到R 数据分析进阶指南常见的生成方法有两种,第一种是导入外部数据,第二种是直接写入数据. Excel中的"文件"菜单中提供了获取外部数据的功能,支持数据库和文本文件和页面的多种数据源导入. 1.1 导入数据表 R支持从多种类型的数据导入.下面分别是从csv格式文件导入数据并创建数据表的方法.导入数据的代码是最简模式,里面有很多可选参数设置,例如列名称.索引列.数据格式等.感兴趣的朋友可以使用help函数来查看完整的使用方法. #导入csv数据表 data

《从Excel到R 数据分析进阶指南》一2.5 查看唯一值

2.5 查看唯一值 Excel中查看唯一值的方法是使用"条件格式"对唯一值进行颜色标记.R中使用unique()函数查看唯一值. unique()函数是查看唯一值的函数,只能对数据表中的特定列进行检查.下面是代码,返回的结果是该列中的唯一值.类似与Excel中删除重复项后的结果. #查看数据表的唯一值(删除重复值) unique(df) #查看数据表中city列的唯一值 unique(df$city) [1] Beijing SH guangzhou shenzhen shanghai

《从Excel到R 数据分析进阶指南》一1.2 创建数据表

1.2 创建数据表 另一种方法是通过直接写入数据来生成数据表.Excel中直接在单元格中输入数据,R中通过下面的代码来实现.数据表一共有7行数据,每行有5个字段.在数据中我们特意设置了一些NA值和有问题的字段,例如包含空格和重复值等.后面将在数据清洗步骤进行处理.后面我们将统一以DataFrame的简称df来命名数据表. #手动创建数据表 df<-data.frame(id=c(1001,1002,1003,1004,1005,1006,1006), city=c(" Beijing&qu

《从Excel到R 数据分析进阶指南》一2.4 查看空值

2.4 查看空值 Excel中查看空值的方法是使用"定位条件"功能对数据表中的空值进行定位."定位条件"在"开始"目录下的"查找和选择"目录中. Is.na是R中检验空值的函数,返回的结果是逻辑值,包含空值返回True,不包含则返回False.你可以对整个数据表进行检查,也可以单独对某一列进行空值检查. #查看空值 is.na(df) #查看单列的空值 is.na(df$price) [1] FALSE TRUE FALSE

《从Excel到R 数据分析进阶指南》一4.2 数据排序

4.2 数据排序 Excel中可以通过数据目录下的排序按钮直接对数据表进行排序,比较简单.R中需要使用order()函数完成排序. 首先,我们按id对数据表进行排序.decreasing参数为TRUE表示逆序. #对数据表按id列进行排序(逆序) df[order(df$id,decreasing = TRUE),] 省略decreasing参数默认为正序排序.下面的代码按rate对数据表进行排序. #对数据表按rate列进行排序(正序) df[order(df$rate),] 也可以同时多数据