随着物联网、云计算、数据技术的快速发展,迎来了大数据时代。大数据技术改变了
传统的数据收集、处理与应用模式,为大量行业的跨越式发展带来了新的机遇。从字面上
理解,数据清洗( Data Cleaning( leaning)就是把“脏”的数据进行“清洗”,也就是发现并
纠正数据文件中可能岀现的错误,包括检査数据一致性、处理无效值和缺失值等。通常在
数据仓库中的数据都是面向某一主题的数据的集合,这些数据从多个业务系统中抽取而来
而且包含历史数据,这样就避免不了有的数据是错误数据,有的数据相互之间有冲突,这
些错误的或有冲突的数据显然是我们不想要的,称为“脏数据”。我们要按照一定的规则
把“脏数据”洗掉,这就是数据清洗。数据清洗的任务是过滤那些不符合要求的数据,将
过滤的结果交给业务主管部门,确认是否过滤掉那些“脏数据”还是由业务单位修正之后
再进行抽取。