数据分析过程中,发现数值缺失,怎么办?
数据分析过程中，发现数值缺失，怎么办？
按照数据缺失机制，数据分析过程中，我们可以将其分为以下⼏类：
《突围》里的皮丹有多气人（1）完全随机缺失（MCAR）：所缺失的数据发⽣的概率既与已观察到的数据⽆关，也与未观察到的数据⽆关。
（2）随机缺失（MAR）：假设缺失数据发⽣的概率与所观察到的变量是有关的，⽽与未观察到的数据的特征是⽆关的。MCAR与MAR均被称为是可忽略的缺失形式。
（3）不可忽略的缺失（NIM）：亦称为⾮随机缺失，即如果不完全变量中，数据的缺失既依赖于完全变量⼜依赖于不完全变量本⾝，这种缺失即为不可忽略的缺失。
那么，对于缺失值，我们应该如何处理呢？
对于缺失值的处理，从总体上来说分为删除存在缺失值的个案和缺失值插补。对于主观数据，⼈将影响数据的真实性，存在缺失值的样本的其他属性的真实值不能保证，那么依赖于这些属性值的插补也是不可靠的，所以对于主观数据⼀般不推荐插补的⽅法。插补主要是针对客观数据，它的可靠性有保证。
1）删除含有缺失值的个案
有简单删除法和权重法。简单删除法是对缺失值进⾏处理的最原始⽅法。它将存在缺失值的个案删除。如果数据缺失问题可以通过简单的删除⼩部分样本来达到⽬标，那么这个⽅法是最有效的。
当缺失值的类型为⾮完全随机缺失的时候，可以通过对完整的数据加权来减⼩偏差。把数据不完全的个案标记后，将完整的数据个案赋予不同的权重，个案的权重可以通过logistic或probit回归求得。
如果解释变量中存在对权重估计起决定⾏因素的变量，那么这种⽅法可以有效减⼩偏差。如果解释变量和权重并不相关，它并不能减⼩偏差。对于存在多个属性缺失的情况，就需要对不同属性的缺失组合赋不同的权重，这将⼤⼤增加计算的难度，降低预测的准确性，这时权重法并不理想。
2）可能值插补缺失值
它的思想来源是以最可能的值来插补缺失值⽐全部删除不完全样本所产⽣的信息丢失要少。在数据挖掘中，⾯对的通常是⼤型的数据库，它的属性有⼏⼗个甚⾄⼏百个，因为⼀个属性值的缺失⽽放弃⼤量的其他属性值，这种删除是对信息的极⼤浪费，所以产⽣了以可能值对缺失值进⾏插补的思想与⽅法。常⽤的有如下⼏种⽅法。
（1）均值插补。数据的属性分为定距型和⾮定距型。如果缺失值是定距型的，就以该属性存在值的平均值来插补缺失的值；如果缺失值是⾮定距型的，就根据统计学中的众数原理，⽤该属性的众数（即出现频率最⾼的值）来补齐缺失的值。
（2）利⽤同类均值插补。同均值插补的⽅法都属于单值插补，不同的是，它⽤层次聚类模型预测缺失变量的类型，再以该类型的均值插补。假设X=（X1，X2…Xp）为信息完全的变量，Y为存在缺失值的变量，那么⾸先对X或其⼦集⾏聚类，然后按缺失个案所属类来插补不同类的均值。
如果在以后统计分析中还需以引⼊的解释变量和Y做分析，那么这种插补⽅法将在模型中引⼊⾃相关，给分析造成障碍。
（3）极⼤似然估计（ML）。在缺失类型为随机缺失的条件下，假设模型对于完整的样本是正确的，那么通过观测数据的边际分布可以对未知参数进⾏极⼤似然估计（Little and Rubin）。淮南美食
有关农业生产的谚语这种⽅法也被称为忽略缺失值的极⼤似然估计，对于极⼤似然的参数估计实际中常采⽤的计算⽅法是期望值最⼤化（EM）。该⽅法⽐删除个案和单值插补更有吸引⼒，它⼀个重要前提：适⽤于⼤样本。有效样本的数量⾜够以保证ML估计值是渐近⽆偏的并服从正态分布。但是这种⽅法可能会陷⼊局部极值，收敛速度也不是很快，并且计算很复杂。
（4）多重插补（MI）。多值插补的思想来源于贝叶斯估计，认为待插补的值是随机的，它的值来⾃于已观测到的值。具体实践上通常是估计出待插补的值，然后再加上不同的噪声，形成多组可选插补值。根据某种选择依据，选取最合适的插补值。多重插补⽅法分为三个步骤：
搞笑骂人顺口溜大全
①为每个空值产⽣⼀套可能的插补值，这些值反映了⽆响应模型的不确定性；每个值都可以被⽤来插补数据集中的缺失值，产⽣若⼲个完整数据集合。
②每个插补数据集合都⽤针对完整数据集的统计⽅法进⾏统计分析；
③对来⾃各个插补数据集的结果，根据评分函数进⾏选择，产⽣最终的插补值。江苏淮安中考成绩查询
工作检讨书大全假设⼀组数据，包括三个变量Y1，Y2，Y3，它们的联合分布为正态分布，将这组数据处理成三组，A组保持原始数据，B组仅缺失Y3，C 组缺失Y1和Y2。在多值插补时，对A组将不进⾏任何处理，对B组产⽣Y3的⼀组估计值（作Y3关于Y1，Y2的回归），对C组作产⽣Y1和Y2的⼀组成对估计值（作Y1，Y2关于Y3的回归）。
当⽤多值插补时，对A组将不进⾏处理，对B、C组将完整的样本随机抽取形成为m组（m为可选择的m组插补值），每组个案数只要能够有效估计参数就可以了。对存在缺失值的属性的分布作出估计，然后基于这m组观测值，对于这m组样本分别产⽣关于参数的m组估计值，给出相应的预测即，这时采⽤的估计⽅法为极⼤似然法，在计算机中具体的实现算法为期望最⼤化法（EM）。对B组估计出⼀组Y3的值，对C将利⽤ Y1，Y2，Y3它们的联合分布为正态分布这⼀前提，估计出⼀组（Y1，Y2）。
上例中假定了Y1，Y2，Y3的联合分布为正态分布。这个假设是⼈为的，但是已经通过验证（Graham和Schafer于1999），⾮正态联合分布的变量，在这个假定下仍然可以估计到很接近真实值的结果。
多重插补和贝叶斯估计的思想是⼀致的，但是多重插补弥补了贝叶斯估计的⼏个不⾜。
（1）贝叶斯估计以极⼤似然的⽅法估计，极⼤似然的⽅法要求模型的形式必须准确，如果参数形式不正确，将得到错误得结论，即先验分布将影响后验分布的准确性。⽽多重插补所依据的是⼤样本渐近完整的数据的理论，在数据挖掘中的数据量都很⼤，先验分布将极⼩的影响结果，所以先验分布的对结果的影响不⼤。
（2）贝叶斯估计仅要求知道未知参数的先验分布，没有利⽤与参数的关系。⽽多重插补对参数的联合分布作出了估计，利⽤了参数间的相互关系。
以上四种插补⽅法，对于缺失值的类型为随机缺失的插补有很好的效果。两种均值插补⽅法是最容易实现的，也是以前⼈们经常使⽤的，但是它对样本存在极⼤的⼲扰，尤其是当插补后的值作为解释变量进⾏回归时，参数的估计值与真实值的偏差很⼤。
相⽐较⽽⾔，极⼤似然估计和多重插补是两种⽐较好的插补⽅法，与多重插补对⽐，极⼤似然缺少不确定成分，所以越来越多的⼈倾向于使⽤多重插补⽅法。
⽂章来源：⽹络 版权归原作者所有
上⽂内容不⽤于商业⽬的，如涉及知识产权问题，请权利⼈联系⼩编，我们将⽴即处理

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。