Pandas缺失数据最快定位方式(极少代码快速实现,打死不用循环!!!!!)
生活随笔
收集整理的这篇文章主要介绍了
Pandas缺失数据最快定位方式(极少代码快速实现,打死不用循环!!!!!)
小编觉得挺不错的,现在分享给大家,帮大家做个参考.
文章目录
- 先直接上代码
- 简单分析
先直接上代码
考虑下表:
df = pd.DataFrame(np.random.randn(5, 3), index=['a', 'c', 'e', 'f', 'h'],columns=['one', 'two', 'three'])df2 = df.reindex(['a', 'b', 'c', 'd', 'e', 'f', 'g', 'h'])df2one two three a 0.820537 -0.115642 1.096765 b NaN NaN NaN c -0.737318 -0.241887 -0.043518 d NaN NaN NaN e -0.092327 -1.263035 -3.563509 f -0.578219 1.196041 -1.339231 g NaN NaN NaN h -0.110525 -0.396843 -0.513144可以看到其空行极多,首先找出所有空值所在位置(所有下标值):
locs = np.argwhere(np.isnan(df2.values)) locsarray([[1, 0],[1, 1],[1, 2],[3, 0],[3, 1],[3, 2],[6, 0],[6, 1],[6, 2]], dtype=int64)如果想要直接查出有哪些行包含了空值(最后解释):
df2.columns[locs[:,1]].drop_duplicates()Index(['one', 'two', 'three'], dtype='object')行号就简单了:
locs[:,0]array([1, 1, 1, 3, 3, 3, 6, 6, 6], dtype=int64)简单分析
首先,DataFrame的values本质上就是一个numpy array
type(df2.values)numpy.ndarray那么很自然地,要找出array里面的空值,直接就用numpy的方法就好,这里之前也介绍过 [传送门]。
其次,用np.argwhere返回的值就是下标的集合(本质上还是数组)。
而df2.columns本身也可以用索引来访问,那么就简单了:locs中第二维正好就是缺失值列所在的下标。
紧接着注意到columns的本质是Index类型,它可以使用和DataFrame一样的drop_duplicates()方法,因此这段代码一步到位。
综上,说不用循环就不用循环。
《新程序员》:云原生和全面数字化实践50位技术专家共同创作,文字、视频、音频交互阅读总结
以上是生活随笔为你收集整理的Pandas缺失数据最快定位方式(极少代码快速实现,打死不用循环!!!!!)的全部内容,希望文章能够帮你解决所遇到的问题。
- 上一篇: Pandas简明教程:七、Pandas缺
- 下一篇: Pandas中DataFrame的属性及