Pandas 数据处理:聚合并返回所有符合条件的多选项

admin 百科 12

Pandas 数据处理:聚合并返回所有符合条件的多选项

`np.select`在pandas中仅返回首个符合条件的选项。当需要聚合并返回一行中所有满足条件的选项时,常规方法无法实现。本文将介绍一种利用pandas dataframe转换和numpy的`dot`操作的技巧,巧妙地将所有真值对应的选择项拼接成一个字符串。这种方法适用于复杂条件判断和多标签分类场景,提供了比`np.select`更灵活的数据处理能力,帮助用户高效地从数据中提取多重匹配信息。

1. 问题背景与 np.select 的局限性

在数据处理中,我们经常需要根据一系列条件为DataFrame的每一行分配一个或多个标签。Pandas库中的np.select函数是一个常用工具,它允许我们根据一个条件列表和对应的选择列表来生成新列。然而,np.select的默认行为是返回第一个满足条件的选项。这意味着如果一行数据同时满足多个条件,np.select只会给出列表中最先匹配的那个结果,而忽略了其他同样为真的条件。

Pandas 数据处理:聚合并返回所有符合条件的多选项-第2张图片-佛山资讯网

考虑以下示例数据和条件:

import pandas as pd
import numpy as np

df = pd.DataFrame({'cond1':[True, True, False, True],
                   'cond2':[False, False, True, True],
                   'cond3':[True, False, False, True],
                   'value': [1, 3, 3, 6]})

conditions = [df['cond1'] & (df['value']>4),
             df['cond2'],
             df['cond2'] & (df['value']>2),
             df['cond3'] & df['cond2']]

choices     = [ '1', '2', '3', '4']

df["class"] = np.select(conditions, choices, default=np.nan)
print("使用 np.select 的结果:")
print(df)

登录后复制

输出结果如下:

使用 np.select 的结果:
   cond1  cond2  cond3  value class
0   True  False   True      1   nan
1   True  False  False      3   nan
2  False   True  False      3     2
3   True   True   True      6     1

登录后复制

从输出可以看出,对于索引为2的行,cond2和cond2 & (df['value']>2)都为真,但np.select只返回了2。对于索引为3的行,多个条件为真,但np.select只返回了1。我们的目标是希望将所有为真的条件对应的选择项聚合起来,例如输出"2 and 3"或"1 and 2 and 3 and 4"。

2. 解决方案:利用 DataFrame 转换与 dot 运算

为了实现聚合所有真值对应的选择项,我们可以采用一种巧妙的方法:首先将每个条件转换为一个布尔列,然后利用Pandas DataFrame的dot运算进行字符串拼接。

2.1 准备数据与条件

我们沿用上述的数据和条件定义:

import pandas as pd
import numpy as np

df = pd.DataFrame({'cond1':[True, True, False, True],
                   'cond2':[False, False, True, True],
                   'cond3':[True, False, False, True],
                   'value': [1, 3, 3, 6]})

conditions = [df['cond1'] & (df['value']>4), # 条件0
             df['cond2'],                   # 条件1
             df['cond2'] & (df['value']>2), # 条件2
             df['cond3'] & df['cond2']]     # 条件3

choices     = [ '1', '2', '3', '4']

登录后复制

2.2 转换条件为布尔型 DataFrame

核心思路是创建一个新的DataFrame,其行索引与原始DataFrame相同,列索引为我们的choices,而值则是每个条件对应的布尔结果。

# 将条件列表转换为一个布尔型DataFrame
# 每一列代表一个选择项,每一行代表原始DataFrame的一行
# 值为True表示该行满足对应的条件
df_conditions_matrix = pd.DataFrame(conditions, columns=df.index, index=choices).T
print("转换后的布尔型 DataFrame (df_conditions_matrix):")
print(df_conditions_matrix)

登录后复制

中间结果 df_conditions_matrix 如下:

转换后的布尔型 DataFrame (df_conditions_matrix):
       1      2      3      4
0  False  False  False  False
1  False  False  False  False
2  False   True   True  False
3   True   True   True   True

登录后复制

这个 df_conditions_matrix DataFrame非常关键:它的每一行对应原始df的一行,而每一列('1', '2', '3', '4')则对应一个选择项。如果某个单元格为True,则表示原始行满足该选择项对应的条件。

2.3 利用 dot 运算聚合选择项

接下来,我们将利用 df_conditions_matrix 的 dot 方法,结合选择项字符串,实现条件聚合。dot方法在这里被巧妙地用于字符串拼接,而不是传统的数值矩阵乘法。

发布评论 0条评论)

还木有评论哦,快来抢沙发吧~