
`np.select`在pandas中仅返回首个符合条件的选项。当需要聚合并返回一行中所有满足条件的选项时,常规方法无法实现。本文将介绍一种利用pandas dataframe转换和numpy的`dot`操作的技巧,巧妙地将所有真值对应的选择项拼接成一个字符串。这种方法适用于复杂条件判断和多标签分类场景,提供了比`np.select`更灵活的数据处理能力,帮助用户高效地从数据中提取多重匹配信息。
1. 问题背景与 np.select 的局限性
在数据处理中,我们经常需要根据一系列条件为DataFrame的每一行分配一个或多个标签。Pandas库中的np.select函数是一个常用工具,它允许我们根据一个条件列表和对应的选择列表来生成新列。然而,np.select的默认行为是返回第一个满足条件的选项。这意味着如果一行数据同时满足多个条件,np.select只会给出列表中最先匹配的那个结果,而忽略了其他同样为真的条件。

考虑以下示例数据和条件:
import pandas as pd
import numpy as np
df = pd.DataFrame({'cond1':[True, True, False, True],
'cond2':[False, False, True, True],
'cond3':[True, False, False, True],
'value': [1, 3, 3, 6]})
conditions = [df['cond1'] & (df['value']>4),
df['cond2'],
df['cond2'] & (df['value']>2),
df['cond3'] & df['cond2']]
choices = [ '1', '2', '3', '4']
df["class"] = np.select(conditions, choices, default=np.nan)
print("使用 np.select 的结果:")
print(df)登录后复制
输出结果如下:
使用 np.select 的结果: cond1 cond2 cond3 value class 0 True False True 1 nan 1 True False False 3 nan 2 False True False 3 2 3 True True True 6 1
登录后复制
从输出可以看出,对于索引为2的行,cond2和cond2 & (df['value']>2)都为真,但np.select只返回了2。对于索引为3的行,多个条件为真,但np.select只返回了1。我们的目标是希望将所有为真的条件对应的选择项聚合起来,例如输出"2 and 3"或"1 and 2 and 3 and 4"。
2. 解决方案:利用 DataFrame 转换与 dot 运算
为了实现聚合所有真值对应的选择项,我们可以采用一种巧妙的方法:首先将每个条件转换为一个布尔列,然后利用Pandas DataFrame的dot运算进行字符串拼接。
2.1 准备数据与条件
我们沿用上述的数据和条件定义:
import pandas as pd
import numpy as np
df = pd.DataFrame({'cond1':[True, True, False, True],
'cond2':[False, False, True, True],
'cond3':[True, False, False, True],
'value': [1, 3, 3, 6]})
conditions = [df['cond1'] & (df['value']>4), # 条件0
df['cond2'], # 条件1
df['cond2'] & (df['value']>2), # 条件2
df['cond3'] & df['cond2']] # 条件3
choices = [ '1', '2', '3', '4']登录后复制
2.2 转换条件为布尔型 DataFrame
核心思路是创建一个新的DataFrame,其行索引与原始DataFrame相同,列索引为我们的choices,而值则是每个条件对应的布尔结果。
# 将条件列表转换为一个布尔型DataFrame
# 每一列代表一个选择项,每一行代表原始DataFrame的一行
# 值为True表示该行满足对应的条件
df_conditions_matrix = pd.DataFrame(conditions, columns=df.index, index=choices).T
print("转换后的布尔型 DataFrame (df_conditions_matrix):")
print(df_conditions_matrix)登录后复制
中间结果 df_conditions_matrix 如下:
转换后的布尔型 DataFrame (df_conditions_matrix):
1 2 3 4
0 False False False False
1 False False False False
2 False True True False
3 True True True True登录后复制
这个 df_conditions_matrix DataFrame非常关键:它的每一行对应原始df的一行,而每一列('1', '2', '3', '4')则对应一个选择项。如果某个单元格为True,则表示原始行满足该选择项对应的条件。
2.3 利用 dot 运算聚合选择项
接下来,我们将利用 df_conditions_matrix 的 dot 方法,结合选择项字符串,实现条件聚合。dot方法在这里被巧妙地用于字符串拼接,而不是传统的数值矩阵乘法。
还木有评论哦,快来抢沙发吧~