【python】DataFrame.groupby()聚合，分組級運算

LibraryPKU 2019-08-19

展開全文

pandas提供了一個靈活高效的groupby功能，它使你能以一種自然的方式對數(shù)據(jù)集進行切片、切塊、摘要

等操作。根據(jù)一個或多個鍵（可以是函數(shù)、數(shù)組或DataFrame列名）拆分pandas對象。計算分組摘要統(tǒng)

計，如計數(shù)、平均值、標準差，或用戶自定義函數(shù)。對DataFrame的列應用各種各樣的函數(shù)。應用組內(nèi)轉換

或其他運算，如規(guī)格化、線性回歸、排名或選取子集等。計算透視表或交叉表。執(zhí)行分位數(shù)分析以及其他分

組分析。

groupby分組函數(shù)：

　　返回值：返回重構格式的DataFrame，特別注意，groupby里面的字段內(nèi)的數(shù)據(jù)重構后都會變成索引

　　groupby(),一般和sum()、mean()一起使用，如下例：

先自定義生成數(shù)組

import pandas as pd
df = pd.DataFrame({'key1':list('ababa'),
                  'key2': ['one','two','one','two','one'],
                  'data1': np.random.randn(5),
                  'data2': np.random.randn(5)})
print(df)

      data1     data2 key1 key2
0 -1.313101 -0.453361    a  one
1  0.791463  1.096693    b  two
2  0.462611  1.150597    a  one
3 -0.216121  1.381333    b  two
4  0.077367 -0.282876    a  one

應用groupby,分組鍵均為Series(譬如df[‘xx’])，實際上分組鍵可以是任何長度適當?shù)臄?shù)組

#將df['data1']按照分組鍵為df['key1']進行分組
grouped=df['data1'].groupby(df['key1'])
print(grouped.mean())

key1
a   -0.257707
b    0.287671
Name: data1, dtype: float64

states=np.array(['Ohio','California','California','Ohio','Ohio'])
years=np.array([2005,2005,2006,2005,2006])
#states第一層索引，years第二層分層索引
print(df['data1'].groupby([states,years]).mean())
California  2005    0.791463
            2006    0.462611
Ohio        2005   -0.764611
            2006    0.077367
Name: data1, dtype: float64


#df根據(jù)‘key1’分組，然后對df剩余數(shù)值型的數(shù)據(jù)運算
df.groupby('key1').mean()
         data1     data2
key1                    
a    -0.257707  0.138120
b     0.287671  1.239013
#可以看出沒有key2列，因為df[‘key2’]不是數(shù)值數(shù)據(jù)，所以被從結果中移除。默認情況下，所有數(shù)值列都會被聚合，雖然有時可能被過濾為一個子集。

對分組進行迭代

#name就是groupby中的key1的值，group就是要輸出的內(nèi)容
for name, group in df.groupby('key1'):
        print (name,group)

a       data1     data2 key1 key2
0 -1.313101 -0.453361    a  one
2  0.462611  1.150597    a  one
4  0.077367 -0.282876    a  one
b       data1     data2 key1 key2
1  0.791463  1.096693    b  two
3 -0.216121  1.381333    b  two

對group by后的內(nèi)容進行操作，可轉換成字典

#轉化為字典
piece=dict(list(df.groupby('key1')))

{'a':       data1     data2 key1 key2
 0 -1.313101 -0.453361    a  one
 2  0.462611  1.150597    a  one
 4  0.077367 -0.282876    a  one, 'b':       data1     data2 key1 key2
 1  0.791463  1.096693    b  two
 3 -0.216121  1.381333    b  two}
#對字典取值
value = piece['a']

groupby默認是在axis=0上進行分組的，通過設置也可以在其他任何軸上進行分組

grouped=df.groupby(df.dtypes, axis=1)
value = dict(list(grouped))
print(value)

{dtype('float64'):       data1     data2
0 -1.313101 -0.453361
1  0.791463  1.096693
2  0.462611  1.150597
3 -0.216121  1.381333
4  0.077367 -0.282876, dtype('O'):   key1 key2
0    a  one
1    b  two
2    a  one
3    b  two
4    a  one}

對于大數(shù)據(jù)，很多情況是只需要對部分列進行聚合

#對df進行'key1'，'key2'的兩次分組，然后取data2的數(shù)據(jù)，對兩次細分的分組數(shù)據(jù)取均值
value = df.groupby(['key1','key2'])[['data2']].mean()

              data2
key1 key2          
a    one   0.138120
b    two   1.239013
----------------------------------
df
Out[1]: 
      data1     data2 key1 key2
0 -1.313101 -0.453361    a  one
1  0.791463  1.096693    b  two
2  0.462611  1.150597    a  one
3 -0.216121  1.381333    b  two
4  0.077367 -0.282876    a  one
----------------------------------

df['key2'].iloc[-1] ='two'

value = df.groupby(['key1','key2'])[['data2']].mean()

value
Out[2]: 
              data2
key1 key2          
a    one   0.348618
     two  -0.282876
b    two   1.239013