판다 집계 수 구별

사용자 활동에 대한 로그가 있고 총 기간 및 일일 순 사용자 수에 대한 보고서를 생성하려고한다고 가정 해 보겠습니다.

import numpy as np
import pandas as pd
df = pd.DataFrame({'date': ['2013-04-01','2013-04-01','2013-04-01','2013-04-02', '2013-04-02'],
    'user_id': ['0001', '0001', '0002', '0002', '0002'],
    'duration': [30, 15, 20, 15, 30]})

기간 집계는 매우 간단합니다.

group = df.groupby('date')
agg = group.aggregate({'duration': np.sum})
agg
            duration
date
2013-04-01        65
2013-04-02        45

내가하고 싶은 것은 기간을 합하고 동시에 구별되는 것을 계산하는 것이지만 count_distinct에 해당하는 것을 찾을 수 없습니다.

agg = group.aggregate({ 'duration': np.sum, 'user_id': count_distinct})

이것은 작동하지만 확실히 더 나은 방법이 있습니다.

group = df.groupby('date')
agg = group.aggregate({'duration': np.sum})
agg['uv'] = df.groupby('date').user_id.nunique()
agg
            duration  uv
date
2013-04-01        65   2
2013-04-02        45   1

Series 객체의 개별 항목 수를 집계 함수로 반환하는 함수를 제공해야한다고 생각하고 있지만 원하는대로 다양한 라이브러리에 많이 노출되지는 않습니다. 또한 groupby 객체는 이미이 정보를 알고있는 것 같습니다. 그래서 노력을 복제하는 것이 아닐까요?

다음 중 하나는 어떻습니까?

>>> df
         date  duration user_id
0  2013-04-01        30    0001
1  2013-04-01        15    0001
2  2013-04-01        20    0002
3  2013-04-02        15    0002
4  2013-04-02        30    0002
>>> df.groupby("date").agg({"duration": np.sum, "user_id": pd.Series.nunique})
            duration  user_id
date                         
2013-04-01        65        2
2013-04-02        45        1
>>> df.groupby("date").agg({"duration": np.sum, "user_id": lambda x: x.nunique()})
            duration  user_id
date                         
2013-04-01        65        2
2013-04-02        45        1

'nunique'는 pandas 0.20.0부터 .agg ()에 대한 옵션이므로 다음과 같습니다.

df.groupby('date').agg({'duration': 'sum', 'user_id': 'nunique'})

이미 주어진 답변에 추가하기 만하면 문자열을 사용하는 솔루션 "nunique"이 훨씬 빨라 보이며 여기에서 ~ 21M 행 데이터 프레임에서 테스트 한 다음 ~ 2M으로 그룹화됩니다.

%time _=g.agg({"id": lambda x: x.nunique()})
CPU times: user 3min 3s, sys: 2.94 s, total: 3min 6s
Wall time: 3min 20s

%time _=g.agg({"id": pd.Series.nunique})
CPU times: user 3min 2s, sys: 2.44 s, total: 3min 4s
Wall time: 3min 18s

%time _=g.agg({"id": "nunique"})
CPU times: user 14 s, sys: 4.76 s, total: 18.8 s
Wall time: 24.4 s