本文详解如何在 pyspark 中构建复合窗口,同时满足“最近 n 行”和“最近 m 天”双重条件,通过 `collect_list` + `filter` 组合实现高效、可读的历史结构化字段生成。
在实际数据分析场景中,常需为每条记录聚合其“有效历史”——既不能无限制回溯(避免性能与语义失真),也不能仅依赖固定行偏移(忽略时间稀疏性)。典型需求如:对每个用户,收集当前行前最多 2 条、且日期距今不超过 10 天的记录,并结构化为元组列表。PySpark 原生窗口(rowsBetween)仅支持行数约束,不直接支持时间范围过滤;但可通过“先取宽窗口 + 后过滤”的两阶段策略优雅解决。
核心思路分三步:
- 构造结构化内容列:使用 struct(‘id’, ‘date’, ‘value’) 将目标字段打包为嵌套结构,便于后续统一处理;
- 定义宽松行窗口:rowsBetween(-3, -1)(取前 3 行中的前 2 行,预留缓冲)获取初步候选集;
- 时间条件后过滤:用 filter(history, x -> x.date >= date – interval 10 days) 动态剔除超时记录。
以下是完整可运行示例(注意:示例中为演示简洁使用 interval 2 day,实际应替换为 interval 10 days):