PySpark 窗口函数:结合时间范围与行数限制的动态历史聚合-Python教程

本文介绍如何在 pyspark 中构建复合窗口,同时满足“最近 n 行”和“最近 m 天”双重约束,通过 `collect_list` + `filter` 实现精准的历史结构化聚合。

在实际时序数据分析中,仅依赖固定行数(如 rowsBetween(-2, -1))或纯时间范围(如 rangeBetween 配合 date 列)往往不够灵活——例如业务要求:“对每个记录,收集其前 2 条且日期不超过 10 天的历史记录”。PySpark 原生窗口不支持直接混合 rowsBetween 与时间条件,但可通过两阶段策略优雅解决:先用宽泛行窗口预聚合,再用 filter 表达式按时间动态裁剪。

核心思路如下:

  1. 构造结构化内容列:使用 struct(‘id’, ‘date’, ‘value’) 将所需字段打包为嵌套结构,便于后续统一处理;
  2. 定义宽松行窗口:rowsBetween(-3, -1)(预留冗余行,确保覆盖可能的 2 行+边界情况),配合 orderBy(‘date’) 和 partitionBy(‘id’) 保证逻辑顺序;
  3. 后置时间过滤:利用 filter(history, x -> x.date >= date – interval 10 days) 动态剔除超期记录(注意:示例中为 interval 2 day 仅为演示,实际应改为 interval 10 days);
  4. 结果格式化(可选):若需输出为字符串形式(如 (1, 2023-05-01, 200)),可追加 transform + concat 或 UDF,但推荐保持 array 类型以利下游计算。

✅ 完整可运行代码(已修正为 10 天约束):

夏夕资源网专注于CMS网站模板,主流语言整站网站源码下载,网站建设相关教程分享,好用的软件素材整合下载,提供一站式便捷自助服务。
1. 本站所有资源来源于用户上传和网络,如有侵权请邮件联系站长!
2. 分享目的仅供大家学习和交流,您必须在下载后24小时内删除!
3. 不得使用于非法商业用途,不得违反国家法律。否则后果自负!
4. 本站提供的源码、模板、插件等等其他资源,都不包含技术服务请大家谅解!
5. 如有链接无法下载、失效或广告,请联系管理员处理!
6. 本站资源售价只是赞助,收取费用仅维持本站的日常运营所需!
7. 如遇到加密压缩包,默认解压密码为"zy.lucklyus.top",如遇到无法解压的请联系管理员!
夏夕资源网-网站模板_免费源码_资源素材 » PySpark 窗口函数:结合时间范围与行数限制的动态历史聚合-Python教程
在线时间:12:00 - 22:00
关注微信公众号:微信公众号
站长邮箱:[email protected]
  • 运营天数: 1391+
  • 资源总数: 47989+
  • 用户总数: 1+
  • 今日更新: 0+
  • 访问次数: 3999860+
  • 本周更新: 0+
  • 最后更新: 2026-03-16

本站指数

×
  • 运营天数: 1391+
  • 资源总数: 47989+
  • 用户总数: 1+
  • 今日更新: 0+
  • 访问次数: 3999860+
  • 本周更新: 0+
  • 最后更新: 2026-03-16