如何使用浏览器自动化技术抓取由 JavaScript 动态生成的 PDF 链接-html教程

本文介绍为何传统 html 解析无法获取网页中由 javascript 动态渲染的 pdf 链接,并提供基于 f# 的浏览器自动化解决方案(canopy + chromedriver),实现可靠、可等待、可交互的 pdf 链接提取。

在爬取类似 https://www.kodis.cz/lines/region?tab=232-293 这类现代前端网站时,你可能会发现:无论使用 FSharp.Data.HtmlProvider、HtmlAgilityPack 还是 HttpClient 获取原始 HTML,都无法提取到 PDF 文件链接(如 https://kodis-files.s3.eu-central-1.amazonaws.com/…pdf)。根本原因在于:这些 标签并非存在于服务端返回的初始 HTML 中,而是由 React 框架在浏览器中运行 JavaScript 后动态插入 DOM 的。

这意味着:

  • 服务端响应中
    内容为空或仅含占位符;

  • 所有 PDF 链接均由客户端 JS 异步加载(可能通过 API 请求后渲染);
  • 纯静态 HTML 解析器(包括 HtmlDocument.Load())只能看到“骨架”,看不到“血肉”。
  • ✅ 正确解法:使用真实浏览器环境执行 JS,再提取渲染后的 DOM。

    推荐方案:F# + Canopy 浏览器自动化

    Canopy 是一个轻量、函数式风格的 F# 浏览器自动化库(底层基于 Selenium WebDriver),专为简洁、可读性强的 UI 测试与爬虫场景设计。

    立即学习“Java免费学习笔记(深入)”;

夏夕资源网专注于CMS网站模板,主流语言整站网站源码下载,网站建设相关教程分享,好用的软件素材整合下载,提供一站式便捷自助服务。
1. 本站所有资源来源于用户上传和网络,如有侵权请邮件联系站长!
2. 分享目的仅供大家学习和交流,您必须在下载后24小时内删除!
3. 不得使用于非法商业用途,不得违反国家法律。否则后果自负!
4. 本站提供的源码、模板、插件等等其他资源,都不包含技术服务请大家谅解!
5. 如有链接无法下载、失效或广告,请联系管理员处理!
6. 本站资源售价只是赞助,收取费用仅维持本站的日常运营所需!
7. 如遇到加密压缩包,默认解压密码为"zy.lucklyus.top",如遇到无法解压的请联系管理员!
夏夕资源网-网站模板_免费源码_资源素材 » 如何使用浏览器自动化技术抓取由 JavaScript 动态生成的 PDF 链接-html教程
在线时间:12:00 - 22:00
关注微信公众号:微信公众号
站长邮箱:[email protected]
  • 运营天数: 1391+
  • 资源总数: 47989+
  • 用户总数: 1+
  • 今日更新: 0+
  • 访问次数: 3995122+
  • 本周更新: 0+
  • 最后更新: 2026-03-16

本站指数

×
  • 运营天数: 1391+
  • 资源总数: 47989+
  • 用户总数: 1+
  • 今日更新: 0+
  • 访问次数: 3995123+
  • 本周更新: 0+
  • 最后更新: 2026-03-16