URLFinder:一款高效全面的页面信息提取工具
项目基础介绍和主要编程语言
URLFinder 是一款由 pingc0y 开发的开源项目,主要用于快速、全面地提取网页中的 JavaScript、URL 和敏感信息。该项目的主要编程语言是 Go,这使得它能够在多种操作系统上高效运行,包括 Windows、Linux 和 macOS。
项目核心功能
URLFinder 的核心功能包括:
- 快速信息提取:能够快速发现和提取页面中的 JavaScript 文件、URL 链接以及敏感信息。
- 状态码过滤:支持根据状态码过滤结果,用户可以选择显示特定状态码的链接。
- 批量处理:支持批量 URL 抓取,并可以将结果分开保存或统一保存。
- 自定义配置:用户可以通过 YAML 配置文件自定义请求头、抓取规则等。
- 代理支持:支持设置 HTTP 代理,方便在不同网络环境下使用。
- 结果导出:支持将提取结果导出为 CSV、JSON 和 HTML 文件。
项目最近更新的功能
URLFinder 最近更新的功能包括:
- 修复重复验证问题:2023年9月9日,修复了
-ff
参数的重复验证问题。 - 自动识别协议:修复了自动识别 HTTP/HTTPS 协议的 bug。
- 子目录定位修复:2023年9月2日,修复了子目录定位的 bug。
- 配置请求头修复:2023年8月30日,修复了
-i
参数配置请求头的错误问题。 - 支持自动识别 HTTP/HTTPS:2023年8月30日,新增了自动识别 HTTP/HTTPS 协议的功能。
- 结果导出优化:
-o
参数支持输入完整文件名,可以只导出指定类型的结果。 - 无颜色链接显示:无
-s
参数时,链接改为无颜色显示,方便使用管道符。 - 自定义配置增强:
-i
配置文件支持自定义线程数、抓取深度、敏感路由、超时时间、最大抓取数等。 - 新增超时时间设置:新增
-time
参数,用于设置超时时间。 - 新增最大抓取数设置:新增
-max
参数,用于设置最大抓取数。 - 版本更新提示:新增版本更新提示功能。
通过这些更新,URLFinder 在功能和稳定性上都有了显著的提升,为用户提供了更加高效和全面的页面信息提取体验。
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考