如何使用Gau针对任意指定域名执行URL收集任务

2024-06-24 276 0

关于Gau

Gau是一款功能强大的URL收集工具,该工具可以针对任意指定的域名,从AlienVault的开放威胁交换器、Wayback Machine、Common Crawl平台和URLScan收集并爬取已知的URL地址。

Gau,全称为GetAllUrls。该工具灵感来源于Tomnomnom的waybackurls项目,该工具可以有效帮助广大研究人员顺利完成安全测试过程中的URL信息收集任务。

工具要求

Go语言环境

工具下载

由于该工具基于Go语言开发,因此我们首先需要在本地设备上安装并配置好最新版本的Go环境。

源码安装

接下来,广大研究人员可以直接使用下列命令将该项目源码克隆至本地:

git clone https://github.com/lc/gau.git; \

然后切换到项目目录中,使用下列命令构建项目代码:

cd gau/cmd; \

go build; \

sudo mv gau /usr/local/bin/; \

gau --version;

Go安装

除此之外,我们还可以直接使用go install命令安装最新版本的Gau:

$ go install github.com/lc/gau/v2/cmd/gau@latest

Docker安装

我们还可以通过Docker文件来运行Gau:

docker run --rm sxcurity/gau:latest --help

或者使用下列命令构建一个Docker镜像:

docker build -t gau .

运行命令如下:

docker run gau example.com

工具帮助信息

下列命令可以直接查看该工具支持的参数选项和使用样例:

$ gau -h

命令选项

描述

使用样例

--blacklist

需要跳过的后缀列表

gau --blacklist ttf,woff,svg,png

--fc

过滤器状态码列表

gau --fc 404,302

--from

根据开始日期获取URL (格式: YYYYMM)

gau --from 202101

--ft

过滤器mime-types列表

gau --ft text/plain

--fp

移除同一终端的不同参数

gau --fp

--json

以JSON格式输出

gau --json

--mc

要匹配的状态码列表

gau --mc 200,500

--mt

要匹配的mime-types列表

gau --mt text/html,application/json

--o

要写入输出结果的文件名

gau --o out.txt

--providers

要使用的提供商列表 (wayback,commoncrawl,otx,urlscan)

gau --providers wayback

--proxy

要使用的HTTP代理 (socks5:// or http://)

gau --proxy http://proxy.example.com:8080

--retries

HTTP客户端重连次数

gau --retries 10

--timeout

HTTP客户端超时(秒)

gau --timeout 60

--subs

包含目标域名的子域名

gau example.com --subs

--threads

要生成的Worker数量

gau example.com --threads

--to

根据结束日期获取URL (格式: YYYYMM)

gau example.com --to 202101

--verbose

显示Verbose输出

gau --verbose example.com

--version

显示工具版本

gau --version

配置文件

Gau会自动定位并寻找“$HOME/.gau.toml”或“%USERPROFILE%\.gau.toml”路径下的配置文件,我们可以在配置文件中指定参数选项,以方便每一次的任务执行。项目提供了一份配置文件样例,路径为“gau/.gau.toml”,文件样例如下:

threads = 2

verbose = false

retries = 15

subdomains = false

parameters = false

providers = ["wayback","commoncrawl","otx","urlscan"]

blacklist = ["ttf","woff","svg","png","jpg"]

json = false

 

[urlscan]

  apikey = ""

 

[filters]

  from = ""

  to = ""

  matchstatuscodes = []

  matchmimetypes = []

  filterstatuscodes = []

  filtermimetypes = ["image/png", "image/jpg", "image/svg+xml"]

工具使用样例

$ printf example.com | gau
$ cat domains.txt | gau --threads 5
$ gau example.com google.com
$ gau --o example-urls.txt example.com
$ gau --blacklist png,jpg,gif example.com

许可证协议

本项目的开发与发布遵循MIT开源许可协议。

项目地址

Gau:【GitHub传送门

参考资料

https://otx.alienvault.com/

https://github.com/tomnomnom/waybackurls


4A评测 - 免责申明

本站提供的一切软件、教程和内容信息仅限用于学习和研究目的。

不得将上述内容用于商业或者非法用途,否则一切后果请用户自负。

本站信息来自网络,版权争议与本站无关。您必须在下载后的24个小时之内,从您的电脑或手机中彻底删除上述内容。

如果您喜欢该程序,请支持正版,购买注册,得到更好的正版服务。如有侵权请邮件与我们联系处理。敬请谅解!

程序来源网络,不确保不包含木马病毒等危险内容,请在确保安全的情况下或使用虚拟机使用。

侵权违规投诉邮箱:4ablog168#gmail.com(#换成@)

相关文章

苹果试图保护你的隐私,OpenAI可能做不到
Shuffle:一款完全自动化的安全栈增强平台
如何使用CODASM编码Payload并降低熵值
SessionExec:一款针对会话安全的安全命令测试工具
Arkime:一款大规模数据包捕获和索引数据库系统
从蓝队流量角度分析Shiro-550反序列化漏洞

发布评论