img2dataset

img2dataset蜘蛛/爬虫属于爬虫类型,由Romain Beaumont开发运行。您可以继续阅读下方信息,以深入了解img2dataset基本信息,用户代理和访问控制等。

基本信息

img2dataset的基本信息如下表。但部分不是很规范的蜘蛛和爬虫,可能存在信息不明的情况。
蜘蛛/爬虫名称
img2dataset
类型
爬虫
开发商
Romain Beaumont
当前状态
活动

用户代理

关于img2dataset蜘蛛或者爬虫的用户代理字符串,IP地址和服务器,所在地等信息如下表格所示:
img2dataset 1.0
用户代理字符串
Mozilla/5.0 (X11; Ubuntu; Linux x86_64; rv:72.0) Gecko/20100101 Firefox/72.0 (compatible; user-agent: download bot/0.1 / img2dataset 1.0; +https://github.com/rom1504/img2dataset)
首次出现
2024-06-28 05:11:38
最后出现
2024-07-08 05:41:19
遵循robots.txt
未知
来源
IP地址(1) 服务器名称 所属国家
74.80.190.15 davenport.medicineuptotheminute.com US
用户代理字符串
Mozilla/5.0 (X11; Ubuntu; Linux x86_64; rv:72.0) Gecko/20100101 Firefox/72.0 (compatible; mozilla/5.0 (windows nt 6.1; win64; x64; rv:47.0) gecko/20100101 firefox/47.0; +https://github.com/rom1504/img2dataset)
首次出现
2023-08-14 19:07:02
最后出现
2023-08-14 19:07:02
遵循robots.txt
未知
来源
IP地址(1) 服务器名称 所属国家
180.184.68.243 180.184.68.243 CN
180.184.46.37 180.184.46.37 CN
180.184.46.38 180.184.46.38 CN
213.244.248.49 213.244.248.49 RO
20.94.199.93 20.94.199.93 US
213.244.248.43 213.244.248.43 RO
213.244.248.48 213.244.248.48 RO
213.244.248.47 213.244.248.47 RO
147.185.40.159 147.185.40.159 US
3.129.67.141 ec2-3-129-67-141.us-east-2.compute.amazonaws.com US
3.147.57.121 ec2-3-147-57-121.us-east-2.compute.amazonaws.com US
3.146.34.205 ec2-3-146-34-205.us-east-2.compute.amazonaws.com US
18.117.106.195 ec2-18-117-106-195.us-east-2.compute.amazonaws.com US
3.147.49.143 ec2-3-147-49-143.us-east-2.compute.amazonaws.com US
130.83.94.94 lab11.visinf.informatik.tu-darmstadt.de DE
130.83.94.102 lab05.visinf.informatik.tu-darmstadt.de DE
130.83.192.132 node17.visinf.informatik.tu-darmstadt.de DE
130.83.90.242 vidgx01.visinf.informatik.tu-darmstadt.de DE
130.83.90.248 node15.visinf.informatik.tu-darmstadt.de DE
130.83.94.32 node12.visinf.informatik.tu-darmstadt.de DE
130.83.90.250 node16.visinf.informatik.tu-darmstadt.de DE
130.83.94.107 lab20.visinf.informatik.tu-darmstadt.de DE
用户代理字符串
Mozilla/5.0 (X11; Ubuntu; Linux x86_64; rv:72.0) Gecko/20100101 Firefox/72.0 (compatible; img2downloader; +https://github.com/rom1504/img2dataset)
首次出现
2023-04-23 05:58:43
最后出现
2023-04-24 12:40:29
遵循robots.txt
未知
来源
IP地址(1) 服务器名称 所属国家
35.188.72.43 43.72.188.35.bc.googleusercontent.com US

访问控制

了解如何控制img2dataset访问权限,避免img2dataset抓取行为不当。

是否拦截img2dataset?

可以考虑拦截。。爬虫通常会下载公开的互联网内容,这些内容默认情况下可以免费访问。不过,如果你不希望你的内容被用于未经授权的目的,你应该拦截它们。

通过Robots.txt拦截

您可以通过在网站的 robots.txt 中设置用户代理访问规则来屏蔽 img2dataset 或限制其访问权限。我们建议安装 Spider Analyser 插件,以检查它是否真正遵循这些规则。

	# robots.txt
	# 下列代码一般情况可以拦截该代理
	
	User-agent: img2dataset
	Disallow: /

您无需手动执行此操作,可通过我们的 Wordpress 插件 Spider Analyser 来拦截不必要的蜘蛛或者爬虫。

常见蜘蛛/爬虫

Common Spiders

相关文章

Related Articles