TestCrawler

TestCrawler蜘蛛/爬虫属于爬虫类型,由Unknown Author开发运行。您可以继续阅读下方信息,以深入了解TestCrawler基本信息,用户代理和访问控制等。

基本信息

TestCrawler的基本信息如下表。但部分不是很规范的蜘蛛和爬虫,可能存在信息不明的情况。
蜘蛛/爬虫名称
TestCrawler
类型
爬虫
开发商
Unknown Author
当前状态
活动

用户代理

关于TestCrawler蜘蛛或者爬虫的用户代理字符串,IP地址和服务器,所在地等信息如下表格所示:
TestCrawler/Nutch
用户代理字符串
TestCrawler/Nutch (https://about:blank/)
首次出现
2025-03-03 00:01:01
最后出现
2025-03-03 00:01:01
遵循robots.txt
未知
来源
IP地址(1) 服务器名称 所属国家
130.89.144.164 dacs-compute-03.ewi.utwente.nl NL
用户代理字符串
TestCrawler 2.0
首次出现
2017-07-07 10:48:23
最后出现
2017-07-07 10:48:23
遵循robots.txt
未知
来源
IP地址(1) 服务器名称 所属国家
54.90.170.122 ec2-54-90-170-122.compute-1.amazonaws.com US
用户代理字符串
Mozilla/5.0 (compatible; TestCrawler)
首次出现
2015-01-09 15:28:28
最后出现
2016-07-28 08:19:40
遵循robots.txt
未知
来源
IP地址(9) 服务器名称 所属国家
109.90.93.250 ip-109-090-093-250.um36.pools.vodafone-ip.de DE
185.113.153.58 ppp-185-113-153-58.pool21.filstalnetz.de DE
185.145.222.38 ppp-185-145-220-38.pool15.filstalnetz.de DE
185.145.220.85 ppp-185-145-220-85.pool13.filstalnetz.de DE
23.253.160.244 ? US
104.130.201.214 ? ?
104.130.195.46 ? ?
104.130.201.84 ? ?
192.237.175.30 ? ?
104.239.192.95 ? ?
104.130.198.252 ? ?
104.130.207.142 ? ?
104.130.69.107 ? ?
用户代理字符串
TestCrawler/Nutch-1.8
首次出现
2015-01-18 09:28:51
最后出现
2015-01-18 09:28:51
遵循robots.txt
未知
来源
IP地址(1) 服务器名称 所属国家
54.250.103.10 ec2-54-250-103-10.ap-northeast-1.compute.amazonaws.com ?
用户代理字符串
testcrawler/Nutch-2.2.1
首次出现
2013-12-09 16:34:26
最后出现
2013-12-12 18:15:38
遵循robots.txt
未知
来源
IP地址(2) 服务器名称 所属国家
182.149.54.5 ? CN
118.114.253.100 ? CN

访问控制

了解如何控制TestCrawler访问权限,避免TestCrawler抓取行为不当。

是否拦截TestCrawler?

可以考虑拦截。。爬虫通常会下载公开的互联网内容,这些内容默认情况下可以免费访问。不过,如果你不希望你的内容被用于未经授权的目的,你应该拦截它们。

通过Robots.txt拦截

您可以通过在网站的 robots.txt 中设置用户代理访问规则来屏蔽 TestCrawler 或限制其访问权限。我们建议安装 Spider Analyser 插件,以检查它是否真正遵循这些规则。

Plain text
Copy to clipboard
Open code in new window
EnlighterJS 3 Syntax Highlighter
# robots.txt
# 下列代码一般情况可以拦截该代理
User-agent: TestCrawler
Disallow: /
# robots.txt # 下列代码一般情况可以拦截该代理 User-agent: TestCrawler Disallow: /
	# robots.txt
	# 下列代码一般情况可以拦截该代理
	
	User-agent: TestCrawler
	Disallow: /

您无需手动执行此操作,可通过我们的 Wordpress 插件 Spider Analyser 来拦截不必要的蜘蛛或者爬虫。

常见蜘蛛/爬虫

Common Spiders
TimeTravelAggregator-lanl
TimeTravelAggregator-lanl蜘蛛/爬虫属于爬虫类型,由Unknown Author开发运行。您可以继续阅读下方信息,以深入了解TimeTravelAggregator-lanl基本信息,用户代理和访问控制等。
fedcrawl
fedcrawl蜘蛛/爬虫属于爬虫类型,由Unknown Author开发运行。您可以继续阅读下方信息,以深入了解fedcrawl基本信息,用户代理和访问控制等。
TestCrawler
TestCrawler蜘蛛/爬虫属于爬虫类型,由Unknown Author开发运行。您可以继续阅读下方信息,以深入了解TestCrawler基本信息,用户代理和访问控制等。
linus-torvalds-loves-you
linus-torvalds-loves-you蜘蛛/爬虫属于爬虫类型,由Unknown Author开发运行。您可以继续阅读下方信息,以深入了解linus-torvalds-loves-you基本信息,用户代理和访问控制等。
Guest
Guest蜘蛛/爬虫属于爬虫类型,由Unknown Author开发运行。您可以继续阅读下方信息,以深入了解Guest基本信息,用户代理和访问控制等。
white-analyz-bug
white-analyz-bug蜘蛛/爬虫属于爬虫类型,由Unknown Author开发运行。您可以继续阅读下方信息,以深入了解white-analyz-bug基本信息,用户代理和访问控制等。
Gensparkbot
Gensparkbot蜘蛛/爬虫属于爬虫类型,由Unknown Author开发运行。您可以继续阅读下方信息,以深入了解Gensparkbot基本信息,用户代理和访问控制等。
WF search
WF search蜘蛛/爬虫属于爬虫类型,由Unknown Author开发运行。您可以继续阅读下方信息,以深入了解WF search基本信息,用户代理和访问控制等。

相关文章

Related Articles