TestCrawler

TestCrawler蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解TestCrawler基本資訊,使用者代理和訪問控制等。

基本資訊

TestCrawler的基本資訊如下表。但部分不是很規範的蜘蛛和爬蟲,可能存在資訊不明的情況。
蜘蛛/爬蟲名稱
TestCrawler
型別
爬蟲
開發商
Unknown Author
當前狀態
活動

使用者代理

關於TestCrawler蜘蛛或者爬蟲的使用者代理字串,IP地址和伺服器,所在地等資訊如下表格所示:
TestCrawler/Nutch
使用者代理字串
TestCrawler/Nutch (https://about:blank/)
首次出現
2025-03-03 00:01:01
最後出現
2025-03-03 00:01:01
遵循robots.txt
未知
來源
IP地址(1) 伺服器名稱 所屬國家
130.89.144.164 dacs-compute-03.ewi.utwente.nl NL
使用者代理字串
TestCrawler 2.0
首次出現
2017-07-07 10:48:23
最後出現
2017-07-07 10:48:23
遵循robots.txt
未知
來源
IP地址(1) 伺服器名稱 所屬國家
54.90.170.122 ec2-54-90-170-122.compute-1.amazonaws.com US
使用者代理字串
Mozilla/5.0 (compatible; TestCrawler)
首次出現
2015-01-09 15:28:28
最後出現
2016-07-28 08:19:40
遵循robots.txt
未知
來源
IP地址(9) 伺服器名稱 所屬國家
109.90.93.250 ip-109-090-093-250.um36.pools.vodafone-ip.de DE
185.113.153.58 ppp-185-113-153-58.pool21.filstalnetz.de DE
185.145.222.38 ppp-185-145-220-38.pool15.filstalnetz.de DE
185.145.220.85 ppp-185-145-220-85.pool13.filstalnetz.de DE
23.253.160.244 ? US
104.130.201.214 ? ?
104.130.195.46 ? ?
104.130.201.84 ? ?
192.237.175.30 ? ?
104.239.192.95 ? ?
104.130.198.252 ? ?
104.130.207.142 ? ?
104.130.69.107 ? ?
使用者代理字串
TestCrawler/Nutch-1.8
首次出現
2015-01-18 09:28:51
最後出現
2015-01-18 09:28:51
遵循robots.txt
未知
來源
IP地址(1) 伺服器名稱 所屬國家
54.250.103.10 ec2-54-250-103-10.ap-northeast-1.compute.amazonaws.com ?
使用者代理字串
testcrawler/Nutch-2.2.1
首次出現
2013-12-09 16:34:26
最後出現
2013-12-12 18:15:38
遵循robots.txt
未知
來源
IP地址(2) 伺服器名稱 所屬國家
182.149.54.5 ? CN
118.114.253.100 ? CN

訪問控制

瞭解如何控制TestCrawler訪問許可權,避免TestCrawler抓取行為不當。

是否攔截TestCrawler?

可以考慮攔截。。爬蟲通常會下載公開的網際網路內容,這些內容預設情況下可以免費訪問。不過,如果你不希望你的內容被用於未經授權的目的,你應該攔截它們。

通過Robots.txt攔截

您可以通過在網站的 robots.txt 中設定使用者代理訪問規則來遮蔽 TestCrawler 或限制其訪問許可權。我們建議安裝 Spider Analyser 外掛,以檢查它是否真正遵循這些規則。

Plain text
Copy to clipboard
Open code in new window
EnlighterJS 3 Syntax Highlighter
# robots.txt
# 下列程式碼一般情況可以攔截該代理
User-agent: TestCrawler
Disallow: /
# robots.txt # 下列程式碼一般情況可以攔截該代理 User-agent: TestCrawler Disallow: /
	# robots.txt
	# 下列程式碼一般情況可以攔截該代理
	
	User-agent: TestCrawler
	Disallow: /

您無需手動執行此操作,可通過我們的 Wordpress 外掛 Spider Analyser 來攔截不必要的蜘蛛或者爬蟲。

常見蜘蛛/爬蟲

Common Spiders
TimeTravelAggregator-lanl
TimeTravelAggregator-lanl蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解TimeTravelAggregator-lanl基本資訊,使用者代理和訪問控制等。
fedcrawl
fedcrawl蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解fedcrawl基本資訊,使用者代理和訪問控制等。
TestCrawler
TestCrawler蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解TestCrawler基本資訊,使用者代理和訪問控制等。
linus-torvalds-loves-you
linus-torvalds-loves-you蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解linus-torvalds-loves-you基本資訊,使用者代理和訪問控制等。
Guest
Guest蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解Guest基本資訊,使用者代理和訪問控制等。
white-analyz-bug
white-analyz-bug蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解white-analyz-bug基本資訊,使用者代理和訪問控制等。
Gensparkbot
Gensparkbot蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解Gensparkbot基本資訊,使用者代理和訪問控制等。
WF search
WF search蜘蛛/爬蟲屬於爬蟲型別,由Unknown Author開發執行。您可以繼續閱讀下方資訊,以深入瞭解WF search基本資訊,使用者代理和訪問控制等。

相關文章

Related Articles