FAST bot

FAST bot蜘蛛/爬虫属于类型,由Fast Search & Transfer开发运行。您可以继续阅读下方信息,以深入了解FAST bot基本信息,用户代理和访问控制等。

基本信息

FAST bot的基本信息如下表。但部分不是很规范的蜘蛛和爬虫,可能存在信息不明的情况。
蜘蛛/爬虫名称
FAST bot
类型
其他
开发商
Fast Search & Transfer
当前状态
活动

用户代理

关于FAST bot蜘蛛或者爬虫的用户代理字符串,IP地址和服务器,所在地等信息如下表格所示:
FAST-WebCrawler/3.7
用户代理字符串
FAST-WebCrawler/3.7 (atw-crawler at fast dot no; http://fast.no/support/crawler.asp)
首次出现
2015-02-19 07:08:25
最后出现
2023-02-12 16:16:39
遵循robots.txt
未知
来源
IP地址(2) 服务器名称 所属国家
46.161.9.8 46.161.9.8 RU
178.205.246.174 178.205.246.174 RU
用户代理字符串
FAST Enteprise Crawler/6 (www dot fastsearch dot com)
首次出现
2015-02-12 06:31:22
最后出现
2023-02-05 13:57:23
遵循robots.txt
未知
来源
IP地址(1) 服务器名称 所属国家
178.205.246.187 178.205.246.187 RU
用户代理字符串
FAST-WebCrawler/3.8
首次出现
2016-01-26 13:02:26
最后出现
2021-05-06 01:11:05
遵循robots.txt
未知
来源
IP地址(81) 服务器名称 所属国家
159.65.17.190 159.65.17.190 GB
49.149.87.65 ? PH
115.135.181.35 ? MY
115.135.181.143 ? MY
27.190.98.246 ? CN
122.167.69.144 ? IN
190.173.127.205 190-173-127-205.speedy.com.ar AR
176.33.253.68 host-176-33-253-68.reverse.superonline.net TR
179.185.69.101 ? BR
112.133.236.176 ? IN
用户代理字符串
FAST-WebCrawler/3.6/FirstPage (atw-crawler at fast dot no;http://fast.no/support/crawler.asp)
首次出现
2015-03-28 10:32:57
最后出现
2016-03-28 10:32:57
遵循robots.txt
未知
来源
IP地址(1) 服务器名称 所属国家
185.129.148.205 ? LV
用户代理字符串
FAST-WebCrawler/3.7/FirstPage (atw-crawler at fast dot no;http://fast.no/support/crawler.asp)
首次出现
2015-01-18 22:21:36
最后出现
2016-01-18 22:21:36
遵循robots.txt
未知

访问控制

了解如何控制FAST bot访问权限,避免FAST bot抓取行为不当。

是否拦截FAST bot?

对于未知蜘蛛或者爬虫。它的用途对网站来说可能是好的,也可能是坏的,这取决于它是什么。所以说,这需要站长进一步分析判断这些尚不明确的爬虫行为,再作最终决定。 但,根据以往的经验,未声明行为目的及未命名的蜘蛛爬虫,通常都有不可告人的秘密,我们理应对其行为进行控制,比如拦截。

通过Robots.txt拦截

您可以通过在网站的 robots.txt 中设置用户代理访问规则来屏蔽 FAST bot 或限制其访问权限。我们建议安装 Spider Analyser 插件,以检查它是否真正遵循这些规则。

	# robots.txt
	# 下列代码一般情况可以拦截该代理
	
	User-agent: FAST bot
	Disallow: /

您无需手动执行此操作,可通过我们的 Wordpress 插件 Spider Analyser 来拦截不必要的蜘蛛或者爬虫。

常见蜘蛛/爬虫

Common Spiders
DataForSeo bot
DataForSeo bot蜘蛛/爬虫属于类型,由DataForSEO OU开发运行。您可以继续阅读下方信息,以深入了解DataForSeo bot基本信息,用户代理和访问控制等。
CloudFlare crawler
CloudFlare crawler蜘蛛/爬虫属于类型,由CloudFlare, Inc.开发运行。您可以继续阅读下方信息,以深入了解CloudFlare crawler基本信息,用户代理和访问控制等。
Odin
Odin蜘蛛/爬虫属于类型,由Cyble, Inc.开发运行。您可以继续阅读下方信息,以深入了解Odin基本信息,用户代理和访问控制等。
Chrome Privacy Preserving Prefetch Proxy
Chrome Privacy Preserving Prefetch Proxy蜘蛛/爬虫属于类型,由Google Inc.开发运行。您可以继续阅读下方信息,以深入了解Chrome Privacy Preserving Prefetch Proxy基本信息,用户代理和访问控制等。
EFF crawler
EFF crawler蜘蛛/爬虫属于类型,由Electronic Frontier Foundation开发运行。您可以继续阅读下方信息,以深入了解EFF crawler基本信息,用户代理和访问控制等。
Modat crawler
Modat crawler蜘蛛/爬虫属于类型,由Modat B.V.开发运行。您可以继续阅读下方信息,以深入了解Modat crawler基本信息,用户代理和访问控制等。
FirmoGraph
FirmoGraph蜘蛛/爬虫属于类型,由firmograph.io开发运行。您可以继续阅读下方信息,以深入了解FirmoGraph基本信息,用户代理和访问控制等。
fluid
fluid蜘蛛/爬虫属于类型,由leak.info开发运行。您可以继续阅读下方信息,以深入了解fluid基本信息,用户代理和访问控制等。

相关文章

Related Articles