MetaGeneratorCrawler
MetaGeneratorCrawler蜘蛛/爬虫属于类型,由Jan Bogutzki开发运行。您可以继续阅读下方信息,以深入了解MetaGeneratorCrawler基本信息,用户代理和访问控制等。
基本信息
MetaGeneratorCrawler的基本信息如下表。但部分不是很规范的蜘蛛和爬虫,可能存在信息不明的情况。
- 蜘蛛/爬虫名称
- MetaGeneratorCrawler
- 类型
- 其他
- 开发商
-
Jan Bogutzki
- 当前状态
-
无效
用户代理
关于MetaGeneratorCrawler蜘蛛或者爬虫的用户代理字符串,IP地址和服务器,所在地等信息如下表格所示:
MetaGeneratorCrawler/1.3.12
-
MetaGeneratorCrawler/1.3.12
-
MetaGeneratorCrawler/1.3.9
-
MetaGeneratorCrawler/1.3.4
-
MetaGeneratorCrawler/1.3.2
-
MetaGeneratorCrawler/1.3.14
-
MetaGeneratorCrawler/1.3.3
-
MetaGeneratorCrawler/1.1
- 用户代理字符串
- MetaGeneratorCrawler/1.3.12 (www.metagenerator.info)
- 首次出现
- 2014-10-06 08:02:00
- 最后出现
- 2014-10-05 17:00:40
- 遵循robots.txt
- 未知
- 来源
-
IP地址(1) |
服务器名称 |
所属国家 |
82.82.167.19 |
dslc-082-082-167-019.pools.arcor-ip.net |
DE |
- 用户代理字符串
- MetaGeneratorCrawler/1.3.9 (www.metagenerator.info)
- 首次出现
- 2014-04-28 08:50:00
- 最后出现
- 2014-04-28 05:13:32
- 遵循robots.txt
- 未知
- 来源
-
IP地址(1) |
服务器名称 |
所属国家 |
82.82.171.165 |
dslc-082-082-171-165.pools.arcor-ip.net |
DE |
- 用户代理字符串
- MetaGeneratorCrawler/1.3.4 (www.metagenerator.info)
- 首次出现
- 2014-04-11 09:00:00
- 最后出现
- 2014-04-18 10:26:36
- 遵循robots.txt
- 未知
- 来源
-
IP地址(1) |
服务器名称 |
所属国家 |
82.82.171.165 |
dslc-082-082-171-165.pools.arcor-ip.net |
DE |
- 用户代理字符串
- MetaGeneratorCrawler/1.3.2 (www.metagenerator.info)
- 首次出现
- 2013-12-09 13:00:00
- 最后出现
- 2014-04-11 00:01:11
- 遵循robots.txt
- 未知
- 来源
-
IP地址(1) |
服务器名称 |
所属国家 |
82.82.171.165 |
dslc-082-082-171-165.pools.arcor-ip.net |
DE |
- 用户代理字符串
- MetaGeneratorCrawler/1.3.14 (www.metagenerator.info)
- 首次出现
- 2013-12-12 02:46:21
- 最后出现
- 2013-12-12 02:46:22
- 遵循robots.txt
- 未知
- 来源
-
IP地址(1) |
服务器名称 |
所属国家 |
82.83.46.243 |
dslc-082-083-046-243.pools.arcor-ip.net |
DE |
- 用户代理字符串
- MetaGeneratorCrawler/1.3.3 (www.metagenerator.info)
- 首次出现
- 2013-12-09 13:00:00
- 最后出现
- 2013-12-09 09:44:33
- 遵循robots.txt
- 未知
- 来源
-
IP地址(1) |
服务器名称 |
所属国家 |
82.83.46.243 |
dslc-082-083-046-243.pools.arcor-ip.net |
DE |
- 用户代理字符串
- MetaGeneratorCrawler/1.1 (www.metagenerator.info)
- 首次出现
- 2011-03-14 19:52:28
- 最后出现
- 2011-11-18 01:12:47
- 遵循robots.txt
- 未知
- 来源
-
IP地址(1) |
服务器名称 |
所属国家 |
178.77.75.166 |
www.jabubo.com |
DE |
访问控制
了解如何控制MetaGeneratorCrawler访问权限,避免MetaGeneratorCrawler抓取行为不当。
是否拦截MetaGeneratorCrawler?
对于未知蜘蛛或者爬虫。它的用途对网站来说可能是好的,也可能是坏的,这取决于它是什么。所以说,这需要站长进一步分析判断这些尚不明确的爬虫行为,再作最终决定。
但,根据以往的经验,未声明行为目的及未命名的蜘蛛爬虫,通常都有不可告人的秘密,我们理应对其行为进行控制,比如拦截。
通过Robots.txt拦截
您可以通过在网站的 robots.txt 中设置用户代理访问规则来屏蔽 MetaGeneratorCrawler 或限制其访问权限。我们建议安装 Spider Analyser
插件,以检查它是否真正遵循这些规则。
# robots.txt
# 下列代码一般情况可以拦截该代理
User-agent: MetaGeneratorCrawler
Disallow: /
您无需手动执行此操作,可通过我们的 Wordpress 插件 Spider Analyser 来拦截不必要的蜘蛛或者爬虫。