注册
> 工具>蜘蛛查询工具

MegaIndex

MegaIndex蜘蛛/爬虫属于营销类型，由ALTWeb Capital开发运行。您可以继续阅读下方信息，以深入了解MegaIndex基本信息，用户代理和访问控制等。

基本信息

MegaIndex的基本信息如下表。但部分不是很规范的蜘蛛和爬虫，可能存在信息不明的情况。
蜘蛛/爬虫名称
MegaIndex
类型
营销
开发商
ALTWeb Capital
当前状态
活动

用户代理

关于MegaIndex蜘蛛或者爬虫的用户代理字符串，IP地址和服务器，所在地等信息如下表格所示：
MegaIndex.ru/2.0
  • MegaIndex.ru/2.0
  • MegaIndex.com/2.0
  • MegaIndex.ru/2.0
  • MegaIndex.ru/2.0
用户代理字符串
Mozilla/5.0 (compatible; MegaIndex.ru/2.0; http://megaindex.com/crawler)
首次出现
2018-05-03 23:11:37
最后出现
2020-04-11 00:33:23
遵循robots.txt
未知
来源
IP地址(1) 服务器名称 所属国家
176.9.50.244 ? DE
用户代理字符串
Mozilla/5.0 (compatible; MegaIndex.com/2.0; +http://megaindex.com/crawler)
首次出现
2016-02-26 19:25:00
最后出现
2016-02-27 22:47:07
遵循robots.txt
未知
来源
IP地址(1) 服务器名称 所属国家
144.76.92.36 static.36.92.76.144.clients.your-server.de DE
用户代理字符串
Mozilla/5.0 (compatible; MegaIndex.ru/2.0; +https://www.megaindex.ru/?tab=linkAnalyze)
首次出现
2015-04-06 21:50:00
最后出现
2015-04-20 11:39:26
遵循robots.txt
否
来源
IP地址(4) 服务器名称 所属国家
5.9.98.178 ? DE
176.9.137.17 ? DE
176.9.41.28 ? DE
144.76.60.98 ? DE
176.9.50.244 ? DE
78.46.161.81 ? DE
46.4.72.213 ? DE
176.9.146.74 ? DE
5.9.6.51 static.51.6.9.5.clients.your-server.de DE
5.9.98.130 static.130.98.9.5.clients.your-server.de DE
46.4.100.132 ? DE
95.216.33.150 static.150.33.216.95.clients.your-server.de FI
2a01:4f8:162:3089::2 2a01:4f8:162:3089::2 DE
148.251.236.167 ? DE
5.9.151.67 static.67.151.9.5.clients.your-server.de DE
88.198.48.46 static.88-198-48-46.clients.your-server.de DE
5.9.156.11 static.11.156.9.5.clients.your-server.de DE
176.9.58.227 static.227.58.9.176.clients.your-server.de DE
176.9.139.229 ? DE
用户代理字符串
Mozilla/5.0 (compatible; MegaIndex.ru/2.0; +https://www.megaindex.ru/?tab=linkAnalyze)
首次出现
2015-04-06 21:50:00
最后出现
2015-04-20 11:39:26
遵循robots.txt
未知
来源
IP地址(4) 服务器名称 所属国家
148.251.236.167 ? DE
5.9.151.67 static.67.151.9.5.clients.your-server.de DE
88.198.48.46 static.88-198-48-46.clients.your-server.de DE
5.9.156.11 static.11.156.9.5.clients.your-server.de DE

访问控制

了解如何控制MegaIndex访问权限，避免MegaIndex抓取行为不当。

是否拦截MegaIndex？

一般不需要拦截，尤其是如果你自己也受益于搜索引擎优化服务。不过，如果你担心服务器资源占用等问题，且您都不使用这些工具，当然也可以选择拦截它们。

通过Robots.txt拦截

您可以通过在网站的 robots.txt 中设置用户代理访问规则来屏蔽 MegaIndex 或限制其访问权限。我们建议安装 Spider Analyser 插件，以检查它是否真正遵循这些规则。 

	# robots.txt
	# 下列代码一般情况可以拦截该代理
	
	User-agent: MegaIndex
	Disallow: /

您无需手动执行此操作，可通过我们的 Wordpress 插件 Spider Analyser 来拦截不必要的蜘蛛或者爬虫。

更多信息

MegaIndex为整个互联网的链接提供索引。对于网站管理员，索引器的逻辑支持robot.txt中 “User-agent:*”指令的限制。MegaIndex Crawler使用robot.txt中指定的Crawl-delay值。最大的允许值是不超过5s。

站长工具

我们为站长量身定做的高效工具集。
关键词查找工具
WP错误查找
robots.txt测试工具
SEO工具箱
WordPress主题检测器
SEO优化中心
WP开发宝典
蜘蛛查询工具
查看全部工具

常见蜘蛛/爬虫

Common Spiders
Googlebot
GoogleBot蜘蛛/爬虫属于搜索引擎类型，由Google Inc.开发运行。您可以继续阅读下方信息，以深入了解GoogleBot基本信息，用户代理和访问控制等。
Online Domain Tools
Online Domain Tools蜘蛛/爬虫属于监控类型，由AITIS s.r.o.开发运行。您可以继续阅读下方信息，以深入了解Online Domain Tools基本信息，用户代理和访问控制等。
AhrefsBot
AhrefsBot蜘蛛/爬虫属于营销类型，由Ahrefs Pte Ltd开发运行。您可以继续阅读下方信息，以深入了解AhrefsBot基本信息，用户代理和访问控制等。
SEMrushBot
SEMrushBot蜘蛛/爬虫属于营销类型，由Semrush Inc开发运行。您可以继续阅读下方信息，以深入了解SEMrushBot基本信息，用户代理和访问控制等。
DotBot
DotBot蜘蛛/爬虫属于营销类型，由SEOmoz, Inc.开发运行。您可以继续阅读下方信息，以深入了解DotBot基本信息，用户代理和访问控制等。
SentiBot
SentiBot蜘蛛/爬虫属于营销类型，由SentiOne开发运行。您可以继续阅读下方信息，以深入了解SentiBot基本信息，用户代理和访问控制等。
Awario crawler
Awario crawler蜘蛛/爬虫属于营销类型，由Link-Assistant.Com开发运行。您可以继续阅读下方信息，以深入了解Awario crawler基本信息，用户代理和访问控制等。
ZoomBot
ZoomBot蜘蛛/爬虫属于营销类型，由SEO Cube S.r.l.开发运行。您可以继续阅读下方信息，以深入了解ZoomBot基本信息，用户代理和访问控制等。

相关文章

Related Articles