BrightEdge Crawler

BrightEdge Crawler蜘蛛/爬虫属于营销类型,由BrightEdge Technologies, Inc.开发运行。您可以继续阅读下方信息,以深入了解BrightEdge Crawler基本信息,用户代理和访问控制等。

基本信息

BrightEdge Crawler的基本信息如下表。但部分不是很规范的蜘蛛和爬虫,可能存在信息不明的情况。
蜘蛛/爬虫名称
BrightEdge Crawler
类型
营销
开发商
BrightEdge Technologies, Inc.
当前状态
活动

用户代理

关于BrightEdge Crawler蜘蛛或者爬虫的用户代理字符串,IP地址和服务器,所在地等信息如下表格所示:
BrightEdge Crawler/1.0
用户代理字符串
BrightEdge Crawler/1.0 (crawler@brightedge.com)
首次出现
2022-11-03 21:52:54
最后出现
2024-12-29 07:26:40
遵循robots.txt
未知
来源
IP地址(37) 服务器名称 所属国家
216.19.195.2 216.19.195.2 US
172.252.26.174 172.252.26.174 US
209.99.149.80 209.99.149.80 US
38.108.179.85 38.108.179.85 US
38.108.179.112 pbrowser-proxy63.brightedge.com US
38.108.179.70 pbrowser-proxy29.brightedge.com US
38.108.179.73 pbrowser-proxy32.brightedge.com US
38.108.179.95 38.108.179.95 US
208.67.156.31 vpcn-useast1-2.brightedge.com US
208.67.156.34 vpcn-useast1-5.brightedge.com US
208.67.156.32 vpcn-useast1-3.brightedge.com US
38.108.179.63 pbrowser-proxy22.brightedge.com US
38.108.179.90 38.108.179.90 US
208.67.156.35 vpcn-useast1-6.brightedge.com US
38.108.179.111 pbrowser-proxy62.brightedge.com US
38.108.179.66 pbrowser-proxy25.brightedge.com US
38.108.179.93 38.108.179.93 US
38.108.179.94 38.108.179.94 US
38.108.179.131 38.108.179.131 US
208.67.156.33 vpcn-useast1-4.brightedge.com US
38.108.179.83 pbrowser-proxy42.brightedge.com US
38.108.179.87 38.108.179.87 US
38.108.179.91 38.108.179.91 ?
38.108.179.72 pbrowser-proxy31.brightedge.com US
38.108.179.114 pbrowser-proxy65.brightedge.com US
38.108.179.133 38.108.179.133 US
38.108.179.98 38.108.179.98 US
38.108.179.118 pbrowser-proxy68.brightedge.com US
38.108.179.119 pbrowser-proxy69.brightedge.com US
38.108.179.74 pbrowser-proxy33.brightedge.com US
38.108.179.178 38.108.179.178 US
38.108.179.71 pbrowser-proxy30.brightedge.com US
38.108.179.179 38.108.179.179 US
38.108.179.171 38.108.179.171 US
38.108.179.159 38.108.179.159 US
38.108.179.167 38.108.179.167 US
38.108.179.116 pbrowser-proxy66.brightedge.com US

访问控制

了解如何控制BrightEdge Crawler访问权限,避免BrightEdge Crawler抓取行为不当。

是否拦截BrightEdge Crawler?

一般不需要拦截,尤其是如果你自己也受益于搜索引擎优化服务。不过,如果你担心服务器资源占用等问题,且您都不使用这些工具,当然也可以选择拦截它们。

通过Robots.txt拦截

您可以通过在网站的 robots.txt 中设置用户代理访问规则来屏蔽 BrightEdge Crawler 或限制其访问权限。我们建议安装 Spider Analyser 插件,以检查它是否真正遵循这些规则。

	# robots.txt
	# 下列代码一般情况可以拦截该代理
	
	User-agent: BrightEdge Crawler
	Disallow: /

您无需手动执行此操作,可通过我们的 Wordpress 插件 Spider Analyser 来拦截不必要的蜘蛛或者爬虫。

常见蜘蛛/爬虫

Common Spiders
Googlebot
GoogleBot蜘蛛/爬虫属于搜索引擎类型,由Google Inc.开发运行。您可以继续阅读下方信息,以深入了解GoogleBot基本信息,用户代理和访问控制等。
Online Domain Tools
Online Domain Tools蜘蛛/爬虫属于监控类型,由AITIS s.r.o.开发运行。您可以继续阅读下方信息,以深入了解Online Domain Tools基本信息,用户代理和访问控制等。
AhrefsBot
AhrefsBot蜘蛛/爬虫属于营销类型,由Ahrefs Pte Ltd开发运行。您可以继续阅读下方信息,以深入了解AhrefsBot基本信息,用户代理和访问控制等。
SEMrushBot
SEMrushBot蜘蛛/爬虫属于营销类型,由Semrush Inc开发运行。您可以继续阅读下方信息,以深入了解SEMrushBot基本信息,用户代理和访问控制等。
DotBot
DotBot蜘蛛/爬虫属于营销类型,由SEOmoz, Inc.开发运行。您可以继续阅读下方信息,以深入了解DotBot基本信息,用户代理和访问控制等。
SentiBot
SentiBot蜘蛛/爬虫属于营销类型,由SentiOne开发运行。您可以继续阅读下方信息,以深入了解SentiBot基本信息,用户代理和访问控制等。
Awario crawler
Awario crawler蜘蛛/爬虫属于营销类型,由Link-Assistant.Com开发运行。您可以继续阅读下方信息,以深入了解Awario crawler基本信息,用户代理和访问控制等。
ZoomBot
ZoomBot蜘蛛/爬虫属于营销类型,由SEO Cube S.r.l.开发运行。您可以继续阅读下方信息,以深入了解ZoomBot基本信息,用户代理和访问控制等。

相关文章

Related Articles