adstxt.com crawler

基本信息

adstxt.com crawler的基本信息如下表。但部分不是很规范的蜘蛛和爬虫，可能存在信息不明的情况。

用户代理

关于adstxt.com crawler蜘蛛或者爬虫的用户代理字符串，IP地址和服务器，所在地等信息如下表格所示：

来源

IP地址(131)	服务器名称	所属国家
44.227.242.120	ec2-44-227-242-120.us-west-2.compute.amazonaws.com	US
54.202.225.150	ec2-54-202-225-150.us-west-2.compute.amazonaws.com	US
54.201.250.195	ec2-54-201-250-195.us-west-2.compute.amazonaws.com	US
34.214.107.139	ec2-34-214-107-139.us-west-2.compute.amazonaws.com	US
35.166.42.202	ec2-35-166-42-202.us-west-2.compute.amazonaws.com	US
44.234.32.205	ec2-44-234-32-205.us-west-2.compute.amazonaws.com	US
54.245.60.254	ec2-54-245-60-254.us-west-2.compute.amazonaws.com	US
44.234.43.64	ec2-44-234-43-64.us-west-2.compute.amazonaws.com	US
34.221.210.5	ec2-34-221-210-5.us-west-2.compute.amazonaws.com	US
34.212.174.122	ec2-34-212-174-122.us-west-2.compute.amazonaws.com	US

访问控制

了解如何控制adstxt.com crawler访问权限，避免adstxt.com crawler抓取行为不当。

一般不需要拦截，尤其是如果你自己也受益于搜索引擎优化服务。不过，如果你担心服务器资源占用等问题，且您都不使用这些工具，当然也可以选择拦截它们。

您可以通过在网站的 robots.txt 中设置用户代理访问规则来屏蔽 adstxt.com crawler 或限制其访问权限。我们建议安装 Spider Analyser 插件，以检查它是否真正遵循这些规则。

	# robots.txt
	# 下列代码一般情况可以拦截该代理
	
	User-agent: adstxt.com crawler
	Disallow: /

您无需手动执行此操作，可通过我们的 Wordpress 插件 Spider Analyser 来拦截不必要的蜘蛛或者爬虫。

基本信息