SafeDNSBot SafeDNSBot

蜘蛛/爬虫名称
SafeDNSBot
开发商
SafeDNS, Inc.
官网
www.safedns.com
当前状态
活动
  • SafeDNSBot
  • SafeDNSBot
用户代理字符串
SafeDNS search bot/Nutch-1.9 (https://www.safedns.com/searchbot; support [at] safedns [dot] com)
类型
首次出现
2015-10-07 07:45:00
最后出现
2016-02-15 02:47:43
遵循robots.txt
IP地址
66
来源
IP地址 服务器名称 所属国家
167.71.0.109 167.71.0.109 NL
206.189.13.53 206.189.13.53 NL
68.183.11.48 ? NL
167.99.36.43 ? NL
206.189.4.227 ? NL
161.35.146.130 ? US
161.35.82.173 ? US
206.189.1.145 ? NL
159.65.201.198 ? NL
206.189.102.76 ? NL
128.199.33.116 128.199.33.116 NL
178.62.251.210 onewa11y-06.com NL
178.62.242.233 178.62.242.233 NL
178.62.212.218 telma.rec.parsys.com NL
188.166.16.235 188.166.16.235 NL
178.62.225.65 178.62.225.65 NL
178.62.251.207 squid.ams3.digitalocean.19 NL
188.166.19.111 188.166.19.111 NL
188.166.24.57 kbi.ams3.qa.edp.misy.eu NL
188.166.1.96 188.166.1.96 NL
167.99.35.1 167.99.35.1 ?
167.99.215.153 167.99.215.153 NL
159.223.226.93 159.223.226.93 US
142.93.228.248 142.93.228.248 NL
134.209.196.160 ? NL
167.71.73.226 167.71.73.226 NL
165.22.194.147 ? NL
159.223.209.111 159.223.209.111 NL
146.190.30.66 146.190.30.66 NL
165.22.199.38 ? NL
164.92.146.233 164.92.146.233 NL
174.138.11.34 174.138.11.34 NL
165.232.83.140 ? NL
188.166.8.235 188.166.8.235 NL
64.227.77.200 ? US
128.199.39.118 128.199.39.118 NL
64.225.75.193 ? NL
209.38.40.25 ? US
152.42.133.240 152.42.133.240 US
164.92.157.248 164.92.157.248 NL
174.138.12.101 174.138.12.101 NL
164.90.201.168 ? NL
164.92.216.212 ? NL
209.38.37.161 ? NL
104.248.200.252 104.248.200.252 NL
209.38.33.228 209.38.33.228 NL
167.172.46.193 167.172.46.193 NL
206.189.99.166 206.189.99.166 NL
205.185.127.231 tor-exit.lv2.otterrelays.net US
用户代理字符串
SafeDNS search bot/Nutch-1.9 (https://www.safedns.com/searchbot; support [at] safedns [dot] com)
类型
首次出现
2015-10-07 07:45:00
最后出现
2016-02-15 02:47:43
遵循robots.txt
IP地址
66
来源
IP地址 服务器名称 所属国家
128.199.33.116 128.199.33.116 NL
178.62.251.210 onewa11y-06.com NL
178.62.242.233 178.62.242.233 NL
178.62.212.218 telma.rec.parsys.com NL
188.166.16.235 188.166.16.235 NL
178.62.225.65 178.62.225.65 NL
178.62.251.207 squid.ams3.digitalocean.19 NL
188.166.19.111 188.166.19.111 NL
188.166.24.57 kbi.ams3.qa.edp.misy.eu NL
188.166.1.96 188.166.1.96 NL

safedns.com关于SafeDNS Categorization Crawler收集网页的目标和政策简要介绍如下。如果您有任何疑问,请发电子邮件给safedns.com。

 

1. 目标

SafeDNS收集网页的主要原因是为了正确分类互联网资源,并为SafeDNS开发新的技术和产品。

 

2. 政策

SafeDNS的爬虫总是尊重常见的爬行规范,如以下几点:SafeDNS的爬虫以一定间隔的方式逐页访问每个网站。目前,我们只从每个服务器上获取有限数量的页面。尽管我们将抓取过程与检测主机别名的过程交织在一起,但有可能一个别名的服务器可能被同时以不同的主机名访问。它总是读取robots.txt文件,而且从不抓取受限网页。你可以在你网站顶部的robots.txt文件中向爬虫指定指令。例如,以下指令禁止我们的爬虫从您的网站检索任何内容。

User-agent: SafeDNSBot
Disallow: /

SafeDNS对网页的管理非常谨慎。在SafeDNS的数据库中注册收集的网页。SafeDNS管理对数据库的访问,防止未经授权的访问。

 

3. 联系

如有任何疑问、意见或要求,请发电子邮件给SafeDNS,noc@safedns.com。请在邮件中说明您网站的主机名称和IP地址。

常见问题

FAQs
查看更多 >