DotBot

DotBot蜘蛛/爬蟲屬於營銷型別,由SEOmoz, Inc.開發執行。您可以繼續閱讀下方資訊,以深入瞭解DotBot基本資訊,使用者代理和訪問控制等。

基本資訊

DotBot的基本資訊如下表。但部分不是很規範的蜘蛛和爬蟲,可能存在資訊不明的情況。
蜘蛛/爬蟲名稱
DotBot
型別
營銷
開發商
SEOmoz, Inc.
當前狀態
活動

使用者代理

關於DotBot蜘蛛或者爬蟲的使用者代理字串,IP地址和伺服器,所在地等資訊如下表格所示:
DotBot/1.2
使用者代理字串
Mozilla/5.0 (compatible; DotBot/1.2; +https://opensiteexplorer.org/dotbot; help@moz.com)
首次出現
2021-03-18 12:51:46
最後出現
2025-01-10 17:47:39
遵循robots.txt
未知
來源
IP地址(22) 伺服器名稱 所屬國家
216.244.66.197 ? US
216.244.66.247 ? US
216.244.66.243 ? US
216.244.66.248 ? US
216.244.66.237 216-244-66-237.reverse.wowrack.com US
216.244.66.203 ? US
216.244.66.244 ? US
216.244.66.231 ? US
216.244.66.242 216.244.66.242 US
216.244.66.241 ? US
216.244.66.202 216.244.66.202 US
216.244.66.245 ? US
216.244.66.199 216.244.66.199 US
216.244.66.239 216.244.66.239 US
216.244.66.198 216.244.66.198 US
216.244.66.233 ? US
使用者代理字串
Mozilla/5.0 (compatible; DotBot/1.1; http://www.dotnetdotcom.org/, crawler@dotnetdotcom.org)
首次出現
2009-05-11 05:50:00
最後出現
2016-12-27 11:15:45
遵循robots.txt
未知
來源
IP地址(10) 伺服器名稱 所屬國家
35.153.133.186 ec2-35-153-133-186.compute-1.amazonaws.com US
54.196.89.197 ec2-54-196-89-197.compute-1.amazonaws.com US
54.196.168.34 ec2-54-196-168-34.compute-1.amazonaws.com US
54.224.84.45 ec2-54-224-84-45.compute-1.amazonaws.com US
54.80.131.215 ec2-54-80-131-215.compute-1.amazonaws.com US
18.206.188.9 ec2-18-206-188-9.compute-1.amazonaws.com ?
44.192.97.244 ec2-44-192-97-244.compute-1.amazonaws.com US
3.227.3.232 ec2-3-227-3-232.compute-1.amazonaws.com US
44.202.184.87 ec2-44-202-184-87.compute-1.amazonaws.com US
3.237.106.28 ec2-3-237-106-28.compute-1.amazonaws.com US
44.205.250.15 ec2-44-205-250-15.compute-1.amazonaws.com US
3.236.125.181 ec2-3-236-125-181.compute-1.amazonaws.com US
44.197.204.182 ec2-44-197-204-182.compute-1.amazonaws.com US
3.238.136.10 ec2-3-238-136-10.compute-1.amazonaws.com US
34.235.151.198 ec2-34-235-151-198.compute-1.amazonaws.com US
3.239.111.229 ec2-3-239-111-229.compute-1.amazonaws.com US
3.235.252.243 ec2-3-235-252-243.compute-1.amazonaws.com US
18.207.135.73 ec2-18-207-135-73.compute-1.amazonaws.com US
3.239.84.110 ec2-3-239-84-110.compute-1.amazonaws.com US
3.229.124.160 ec2-3-229-124-160.compute-1.amazonaws.com US
208.115.111.243 crawl2.dotnetdotcom.org US
208.115.111.248 crawl7.dotnetdotcom.org US
208.115.111.245 crawl4.dotnetdotcom.org US
208.115.111.246 crawl5.dotnetdotcom.org US
208.115.111.247 crawl6.dotnetdotcom.org US
208.115.111.249 crawl8.dotnetdotcom.org US
208.115.111.250 crawl9.dotnetdotcom.org US
208.115.111.251 crawl10.dotnetdotcom.org US
208.115.111.242 crawl1.dotnetdotcom.org US
208.115.111.244 crawl3.dotnetdotcom.org US
44.197.231.14 ec2-44-197-231-14.compute-1.amazonaws.com US
3.229.134.72 ec2-3-229-134-72.compute-1.amazonaws.com US
3.237.11.62 ec2-3-237-11-62.compute-1.amazonaws.com US
44.192.80.95 ec2-44-192-80-95.compute-1.amazonaws.com US
34.239.164.153 ec2-34-239-164-153.compute-1.amazonaws.com US
18.207.243.221 ec2-18-207-243-221.compute-1.amazonaws.com US
3.234.212.255 ec2-3-234-212-255.compute-1.amazonaws.com US
3.237.36.121 ec2-3-237-36-121.compute-1.amazonaws.com US
34.204.199.192 ec2-34-204-199-192.compute-1.amazonaws.com ?
44.210.121.213 ec2-44-210-121-213.compute-1.amazonaws.com US
44.200.169.65 ec2-44-200-169-65.compute-1.amazonaws.com US
44.213.64.21 ec2-44-213-64-21.compute-1.amazonaws.com US
44.210.134.11 ec2-44-210-134-11.compute-1.amazonaws.com US
44.211.34.138 ec2-44-211-34-138.compute-1.amazonaws.com US
44.210.242.117 ec2-44-210-242-117.compute-1.amazonaws.com US
3.236.27.36 ec2-3-236-27-36.compute-1.amazonaws.com US
54.162.134.154 ec2-54-162-134-154.compute-1.amazonaws.com US
3.215.186.233 ec2-3-215-186-233.compute-1.amazonaws.com US
34.238.190.234 ec2-34-238-190-234.compute-1.amazonaws.com US
3.231.212.0 ec2-3-231-212-0.compute-1.amazonaws.com US
44.200.192.79 ec2-44-200-192-79.compute-1.amazonaws.com US
54.227.97.128 ec2-54-227-97-128.compute-1.amazonaws.com US
54.204.114.191 ec2-54-204-114-191.compute-1.amazonaws.com US
3.227.217.255 ec2-3-227-217-255.compute-1.amazonaws.com US
54.196.246.162 ec2-54-196-246-162.compute-1.amazonaws.com US
18.212.244.63 ec2-18-212-244-63.compute-1.amazonaws.com US
18.212.79.37 ec2-18-212-79-37.compute-1.amazonaws.com US
3.208.10.124 ec2-3-208-10-124.compute-1.amazonaws.com US
54.224.206.204 ec2-54-224-206-204.compute-1.amazonaws.com US
34.229.216.200 ec2-34-229-216-200.compute-1.amazonaws.com US
18.212.99.239 ec2-18-212-99-239.compute-1.amazonaws.com US
18.209.7.69 ec2-18-209-7-69.compute-1.amazonaws.com US
54.234.157.63 ec2-54-234-157-63.compute-1.amazonaws.com US
52.23.170.189 ec2-52-23-170-189.compute-1.amazonaws.com US
54.234.165.70 ec2-54-234-165-70.compute-1.amazonaws.com ?
54.144.219.20 ec2-54-144-219-20.compute-1.amazonaws.com US
54.197.30.103 ec2-54-197-30-103.compute-1.amazonaws.com US
44.210.235.38 ec2-44-210-235-38.compute-1.amazonaws.com ?
44.213.70.16 ec2-44-213-70-16.compute-1.amazonaws.com US
34.201.120.80 ec2-34-201-120-80.compute-1.amazonaws.com US
3.81.136.3 ec2-3-81-136-3.compute-1.amazonaws.com US
34.235.87.203 ec2-34-235-87-203.compute-1.amazonaws.com US
35.173.139.239 ec2-35-173-139-239.compute-1.amazonaws.com US
52.23.215.219 ec2-52-23-215-219.compute-1.amazonaws.com US
18.207.154.18 ec2-18-207-154-18.compute-1.amazonaws.com US
34.226.205.11 ec2-34-226-205-11.compute-1.amazonaws.com US
35.168.113.2 ec2-35-168-113-2.compute-1.amazonaws.com US
3.236.229.54 ec2-3-236-229-54.compute-1.amazonaws.com US
54.204.254.4 ec2-54-204-254-4.compute-1.amazonaws.com US
18.232.80.217 ec2-18-232-80-217.compute-1.amazonaws.com US
54.81.171.117 ec2-54-81-171-117.compute-1.amazonaws.com US
54.224.66.250 ec2-54-224-66-250.compute-1.amazonaws.com US
3.236.239.150 ec2-3-236-239-150.compute-1.amazonaws.com US
3.238.111.188 ec2-3-238-111-188.compute-1.amazonaws.com US
44.223.37.137 ec2-44-223-37-137.compute-1.amazonaws.com US
3.236.147.179 ec2-3-236-147-179.compute-1.amazonaws.com US
3.215.22.58 ec2-3-215-22-58.compute-1.amazonaws.com US
3.214.224.47 ec2-3-214-224-47.compute-1.amazonaws.com US
18.207.134.188 ec2-18-207-134-188.compute-1.amazonaws.com US
34.236.33.47 ec2-34-236-33-47.compute-1.amazonaws.com US
3.239.82.234 ec2-3-239-82-234.compute-1.amazonaws.com US
3.238.120.99 ec2-3-238-120-99.compute-1.amazonaws.com US
34.235.124.204 ec2-34-235-124-204.compute-1.amazonaws.com US
44.221.61.15 ec2-44-221-61-15.compute-1.amazonaws.com US
44.192.50.21 ec2-44-192-50-21.compute-1.amazonaws.com US
18.215.182.53 ec2-18-215-182-53.compute-1.amazonaws.com US
52.90.232.88 ec2-52-90-232-88.compute-1.amazonaws.com US
18.212.202.116 ec2-18-212-202-116.compute-1.amazonaws.com US
3.85.176.168 ec2-3-85-176-168.compute-1.amazonaws.com US
3.92.166.120 ec2-3-92-166-120.compute-1.amazonaws.com US
54.87.219.183 ec2-54-87-219-183.compute-1.amazonaws.com US
44.200.187.12 ec2-44-200-187-12.compute-1.amazonaws.com US
44.210.103.180 ec2-44-210-103-180.compute-1.amazonaws.com ?
18.206.74.83 ec2-18-206-74-83.compute-1.amazonaws.com US
54.87.137.33 ec2-54-87-137-33.compute-1.amazonaws.com US
44.211.120.151 ec2-44-211-120-151.compute-1.amazonaws.com US
3.238.110.239 ec2-3-238-110-239.compute-1.amazonaws.com ?
3.236.233.72 ec2-3-236-233-72.compute-1.amazonaws.com US
35.172.231.216 ec2-35-172-231-216.compute-1.amazonaws.com US
3.94.152.76 ec2-3-94-152-76.compute-1.amazonaws.com US
35.175.212.21 ec2-35-175-212-21.compute-1.amazonaws.com US
44.222.243.174 ec2-44-222-243-174.compute-1.amazonaws.com US
18.207.134.61 ec2-18-207-134-61.compute-1.amazonaws.com US
52.72.61.77 ec2-52-72-61-77.compute-1.amazonaws.com US
3.238.37.210 ec2-3-238-37-210.compute-1.amazonaws.com US
34.238.39.212 ec2-34-238-39-212.compute-1.amazonaws.com US
44.203.197.0 ec2-44-203-197-0.compute-1.amazonaws.com US
52.71.64.48 ec2-52-71-64-48.compute-1.amazonaws.com US
3.86.86.165 ec2-3-86-86-165.compute-1.amazonaws.com US
107.21.162.44 ec2-107-21-162-44.compute-1.amazonaws.com US
18.234.185.45 ec2-18-234-185-45.compute-1.amazonaws.com US
34.239.181.29 ec2-34-239-181-29.compute-1.amazonaws.com US
34.239.139.210 ec2-34-239-139-210.compute-1.amazonaws.com US
107.20.46.50 ec2-107-20-46-50.compute-1.amazonaws.com US
23.22.169.72 ec2-23-22-169-72.compute-1.amazonaws.com US
3.85.109.251 ec2-3-85-109-251.compute-1.amazonaws.com US
18.209.111.112 ec2-18-209-111-112.compute-1.amazonaws.com US
54.205.75.187 ec2-54-205-75-187.compute-1.amazonaws.com US
使用者代理字串
Mozilla/5.0 (compatible; DotBot/1.1; http://www.dotnetdotcom.org/, crawler@dotnetdotcom.org)
首次出現
2009-05-11 05:50:00
最後出現
2016-12-27 11:15:45
遵循robots.txt
未知
來源
IP地址(10) 伺服器名稱 所屬國家
208.115.111.243 crawl2.dotnetdotcom.org US
208.115.111.248 crawl7.dotnetdotcom.org US
208.115.111.247 crawl6.dotnetdotcom.org US
208.115.111.249 crawl8.dotnetdotcom.org US
208.115.111.250 crawl9.dotnetdotcom.org US
208.115.111.251 crawl10.dotnetdotcom.org US
208.115.111.242 crawl1.dotnetdotcom.org US
208.115.111.244 crawl3.dotnetdotcom.org US
208.115.111.245 crawl4.dotnetdotcom.org US
208.115.111.246 crawl5.dotnetdotcom.org US
使用者代理字串
dotbot
首次出現
2013-11-09 11:26:07
最後出現
2014-05-17 20:35:05
遵循robots.txt
未知
來源
IP地址(6) 伺服器名稱 所屬國家
208.184.81.30 ? US
72.44.63.103 ec2-72-44-63-103.compute-1.amazonaws.com US
107.20.88.61 ec2-107-20-88-61.compute-1.amazonaws.com US
184.72.90.45 ec2-184-72-90-45.compute-1.amazonaws.com US
184.73.99.2 ec2-184-73-99-2.compute-1.amazonaws.com US
50.19.146.243 ec2-50-19-146-243.compute-1.amazonaws.com US

訪問控制

瞭解如何控制DotBot訪問許可權,避免DotBot抓取行為不當。

是否攔截DotBot?

一般不需要攔截,尤其是如果你自己也受益於搜尋引擎優化服務。不過,如果你擔心伺服器資源佔用等問題,且您都不使用這些工具,當然也可以選擇攔截它們。

通過Robots.txt攔截

您可以通過在網站的 robots.txt 中設定使用者代理訪問規則來遮蔽 DotBot 或限制其訪問許可權。我們建議安裝 Spider Analyser 外掛,以檢查它是否真正遵循這些規則。

Plain text
Copy to clipboard
Open code in new window
EnlighterJS 3 Syntax Highlighter
# robots.txt
# 下列程式碼一般情況可以攔截該代理
User-agent: DotBot
Disallow: /
# robots.txt # 下列程式碼一般情況可以攔截該代理 User-agent: DotBot Disallow: /
# robots.txt
# 下列程式碼一般情況可以攔截該代理
User-agent: DotBot
Disallow: /

您無需手動執行此操作,可通過我們的 Wordpress 外掛 Spider Analyser 來攔截不必要的蜘蛛或者爬蟲。

更多資訊

在本頁面中,您將瞭解更多關於我們的爬蟲Dotbot的資訊,它被用來抓取Moz連結索引,為Moz API、連結瀏覽器和您的活動中的連結部分提供動力。

Moz連結索引抓取器

Dotbot是Moz的網路爬蟲,它為Moz連結指數收集網路資料。我們通過Dotbot收集的這些資料可以在您的Moz Pro廣告系列的連結部分、連結瀏覽器和Moz連結API中找到。Dotbot與Rogerbot不同,Rogerbot是我們為Moz Pro廣告系列提供的網站審計爬行器。

為什麼Moz會抓取網路?

我們的一些工具,如Link Explorer,需要我們抓取網站。當這種情況發生時,使用者代理Dotbot被用來識別我們的爬行器。最好記住,你需要一個Moz專業賬戶來訪問收集到的大部分資訊。我們的免費網路營銷社羣成員的訪問許可權有限。要看我們收集的資料型別的一個例子,在連結瀏覽器的搜尋框中輸入一個URL。

如何阻止Dotbot抓取你的網站

如果您不希望Dotbot抓取您的網站,我們總是尊重標準的Robots排除協議(又稱robots.txt)。如果您想阻止Dotbot,您只需將我們的user-agent字串新增到您的robots.txt檔案。

禁止Dotbot進入您網站的某些區域

Plain text
Copy to clipboard
Open code in new window
EnlighterJS 3 Syntax Highlighter
User-agent: dotbot
Disallow: /admin/
Disallow: /scripts/ Disallow: /images/
User-agent: dotbot Disallow: /admin/ Disallow: /scripts/ Disallow: /images/
User-agent: dotbot 
Disallow: /admin/ 
Disallow: /scripts/ Disallow: /images/

完全禁止Dotbot進入您網站

Plain text
Copy to clipboard
Open code in new window
EnlighterJS 3 Syntax Highlighter
User-agent: dotbot
Disallow: /
User-agent: dotbot Disallow: /
User-agent: dotbot
Disallow: /

減緩Dotbot的速度

Plain text
Copy to clipboard
Open code in new window
EnlighterJS 3 Syntax Highlighter
User-agent: dotbot
Crawl-delay: 10
User-agent: dotbot Crawl-delay: 10
User-agent: dotbot
Crawl-delay: 10

Dotbot何時能檢測網站robots.txt檔案的變化?

Dotbot只在新的索引抓取過程中第一次遇到該網站時檢視你的robots.txt檔案。這意味著,如果Dotbot看到它被允許進入該網站一次,對該許可權的任何改變都不會被檢視,直到Dotbot下次定位到你的網站的連結。

常見蜘蛛/爬蟲

Common Spiders
Matchory Bot
Matchory Bot蜘蛛/爬蟲屬於營銷型別,由Matchory GmbH開發執行。您可以繼續閱讀下方資訊,以深入瞭解Matchory Bot基本資訊,使用者代理和訪問控制等。
Googlebot
GoogleBot蜘蛛/爬蟲屬於搜尋引擎型別,由Google Inc.開發執行。您可以繼續閱讀下方資訊,以深入瞭解GoogleBot基本資訊,使用者代理和訪問控制等。
Online Domain Tools
Online Domain Tools蜘蛛/爬蟲屬於監控型別,由AITIS s.r.o.開發執行。您可以繼續閱讀下方資訊,以深入瞭解Online Domain Tools基本資訊,使用者代理和訪問控制等。
AhrefsBot
AhrefsBot蜘蛛/爬蟲屬於營銷型別,由Ahrefs Pte Ltd開發執行。您可以繼續閱讀下方資訊,以深入瞭解AhrefsBot基本資訊,使用者代理和訪問控制等。
SEMrushBot
SEMrushBot蜘蛛/爬蟲屬於營銷型別,由Semrush Inc開發執行。您可以繼續閱讀下方資訊,以深入瞭解SEMrushBot基本資訊,使用者代理和訪問控制等。
DotBot
DotBot蜘蛛/爬蟲屬於營銷型別,由SEOmoz, Inc.開發執行。您可以繼續閱讀下方資訊,以深入瞭解DotBot基本資訊,使用者代理和訪問控制等。
SentiBot
SentiBot蜘蛛/爬蟲屬於營銷型別,由SentiOne開發執行。您可以繼續閱讀下方資訊,以深入瞭解SentiBot基本資訊,使用者代理和訪問控制等。
Awario crawler
Awario crawler蜘蛛/爬蟲屬於營銷型別,由Link-Assistant.Com開發執行。您可以繼續閱讀下方資訊,以深入瞭解Awario crawler基本資訊,使用者代理和訪問控制等。

相關文章

Related Articles