[轉帖]為網站的Web Robot 設計路標

Internet越來越酷，WWW的知名度如日中天。在Internet上發佈公司信息、進行電子商 務已經從時髦演化成時尚。作為一個Web Master，你可能對HTML、Javascript、Java、 ActiveX瞭如指掌，但你是否知道什麼是Web Robot？你是否知道Web Robot和你所設 計的主頁有什麼關係？

+ F. i, [/ a$ u1 ?

# M! v7 t7 C- S  }7 ?. `7 RInternet上的流浪漢--- Web Robot

- g0 [1 M: v9 ^9 c0 J# ^
3 U2 @: L/ V; B) x8 X
　　有時你會莫名其妙地發現你的主頁的內容在一個搜索引擎中被索引，即使你從未與他們有過任何聯繫。其實這正是Web Robot的功勞。Web Robot其實是一些程序，它可以穿越大量Internet網址的超文本結構，遞歸地檢索網絡站點所有的內容。這些程序有時被叫「蜘蛛（Spider）」，「網上流浪漢（Web Wanderer）」，「網絡蠕蟲（web worms）」或Web crawler。一些Internet網上知名的搜索引擎站點（Search Engines）都有專門的Web Robot程序來完成信息的採集，例如Lycos，Webcrawler，Altavista等，以 及中文搜索引擎站點例如北極星，網易，GOYOYO等。
2 S0 w7 S7 H8 U0 I3 _$ l- B  V3 T

8 J  I7 o1 H: v$ ?
　　Web Robot就像一個不速之客，不管你是否在意，它都會忠於自己主人的職責，任勞任怨、不知疲倦地奔波於萬維網的空間，當然也會光臨你的主頁，檢索主頁內容並生 成它所需要的記錄格式。或許有的主頁內容你樂於世人皆知，但有的內容你卻不願被洞察、索引。難道你就只能任其「橫行」於自己主頁空間，能否指揮和控制Web Robot的行蹤呢？答案當然是肯定的。只要你閱讀了本篇的下文，就可以像一個交通 警察一樣，佈置下一個個路標，告訴Web Robot應該怎麼去檢索你的主頁，哪些可以 檢索，哪些不可以訪問。



　　其實Web Robot能聽懂你的話

& G" C9 l4 _' S& G; L0 _$ {
+ [- y# z% n/ f9 ~" I. _7 }
8 U, X7 B- m: L0 v2 ~! q( _　　不要以為Web Robot是毫無組織，毫無管束地亂跑。很多Web Robot軟件給網絡站點的 管理員或網頁內容製作者提供了兩種方法來限制Web Robot的行蹤：
" ?" j) j* {5 v  G% F' E" ?; D. b. z
1 w. u3 n- B7 y5 \9 r

) |* _0 Z1 e9 J　　1、Robots Exclusion Protocol 協議
1 B* Y3 h% {! y/ `* r$ j( p0 G) [7 c


3 q' X+ R5 e/ W! J" ?　　網絡站點的管理員可以在站點上建立一個專門格式的文件，來指出站點上的哪一部分 可以被robot訪問, 這個文件放在站點的根目錄下，即 http://.../robots.txt
9 m: A4 f+ E) G
8 i  k! y* S7 l: ~" A

　　2、Robots META tag

9 q& l! \) J7 w1 P
# M) r1 H4 Y; n+ y" R4 S
; o, ?/ t! C" f! i. T$ b- R$ T) s　　一個網頁作者可以使用專門的HTML META tag ，來指出某一個網頁是否可以被索 引、分析或鏈接。
" V4 N" Y. I+ o& B" h

  m. r4 S0 s! p4 k7 x, y/ J! H
　　這些方法適合於大多數的Web Robot，至於是否在軟件中實施了這些方法，還依賴於 Robot的開發者，並非可以保證對任何Robot都靈驗。如果你迫切需要保護自己內容， 則應考慮採用諸如增加密碼等其他保護方法。


/ S" b4 F: j% B* a7 r& X
　　使用Robots Exclusion Protocol協議
3 F9 ^, g4 V: H, G0 [- e. g

- g2 f5 C4 v! E' [  @" V4 c% [. H- _
" `: Z/ S: w5 \7 P% R' s　　當Robot訪問一個 Web 站點時，比如http://www.sti.net.cn/，它先去檢查文件http: //www.sti.net.cn/robots.txt。如果這個文件存在，它便會按照這樣的記錄格式去分析：

2 R, x$ V$ D2 V) I
& j: r! J% `9 Y2 R' {1 P. R
User-agent: *
Disallow: /cgi-bin/
Disallow: /tmp/
. `+ E8 p8 ~) {& X1 H( fDisallow: /~joe/
$ K1 E3 F0 }5 ?


　　以確定它是否應該檢索站點的文件。這些記錄是專門給Web Robot看的，一般的瀏覽 者大概永遠不會看到這個文件，所以千萬不要異想天開地在裡面加入形似<img src=*> 類的HTML語句或是「How do you do? where are you from?」之類假情假意的問候語。



　　在一個站點上只能有一個 "/robots.txt" 文件，而且文件名的每個字母要求全部是小寫。在Robot的記錄格式中每一個單獨的"Disallow" 行表示你不希望Robot訪問的URL， 每個URL必須單獨佔一行，不能出現 "Disallow: /cgi-bin/ /tmp/"這樣的病句。同時在一個 記錄中不能出現空行，這是因為空行是多個記錄分割的標誌。
# h/ t* r3 z  a/ R( w/ C. U

2 M- P' r; b, w4 o/ }( L9 j1 R
- x( N4 N' \$ [　　User-agent行指出的是Robot或其他代理的名稱。在User-agent行，'*' 表示一個特殊的含義---所有的robot。



　　下面是幾個robot.txt的例子：



　　在整個服務器上拒絕所有的robots：
4 i* J3 Z8 R$ i

) j1 P: x7 C/ ~' e2 l, E! G( \
User-agent: *
; R1 ]6 L/ V1 C5 }Disallow: /
# G+ ]1 y& K( j$ x4 i9 |' G
" y- a$ h" w6 i. e% h% ~' r# r& s3 S
/ b7 M. X$ {/ G: b- n
: \& H. F- X1 U/ m6 B1 O$ f允許所有的robots訪問整個站點：
) ^" R7 H; w4 \9 y/ eUser-agent: *
Disallow:
6 k" Y8 t- t3 ^0 j/ ^9 f/ ]  ?3 q或者產生一個空的 "/robots.txt" 文件。
  ?& M( U( Y: Z8 P

; j# E* w; z9 h: p- W- w
4 X/ a8 }5 N* u& f) f. P1 u服務器的部分內容允許所有的robot訪問
6 L8 J6 {( q6 FUser-agent: *
4 @; x/ O0 r4 C( aDisallow: /cgi-bin/
6 i( I+ B* l! G# q8 ]0 [( UDisallow: /tmp/
Disallow: /private/
" S' k  x  W0 B& Z1 O0 C! w1 p& F

! Q) b4 ]  m/ O* c) Z
/ H) W+ E' d9 d1 \  R& n# X1 C拒絕某一個專門的robot：
User-agent: BadBot
0 N( \. s+ w& T4 X/ |/ G0 mDisallow: /


$ M6 N- c: Y6 a  x9 l
只允許某一個robot光顧：
- W# m# U$ p* f5 nUser-agent: WebCrawler
Disallow:
6 Q: l4 O6 |$ i3 }; V! jUser-agent: *
7 P+ l2 ?- g8 G9 yDisallow: /



最後我們給出 http://www.w3.org/站點上的robots.txt：
/ t% H, {3 {9 d4 s( \' n# For use by search.w3.org
User-agent: W3Crobot/1
4 z/ R7 W9 M" q( [0 bDisallow:
User-agent: *
* }' k+ w& e; V7 {$ L( f3 rDisallow: /Member/ # This is restricted to W3C Members only
% H$ J) Q2 }; A& ODisallow: /member/ # This is restricted to W3C Members only
Disallow: /team/ # This is restricted to W3C Team only
Disallow: /TandS/Member # This is restricted to W3C Members only
Disallow: /TandS/Team # This is restricted to W3C Team only
Disallow: /Project
* g! ?% I0 }& {( bDisallow: /Systems
7 \) d& V, t" |# O/ ODisallow: /Web
8 v- E5 H8 A& m* C8 WDisallow: /Team
( m. P' Q1 l( E: q! D. m( W7 K; i
) F# ]5 l" h: i' S0 w5 h
, S  A5 s+ K$ q3 l  s2 M3 A
; [2 |6 f3 }1 R) u8 v0 E- G　　使用Robots META tag方式
6 @1 v9 g4 G( G2 e) X# c4 G) f& N( [% t  O


　　Robots META tag 允許HTML網頁作者指出某一頁是否可以被索引，或是否可以用來查 找更多的鏈接文件。目前只有部分robot實施了這一功能。
& C8 G( Y- u1 Y
1 p  U% H3 p& b. v% a. }5 e3 Y
' P) g0 [# f: ~# o5 ?) d( Q
　　Robots META tag的格式為：


5 J0 R5 X, W; s/ K3 g+ N6 c$ Y
<META NAME="ROBOTS" CONTENT="NOINDEX, NOFOLLOW">
像其他的META tag一樣，它應該放在HTML文件的HEAD區：
0 G) P, u( u) ?5 i" g<html>
<head>
<meta name="robots" content="noindex,nofollow">
<meta name="description" content="This page ....">
% y0 @# y3 V* s& y4 M' d6 y' L<title>...</title>
, m8 I* v0 F& E2 T# ^</head>
<body>
...

" G5 ]7 `1 Z4 d- H. X% x& u$ Q

　　Robots META tag指令使用逗號隔開，可以使用的指令包括 [NO]INDEX 和[NO] FOLLOW。INDEX 指令指出一個索引性robot是否可以對本頁進行索引；FOLLOW 指 令指出robot是否可以跟蹤本頁的鏈接。缺省的情況是INDEX和FOLLOW。例如：

! C+ t4 w9 u, _5 k+ L# ^. V( r

- o$ G5 a9 g! A. S( @<meta name="robots" content="index,follow">
<meta name="robots" content="noindex,follow">
$ A: J4 p+ r4 v/ X<meta name="robots" content="index,nofollow">
# p; W$ q* M2 ~<meta name="robots" content="noindex,nofollow">

( I' Q8 ?' f7 \3 N& y

- T. J! u8 c+ I& o! Q　　一個好的Web 站點管理員應該將robot的管理考慮在內，使robot為自己的主頁服務， 同時又不損害自己網頁的安全。

恩，慢慢看，否則消化不良

看不懂啊。呵呵