本帖最後由 lomboz 於 2013-8-8 23:24 編輯 . h4 ]+ `' S% _! T. ]
月光飛燕 發表於 2013-8-8 22:59
* k$ t% T2 k; t0 V, x不是很清楚alexa和semrush還有其他的工具站是否遵守robot協議,不過可以寫信去問問) e( K8 R" w9 k6 r$ w& z" x' ?
應該有答覆,樓主知道後 ... l4 S' L6 `9 a
稍稍的搜索了下!
2 W( q6 r* B8 A! D6 x V: i
9 _. @( Q* W. Z; K n9 h% I. m2 ^
alexa 的 http://www.alexa.com/help/webmasters. t& [+ h; H& y! t1 c
插入:* p1 y/ t5 n- y5 n$ q
User-agent: ia_archiver( G( y# U1 u$ M3 k6 I, p7 W1 L
Disallow: /! b- H: J5 f9 P3 w, B' Q+ R1 R5 Z N4 H
' [, D+ T1 O# m
* ^/ c8 c% ^, ` n# e' Asemrush 的 http://www.semrush.com/bot.html
/ t/ v( \6 w, z( B. W5 K插入:
7 {5 K* Q, f% vUser-agent: SemrushBot3 `+ \) b$ Z1 y- L8 d3 e* l, @! i
Disallow: /: [& y; N1 B5 G8 E9 e
$ ^* b! L- z# ^ O7 K, { O
0 g' k- ]$ A- P5 Q% V+ N6 f
# s2 Z, [8 d. X% o; Z6 Z) X% q% h
) d3 J5 B" l% G
3 J u+ }" i& u/ n# z! f9 ^- ~! X2 ]0 x
|