「robots.txt 內容 - 修改以測試更改」2 @2 p5 q. g( E# ~+ |7 a, }
這個框填寫你的robots規則
+ W+ F$ \+ i2 K" \6 n8 O( n1 _% l: w) y2 V* Y- c
「網址 指定網址和 User-agent 以進行測試。」+ n9 E5 n3 y$ H% U; p
這個框填寫你要測試的某個具體的特徵頁面網址
+ y: x, r4 n; L+ G* M {+ i( i' f3 V7 T6 s: \' l0 Y/ e
下面是測試結果1 x4 V7 ]& {) X7 @' A
就是看你填寫的那些特徵頁面有沒有被robots禁用 w4 C) l6 f8 }/ U/ v/ O/ B
8 m( h0 p% V }, ^4 U其實真的不必糾結robots寫法 隨便找個他人的wp博客的robots填寫下,一般都是通用的。
2 C/ T; d$ G% D6 E3 h
3 B+ J1 Y$ P7 J5 k7 y3 H其他一些具體情況就是看你的模板或者網站日誌的蜘蛛爬行情況來定了
( N U" t1 y4 w# t! ?% D |