從0開始學採集------高級篇：使用Curl模擬登陸網站

前言：
在從0開始學採集------中級篇：使用Curl抓取網頁內容，我們介紹了如何使用curl抓取論壇的帖子列表。但我們知道無論是論壇還是我們某些要採集和群發的對象，有很多時候是需要登陸後才可以訪問或操作的。拿我們的例子TGL論壇來說，比如這個帖子，如何賺豬毛教程，閱讀權限為10，也就是必須要登陸才可以看到，只有可以看到才能談如何採集。再比如，只要涉及群發的沒有一個不是必須先登陸的。那麼今天我們就來介紹下，使用curl如何模擬登陸到TGL，我用相對最簡單、易懂的語句寫了一個例子，並配了註釋，希望有興趣的朋友參考下，結合上一篇的例子，綜合起來就可以完成一個最簡單的採集程序了。如果你能寫出來，那麼你就可以去嘗試研究實戰採集了，curl的參數還有很多，同時，許多網站的防採集、防群發措施也很多，需要更深入一步的研究才能解決。
( u' V) a8 }0 p3 r* v2 D! e& Z
6 Y5 Z( d/ V- G4 s: y0 g) }採集步驟：
模擬登陸網站的過程要分兩步進行：
1.先訪問產生登陸cookie並保存。
* s" I9 T2 d0 m3 Y2.讀取cookie後，打開需要的頁面採集或做其他你想要的操作。

9 R' N. Y- Z* e2 e. W- C參考代碼：
2 E- H7 x: M. T) r, Y<?php
set_time_limit(0);//設置允許腳本運行的時間為無限，默認為30秒
/ C: u; h( g( M8 f) q9 B$username="填寫你的用戶名";
  F, h( \; v  o$password="填寫你的密碼";
' A% N7 b0 l& c6 t% Q1 h4 H9 M$cookie_file = dirname(__FILE__)."/cookie.txt";//設置cookie文件的保存位置
$login_url = 'http://www.luosuo.net/old/member.php?mod=logging&action=login&loginsubmit=yes&infloat=yes&lssubmit=yes';//要登陸的網頁地址
//設置post要提交的內容
3 |5 V% O* h- J" f' O: ~+ p. F$post_data = array(
'username'=>$username,
'password'=>$password
);
5 M* r/ k, t% K& u, {
//建立cookie開始，也就是步驟1
0 G8 g' V- S2 ^: V0 J$ch = curl_init($login_url);//初始化
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);//將返回的內容作為變量儲存,而不輸出.
6 Q+ g8 m1 l: S: N. {5 G; e( dcurl_setopt($ch, CURLOPT_POST, 1);//設置提交方式為post
curl_setopt($ch, CURLOPT_POSTFIELDS, $post_data);//提交POST
curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie_file);//保存cookie
curl_exec($ch);//執行
curl_close($ch);//返回關閉
//建立cookie結束
# d9 H; p& S# [" Z# r' n: q
$url='http://www.luosuo.net/old/thread-106111-1-1.html';
$ch = curl_init($url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
$ |, f% E  U1 W+ H7 F0 l, wcurl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_file);//讀取cookie
& N0 V: w5 L2 G$ F5 B( S$contents = curl_exec($ch);
! F: y& T& N  ~% C! v8 hecho $contents;
) S- Q% \& x  Q! }) H# w* ?& _' ^! Hcurl_close($ch);
, Q9 J5 M! B- o+ h?>
3 S, l2 @* b' O' o1 S& \5 z) g$ u2 ?
一些參數的由來：
# F. _* ^! O' b# P代碼加註釋，估計大家都看懂了。但是代碼中$login_url，$post_data裡面內容怎麼得到的呢？答案在下圖中，有耐心、想學習的朋友一定可以輕鬆找到。
) s) p" N" e6 y" N6 m, r6 U

# I5 T7 ^0 y' n( ^5 c* Q/ m至此，我的《從0開始學採集》系列教程也已完結，感謝月光飛燕每次都將我的帖子設置高亮，也感謝論壇裡一直為我加分，一直回帖支持我的朋友們！有了大家的支持，才給了我寫完整篇教程的動力。
% s. X- s, }# F: I& h' |% @
8 T5 C& }: ?$ ~8 n5 F- T雖然，我來到論壇僅僅一周多的時間，但在這裡我學到了很多東西，確實感覺自己處身於所需要知識的海洋裡，思路變得開闊了，也漸漸的感覺到了自己的方向。從自己寫貼中，也體會到了更應珍惜論壇中其他朋友提供的有價值帖子，因為別人寫帖也必定要像自己一樣至少花費1個小時的時間才能完成，教程往往也是作者在總結掌握知識的基礎上，形成的智慧結晶，更應去仔細學習，認真實踐。有問題回帖交流。
2 s  p2 c4 I3 k
2 z, W( E, H: x5 k6 e: n0 A
2 v& j  ?7 P, Z% M" O/ V$ _
  a, A& G: j0 ]6 r; U+ F
6 v# l& J  ~0 G- {$ `

   感謝你的分享:)
" \; O, H1 J: g! D8 a: e( P/ u

完結啦？！！。。。                                    
) L* m# e2 F  V2 ]3 N

這個太厲害了，謝謝分享
9 M  v" _8 S( K3 M

不錯
( a0 n/ G: t8 R* \+ D1 b支持一下，我也常用curl採集
, i) b( e. N  W

感謝分享。。。。。。。。。

謝謝分享~~~~~~~~~~~~~~~~~~~~~~~

非常感謝分享，為新手又開了一扇門。

謝謝樓主分享採集經驗，挺不錯的教程
- W' u% b' e# \) ~