從0開始學採集------高級篇：使用Curl模擬登陸網站

顯示全部樓層 · 發表於 2014-11-2 16:00:49

本帖最後由 kevinmy 於 2014-11-2 16:05 編輯

前言：
在從0開始學採集------中級篇：使用Curl抓取網頁內容，我們介紹了如何使用curl抓取論壇的帖子列表。但我們知道無論是論壇還是我們某些要採集和群發的對象，有很多時候是需要登陸後才可以訪問或操作的。拿我們的例子TGL論壇來說，比如這個帖子，如何賺豬毛教程，閱讀權限為10，也就是必須要登陸才可以看到，只有可以看到才能談如何採集。再比如，只要涉及群發的沒有一個不是必須先登陸的。那麼今天我們就來介紹下，使用curl如何模擬登陸到TGL，我用相對最簡單、易懂的語句寫了一個例子，並配了註釋，希望有興趣的朋友參考下，結合上一篇的例子，綜合起來就可以完成一個最簡單的採集程序了。如果你能寫出來，那麼你就可以去嘗試研究實戰採集了，curl的參數還有很多，同時，許多網站的防採集、防群發措施也很多，需要更深入一步的研究才能解決。

採集步驟：
模擬登陸網站的過程要分兩步進行：
1.先訪問產生登陸cookie並保存。
2.讀取cookie後，打開需要的頁面採集或做其他你想要的操作。

參考代碼：
<?php
set_time_limit(0);//設置允許腳本運行的時間為無限，默認為30秒
$username="填寫你的用戶名";
$password="填寫你的密碼";
$cookie_file = dirname(__FILE__)."/cookie.txt";//設置cookie文件的保存位置
$login_url = 'http://www.luosuo.net/old/member.php?mod=logging&action=login&loginsubmit=yes&infloat=yes&lssubmit=yes';//要登陸的網頁地址
//設置post要提交的內容
$post_data = array(
'username'=>$username,
'password'=>$password
);

//建立cookie開始，也就是步驟1
$ch = curl_init($login_url);//初始化
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);//將返回的內容作為變量儲存,而不輸出.
curl_setopt($ch, CURLOPT_POST, 1);//設置提交方式為post
curl_setopt($ch, CURLOPT_POSTFIELDS, $post_data);//提交POST
curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie_file);//保存cookie
curl_exec($ch);//執行
curl_close($ch);//返回關閉
//建立cookie結束

$url='http://www.luosuo.net/old/thread-106111-1-1.html';
$ch = curl_init($url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_file);//讀取cookie
$contents = curl_exec($ch);
echo $contents;
curl_close($ch);
?>

一些參數的由來：
代碼加註釋，估計大家都看懂了。但是代碼中$login_url，$post_data裡面內容怎麼得到的呢？答案在下圖中，有耐心、想學習的朋友一定可以輕鬆找到。

至此，我的《從0開始學採集》系列教程也已完結，感謝月光飛燕每次都將我的帖子設置高亮，也感謝論壇裡一直為我加分，一直回帖支持我的朋友們！有了大家的支持，才給了我寫完整篇教程的動力。

雖然，我來到論壇僅僅一周多的時間，但在這裡我學到了很多東西，確實感覺自己處身於所需要知識的海洋裡，思路變得開闊了，也漸漸的感覺到了自己的方向。從自己寫貼中，也體會到了更應珍惜論壇中其他朋友提供的有價值帖子，因為別人寫帖也必定要像自己一樣至少花費1個小時的時間才能完成，教程往往也是作者在總結掌握知識的基礎上，形成的智慧結晶，更應去仔細學習，認真實踐。有問題回帖交流。

顯示全部樓層 · 發表於 2014-11-2 16:10:46

感謝你的分享

:)

顯示全部樓層 · 發表於 2014-11-2 17:14:05

完結啦？！！。。。

顯示全部樓層 · 發表於 2014-11-2 17:42:00

這個太厲害了，謝謝分享

顯示全部樓層 · 發表於 2014-11-2 18:23:41

不錯
支持一下，我也常用curl採集

顯示全部樓層 · 發表於 2014-11-2 20:13:41

感謝分享。。。。。。。。。

顯示全部樓層 · 發表於 2014-11-2 21:39:43

謝謝分享~~~~~~~~~~~~~~~~~~~~~~~

顯示全部樓層 · 發表於 2014-11-2 22:07:04

非常感謝分享，為新手又開了一扇門。

顯示全部樓層 · 發表於 2014-11-3 12:05:25

謝謝樓主分享採集經驗，挺不錯的教程

		自動登錄	找回密碼
密碼			免费注册

從0開始學採集------高級篇：使用Curl模擬登陸網站

評分