python訪問抓取網(wǎng)頁常用命令
簡單的抓取網(wǎng)頁:
import urllib.request
url="http://google.cn/"
response=urllib.request.urlopen(url) #返回文件對象
page=response.read()
直接將URL保存為本地文件：
import urllib.request
url="http://google.cn/"
response=urllib.request.urlopen(url) #返回文件對象
page=response.read()
POST方式：
import urllib.parse
import urllib.request
url="http://liuxin-blog.appspot.com/messageboard/add"
values={"content":"命令行發(fā)出網(wǎng)頁請求測試"}
data=urllib.parse.urlencode(values)
#創(chuàng)建請求對象
req=urllib.request.Request(url,data)
#獲得服務器返回的數(shù)據(jù)
response=urllib.request.urlopen(req)
#處理數(shù)據(jù)
page=response.read()
GET方式：
import urllib.parse
import urllib.request
url="http://www.google.cn/webhp"
values={"rls":"ig"}
data=urllib.parse.urlencode(values)
theurl=url+"?"+data
#創(chuàng)建請求對象
req=urllib.request.Request(theurl)
#獲得服務器返回的數(shù)據(jù)
response=urllib.request.urlopen(req)
#處理數(shù)據(jù)
page=response.read()
有2個常用的方法,geturl(),info()
geturl()的設置是為了辨別是否有服務器端的網(wǎng)址重定向,而info()則包含了一系列的信息。
中文問題的處理，會用到 encode()編碼 dencode()解碼：
感謝閱讀，希望能幫助到大家，謝謝大家對本站的支持！
更多文章、技術交流、商務合作、聯(lián)系博主
微信掃碼或搜索：z360901061
微信掃一掃加我為好友
QQ號聯(lián)系： 360901061
您的支持是博主寫作最大的動力，如果您喜歡我的文章，感覺我的文章對您有幫助，請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧，狠狠點擊下面給點支持吧，站長非常感激您！手機微信長按不能支付解決辦法：請將微信支付二維碼保存到相冊，切換到微信，然后點擊微信右上角掃一掃功能，選擇支付二維碼完成支付。
【本文對您有幫助就好】元
