json是一種輕量級(jí)的數(shù)據(jù)交換格式，也可以說(shuō)是一種配置文件的格式

這種格式的文件是我們?cè)跀?shù)據(jù)處理經(jīng)常會(huì)遇到的

python提供內(nèi)置的模塊json，只需要在使用前導(dǎo)入即可

?

你可以通過(guò)幫助函數(shù)查看json的幫助文檔

json常用的方法有l(wèi)oad、loads、dump以及dumps，這個(gè)都屬于python初級(jí)，我不做過(guò)多解釋

json可以結(jié)合數(shù)據(jù)庫(kù)一起使用，在這以后要處理大量數(shù)據(jù)時(shí)非常有用

下面我們正式來(lái)利用數(shù)據(jù)挖掘?qū)son文件進(jìn)行處理

現(xiàn)在很多網(wǎng)站都運(yùn)用了Ajax，所以一般很多都是XHR文件

通過(guò)這里我想利用一個(gè)地圖網(wǎng)站來(lái)演示

我們通過(guò)瀏覽器的調(diào)試獲取了相關(guān)url

https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ

下面我們通過(guò)requests模塊中的get方法，模擬瀏覽器發(fā)出的http請(qǐng)求，并返回的到的結(jié)果對(duì)象

代碼如下

            
# coding=utf-8
__Author__ = "susmote"

import requests
url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ"

resp = requests.get(url)
print(resp.text[0:200])
          

在終端中運(yùn)行結(jié)果如下

數(shù)據(jù)已經(jīng)獲取到了，但是為了接下來(lái)能使用這些數(shù)據(jù)，我們需要利用json模塊對(duì)這些數(shù)據(jù)進(jìn)行分析

代碼如下

            
import requests
import json

url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ"

resp = requests.get(url)

json_dict = json.loads(resp.text)

print(type(json_dict))

print(json_dict.keys())

          

簡(jiǎn)單講一下上面的代碼：

導(dǎo)入json模塊，然后調(diào)用loads方法，將返回的文本作為方法的參數(shù)傳入?

在終端中運(yùn)行結(jié)果如下?

?可以看出，轉(zhuǎn)換的結(jié)果是與json字符串對(duì)應(yīng)的字典，因?yàn)閠ype（json_dict）返回的是

因?yàn)閷?duì)象是一個(gè)字典，所以我們可以調(diào)用字典的方法，在這里我們調(diào)用的就是keys方法

結(jié)果返回三個(gè)鍵，即status、searcOpt、data

下面我們來(lái)查看data鍵里面的數(shù)據(jù)

            
import requests
import json

url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ"

resp = requests.get(url)

json_dict = json.loads(resp.text)

print(json_dict['data'])

          

下面在終端中運(yùn)行這一段代碼

可以看到里面有很多我們需要的數(shù)據(jù)，如?

不一一標(biāo)出，通過(guò)跟網(wǎng)頁(yè)顯示的相比較，就能清楚哪些是有用的了

下面我們通過(guò)代碼獲取有用的信息，把它清晰的輸出

            
# coding=utf-8
__Author__ = "susmote"

import requests
import json

url = "https://ditu.amap.com/service/poiInfo?id=B001B0IZY1&query_type=IDQ"

resp = requests.get(url)

json_dict = json.loads(resp.text)

data_dict = json_dict['data']

data_list = data_dict['poi_list']

dis_data = data_list[0]

print('城市： ', dis_data['cityname'])
print('名稱： ', dis_data['name'])
print('電話： ', dis_data['tel'])
print('區(qū)號(hào)： ', dis_data['areacode'])
print('地址： ', dis_data['address'])
print('經(jīng)度： ', dis_data['longitude'])
print('緯度： ', dis_data['latitude'])

          

?因?yàn)榉祷氐氖且粋€(gè)字典，通過(guò)對(duì)文件結(jié)構(gòu)的研究，字典中嵌套著列表，列表中又嵌套著字典，通過(guò)層層解套，成功獲取數(shù)據(jù)

我這里把步驟分開(kāi)列出了，所以你會(huì)看的更加清楚

下面我們通過(guò)終端運(yùn)行程序，獲取我們想要的信息?

是不是非常簡(jiǎn)單了，這個(gè)程序可以作為一個(gè)模版，獲取其他地方的信息時(shí)只需要改一個(gè)url即可

例如以下幾個(gè)范例

北京大學(xué)?

?

或者是騰訊大廈

數(shù)據(jù)挖掘是沒(méi)有盡頭的，希望大家多分析數(shù)據(jù)，找到你想要的數(shù)據(jù)