別找了,這是 pandas 最詳細教程了

2021-03-02 小張Python

來源:機器之心

Python 是開源的,它很棒,但是也無法避免開源的一些固有問題:很多包都在做(或者在嘗試做)同樣的事情。如果你是 Python 新手,那麼你很難知道某個特定任務的最佳包是哪個,你需要有經驗的人告訴你。有一個用於數據科學的包絕對是必需的,它就是 pandas。

pandas 最有趣的地方在於裡面隱藏了很多包。它是一個核心包,裡面有很多其他包的功能。這點很棒,因為你只需要使用 pandas 就可以完成工作。

pandas 相當於 python 中 excel:它使用表(也就是 dataframe),能在數據上做各種變換,但還有其他很多功能。

如果你早已熟知 python 的使用,可以直接跳到第三段。

讓我們開始吧!

pandas 最基本的功能

讀取數據

data = pd.read_csv( my_file.csv )
data = pd.read_csv( my_file.csv , sep= ; , encoding= latin-1 , nrows=1000, skiprows=[2,5])

sep 代表的是分隔符。如果你在使用法語數據,excel 中 csv 分隔符是「;」,因此你需要顯式地指定它。編碼設置為 latin-1 來讀取法語字符。nrows=1000 表示讀取前 1000 行數據。skiprows=[2,5] 表示你在讀取文件的時候會移除第 2 行和第 5 行。

最常用的功能:read_csv, read_excel其他一些很棒的功能:read_clipboard, read_sql

寫數據

data.to_csv( my_new_file.csv , index=None)

index=None 表示將會以數據本來的樣子寫入。如果沒有寫 index=None,你會多出一個第一列,內容是 1,2,3,...,一直到最後一行。

我通常不會去使用其他的函數,像.to_excel, .to_json, .to_pickle 等等,因為.to_csv 就能很好地完成工作,並且 csv 是最常用的表格保存方式。

檢查數據

image

Gives (#rows, #columns)

給出行數和列數

data.describe()

計算基本的統計數據

查看數據

data.head(3)

列印出數據的前 3 行。與之類似,.tail() 對應的是數據的最後一行。

data.loc[8]

列印出第八行

data.loc[8,  column_1 ]

列印第八行名為「column_1」的列

data.loc[range(4,6)]

第四到第六行(左閉右開)的數據子集

pandas 的基本函數

邏輯運算

data[data[ column_1 ]== french ]
data[(data[ column_1 ]== french ) & (data[ year_born ]==1990)]
data[(data[ column_1 ]== french ) & (data[ year_born ]==1990) & ~(data[ city ]== London )]

通過邏輯運算來取數據子集。要使用 & (AND)、 ~ (NOT) 和 | (OR),必須在邏輯運算前後加上「and」。

data[data[ column_1 ].isin([ french ,  english ])]

除了可以在同一列使用多個 OR,你還可以使用.isin() 函數。

基本繪圖

matplotlib 包使得這項功能成為可能。正如我們在介紹中所說,它可以直接在 pandas 中使用。

data[ column_numerical ].plot()

image

().plot() 輸出的示例

data[ column_numerical ].hist()

畫出數據分布(直方圖)

.hist() 輸出的示例

%matplotlib inline

如果你在使用 Jupyter,不要忘記在畫圖之前加上以上代碼。

更新數據

data.loc[8,  column_1 ] =  english
將第八行名為 column_1 的列替換為「english」
data.loc[data[ column_1 ]== french ,  column_1 ] =  French

在一行代碼中改變多列的值

好了,現在你可以做一些在 excel 中可以輕鬆訪問的事情了。下面讓我們深入研究 excel 中無法實現的一些令人驚奇的操作吧。

中級函數

統計出現的次數

data[ column_1 ].value_counts()

.value_counts() 函數輸出示例

在所有的行、列或者全數據上進行操作

data[ column_1 ].map(len)

len() 函數被應用在了「column_1」列中的每一個元素上

.map() 運算給一列中的每一個元素應用一個函數

data[ column_1 ].map(len).map(lambda x: x/100).plot()

pandas 的一個很好的功能就是鏈式方法(https://tomaugspurger.github.io/method-chaining)。它可以幫助你在一行中更加簡單、高效地執行多個操作(.map() 和.plot())。

data.apply(sum)

.apply() 會給一個列應用一個函數。

.applymap() 會給表 (DataFrame) 中的所有單元應用一個函數。

tqdm, 唯一的

在處理大規模數據集時,pandas 會花費一些時間來進行.map()、.apply()、.applymap() 等操作。tqdm 是一個可以用來幫助預測這些操作的執行何時完成的包(是的,我說謊了,我之前說我們只會使用到 pandas)。

from tqdm import tqdm_notebook
tqdm_notebook().pandas()

用 pandas 設置 tqdm

data[ column_1 ].progress_map(lambda x: x.count( e ))

用 .progress_map() 代替.map()、.apply() 和.applymap() 也是類似的。

在 Jupyter 中使用 tqdm 和 pandas 得到的進度條

相關性和散射矩陣

data.corr()
data.corr().applymap(lambda x: int(x*100)/100)

.corr() 會給出相關性矩陣

pd.plotting.scatter_matrix(data, figsize=(12,8))

散點矩陣的例子。它在同一幅圖中畫出了兩列的所有組合。

pandas 中的高級操作

The SQL 關聯

在 pandas 中實現關聯是非常非常簡單的

data.merge(other_data, on=[ column_1 ,  column_2 ,  column_3 ])

關聯三列只需要一行代碼

分組

一開始並不是那麼簡單,你首先需要掌握語法,然後你會發現你一直在使用這個功能。

data.groupby( column_1 )[ column_2 ].apply(sum).reset_index()

按一個列分組,選擇另一個列來執行一個函數。.reset_index() 會將數據重構成一個表。

正如前面解釋過的,為了優化代碼,在一行中將你的函數連接起來。

行迭代

dictionary = {}

for i,row in data.iterrows():
 dictionary[row[ column_1 ]] = row[ column_2 ]

.iterrows() 使用兩個變量一起循環:行索引和行的數據 (上面的 i 和 row)

總而言之,pandas 是 python 成為出色的程式語言的原因之一

我本可以展示更多有趣的 pandas 功能,但是已經寫出來的這些足以讓人理解為何數據科學家離不開 pandas。總結一下,pandas 有以下優點:

它有助於數據科學家快速讀取和理解數據,提高其工作效率

原文連結:https://towardsdatascience.com/be-a-more-efficient-data-scientist-today-master-pandas-with-this-guide-ea362d27386

相關焦點

  • 別找了,這是 Pandas 最詳細教程了
    pandas 最有趣的地方在於裡面隱藏了很多包。它是一個核心包,裡面有很多其他包的功能。這點很棒,因為你只需要使用 pandas 就可以完成工作。pandas 相當於 python 中 excel:它使用表(也就是 dataframe),能在數據上做各種變換,但還有其他很多功能。
  • Pandas 常用功能詳細教程!
    pandas 最有趣的地方在於裡面隱藏了很多包。它是一個核心包,裡面有很多其他包的功能。這點很棒,因為你只需要使用 pandas 就可以完成工作。pandas 相當於 python 中 excel:它使用表(也就是 dataframe),能在數據上做各種變換,但還有其他很多功能。
  • Python Pandas 最詳教程
    pandas 最有趣的地方在於裡面隱藏了很多包。它是一個核心包,裡面有很多其他包的功能。這點很棒,因為你只需要使用 pandas 就可以完成工作。pandas 相當於 python 中 excel:它使用表(也就是 dataframe),能在數據上做各種變換,但還有其他很多功能。如果你早已熟知 python 的使用,可以直接跳到第三段。
  • 整理一套 pandas 詳細教程,希望對你有幫助!
    pandas 最有趣的地方在於裡面隱藏了很多包。它是一個核心包,裡面有很多其他包的功能。這點很棒,因為你只需要使用 pandas 就可以完成工作。pandas 相當於 python 中 excel:它使用表(也就是 dataframe),能在數據上做各種變換,但還有其他很多功能。如果你早已熟知 python 的使用,可以直接跳到第三段。
  • 伴讀 | 牛津樹【中國篇3-4】Panda Picnic
    So,They would go to a panda picnic.That's why Lin needed a panda costume.Lin put it on.Lin 穿上了演出服。"Wow!" said Biff. "A panda!"
  • 「panda」是「熊貓」,「car」是汽車,「panda car」是什麼
    大家好,歡迎來的餅哥英語的頻道,今天我們分享一個非常有用且地道的表達——panda car, 這個短語的含義不是指「熊貓車」,其正確的含義是:panda car 巡邏警車(此表達來源於英國)Slow down, there's a panda car up ahead!
  • 玩閱讀Panda Bear, Panda Bear經典英文繪本資源
    a panda bear, a bald eagle, a water buffalo, a spider monkey, a green sea turtle, a macaroni penguin, a sea lion, a red wolf, a whooping crane, and a black panther…all wild and free that's what I see.1
  • 魯智深陪你精讀牛津樹(中國故事5)|Panda Picnic
    So, what is a panda picnic? Let's read the story and find out the answer together.什麼是熊貓野餐呢?我們一起讀故事找答案吧。What is in mum’s hands?媽媽手裡拿著什麼東西?
  • Pandas GUI:如何輕鬆獲取Pandas數據幀?
    Pandas庫的社區也很完善,這讓它能夠一直積極發展和改進。提到Pandas,就不得不提到這兩種工具:· 可以用簡短的代碼執行基本EDA的工具。這些庫本質上是在hood中運行Pandas的功能,如SweetViz和Pandas profiling庫。
  • 移動硬碟安裝PE的詳細教程
    因此,今天U大俠小編就和大家分享WinPE系統集成軟體的詳細教程吧!1、啟動PE Builder,在工具欄中單擊「來源程式」右側的瀏覽按鈕,打開「瀏覽文件夾」對話框。選中Windows XP(SP2)的安裝光碟或安裝源文件的路徑,並單擊「確定」按鈕。2、返回程序主界面,單擊「插件」按鈕。
  • 微信好友互刪了還能找回來嗎?詳細教程來了!
    微信好友互刪了還能找回來嗎?詳細教程來了不知道大家有沒有遇到過在微信和別人溝通過程中產生衝動而刪除對方好友的行為,如果有那麼等到氣消時想找回怎麼辦呢?首先運行卓師兄,點擊首頁的【好友恢復】,根據提示進行操作,深度掃描完微信數據後,點擊底部【通訊錄】圖標即可查看被誤刪微信聯繫人列表;點擊【立即開通】>【去授權】,即可查看恢復回來的好友詳細資料了
  • 最詳細的SAI筆刷設置教程,非常全面詳細!
    這十種筆刷分別是:鉛筆、噴槍、筆、水彩筆、馬克筆、橡皮擦、選擇筆、選區擦、油漆桶、二值筆。接下來我會一個一個地介紹這些筆刷的特點。(其實最常用的也就第一排)不過這太多了,小pencil就舉幾個例子吧,其他的你可以自己去親自體會一番。如圖,左邊的是用「通常的圓形」「無材質」繪製的,中間的是「結縷草」「無材質」繪製的,右邊是「通常的圓形」「畫布」繪製的。
  • PandaSQL:一個讓你能夠通過SQL語句進行pandas的操作的python包
    import pandas as pd import random import datetime def random_dt_bw(start_date,end_date): days_between = (end_date -
  • Mr.panda——最專業的披薩
    Mr.panda,憑藉對時尚餐飲理念的高度把握,提供專業的披薩,咖啡,飲品,輔以時尚的設計風格,讓客人感受高端時尚的新餐飲理念。同時Mr.panda推出了酵素飲料,讓我們來告訴你酵素飲料的神氣之處吧!酵素由水果發酵而成,具有分解、代謝、激活、修復、血液淨化、抗炎殺菌等作用,對的健飲品。
  • ...pandemic, there's a heartening piece of news - a pair of...
    Amid the gloom spawned by coronavirus pandemic, there's a heartening piece of news - a pair of captive giant panda twins have been born in Chengdu in 2020!
  • 靜物素描太難,詳細教程在裡面
    ↓↓↓看下面這幾張的靜物素描初學者是不是在想怎麼畫出物體的體積感和質感的除了物體顏色是黑白的但是調子怎麼鋪的那麼細膩、整齊靜物素描的教程首先點點從簡單的素描單體導入初學者可以跟著教程臨摹或者學習都是可以的/// ☞梨的教程☜ 使用工具:鉛筆(4B--8B)、橡皮、素描紙
  • 蘋果詳細退款教程
    自己惦記惦記著弄昂當然你理由對,很多以前充過的點劵什麼的都是可以退的,下面為大家帶來詳細的退款教程。外面接單的都是用的這些辦法。這一段對話就是和客服聊天的時候的對話如果退款不成功或者出現卡單情況了(極少數)可以電話蘋果客服進行退款電話溝通更加容易退款大家可以試試然後想做商業化的我下面也有教程的 反正都是些特殊方法大家呢心不要太大試試首單就行了基本百分百退款的!
  • 超詳細步驟教程
    超詳細步驟教程!首先我們要知道,畫出來的物體是由什麼構成的。對,就是由線和點!其實一幅畫就是由無數的線和無數的點構成的,那麼只要我們把握好線和點的畫法,基本上對畫畫已經成功了一半了。而另一半呢,就是自己的理解能力以及觀察能力。「輕微課」的網站上非常多的繪畫教程、繪畫素材,也有專業的繪畫課程,學繪畫的小夥伴可以去上面找到很多有用的繪畫學習資源哦!
  • OPPO R9s玩機入門教程
    快在下面的裡找找答案吧。可能常常有困擾,工作和生活的帳號攪在一起,來回切換太麻煩,一不留神把生活私事發到工作/學習群裡,這就尷尬了~~現在不用煩了,R9s手機支持一個手機同時登錄兩個帳號,微信/QQ帳號雙開,工作、生活兩不誤~快來和小歐一起看看操作步驟~首先你得有一部R9s手機,別著急,官網已經可以預定了~~(*^__^*) 嘻嘻……跟著進入手機的【設置】,選擇【應用分身
  • 外面接單用的蘋果詳細退款教程
    首先要說明的是,首次退款且理由正確時機正確絕對百分百是能退款的為什麼說理由時機正確呢,比如你剛剛充了648然後過幾分鐘打電話過去說我買錯了不是想買這個東西的,指紋(面容)很突然的付款了這樣就是正確的理由,你不能說你前天買的,你現在打電話過去說不小心的買錯了的,這不扯淡嗎。自己惦記惦記著弄昂當然你理由對,很多以前充過的點劵什麼的都是可以退的,下面為大家帶來詳細的退款教程。