數據分析從業者必看,10 個加速 python 數據分析的簡單的小技巧

2021-01-11 雷鋒網

雷鋒網 AI 科技評論按,一些小的技巧在編程領域可能會非常有用,在數據科學領域同樣如此。數據科學愛好者 Parul Pandey 在近日發表了一篇博文,分享了在數據科學中非常實用的 10 個小技巧。雷鋒網 AI 科技評論將他的文章編譯整理如下。

有時候,一點小小的黑客行為可以節省時間,挽救生命。一個小小的快捷方式或附加組件有時會被證明是天賜之物,並且可以真正提高生產力。所以,下面是我最喜歡的一些技巧,我以本文的形式一起使用和編譯它們。其中,有些可能是相當有名的,有些可能是新的,但我相信下次您從事數據分析項目時,它們會非常有用。

1.Profiling the pandas dataframe

Profiling 是一個幫助我們理解數據的程序,而 Pandas Profiling 正是實現這一點的一個 python 包。這是對 pandas 數據幀進行探索性數據分析的一種簡單快速的方法。pandas df.describe()和 df.info()函數通常用作 EDA 過程的第一步。但是,它只提供了非常基本的數據概述,對於大型數據集沒有太大幫助。另一方面,pandas 分析函數使用 df.profile_report()擴展 pandas 數據幀,以便快速進行數據分析。它用一行代碼顯示了大量信息,在交互式 HTML 報告中也顯示了這些信息。

對於給定的數據集,pandas 分析包計算以下統計信息:

Pandas Profiling 包計算統計信息

安裝

pip install pandas-profiling

or

conda install -c anaconda pandas-profiling

使用

讓我們使用古老的 Titanic 數據集來演示通用的 Python 分析器的功能。

#importing the necessary packages
import pandas as pd
import pandas_profiling


# Depreciated: pre 2.0.0 version
df = pd.read_csv('titanic/train.csv')
pandas_profiling.ProfileReport(df)

註:在這篇文章發表一周後,Pandas-Profiling 發布了一個升級版本 2.0.0。其語法發生了一些變化,事實上,功能已經包含在 pandas 中,報告也變得更加全面。以下是最新的語法用法:

使用

要在 Jupyter notebook 中顯示報告,請運行:

#Pandas-Profiling 2.0.0
df.profile_report()

這一行代碼就是在 Jupyter notebook 中顯示數據分析報告所需的全部代碼。報告非常詳細,必要時包括圖表。

還可以將報告導出到具有以下代碼的交互式 HTML 文件中。

profile = df.profile_report(title='Pandas Profiling Report')
profile.to_file(outputfile="Titanic data profiling.html")

有關更多詳細信息和示例,請參閱這個文檔。

2.第二步,為 pandas plots 帶來交互性

pandas 有一個內置的.plot()函數作為數據幀類的一部分。然而,用這個函數呈現的可視化並不是交互式的,這使得它不那麼吸引人。相反,也不能排除使用 pandas.dataframe.plot()函數繪製圖表的易用性。如果我們不需要對代碼進行重大修改,就可以像繪製 pandas plots 那樣繪出交互式圖表呢?你可以在 Cufflinks 庫的幫助下做到這一點。

Cufflinks 將 plotly 的力量與 pandas 的靈活性結合起來,便於繪製。現在讓我們來看看如何安裝這個庫並讓它在 pandas 中工作。

安裝

pip install plotly # Plotly is a pre-requisite before installing cufflinks
pip install cufflinks

使用

#importing Pandas
import pandas as pd
#importing plotly and cufflinks in offline mode
import cufflinks as cf


import plotly.offline
cf.go_offline()
cf.set_config_file(offline=False, world_readable=True)

是時候用 Titanic 數據集來展示它的魔法了。

df.iplot()

df.iplot() vs df.plot()

右視圖顯示的是靜態圖表,左圖表是交互式的,更詳細地說,所有這一切在語法上都沒有重大變化。

點擊這裡獲取更多的示例。

3.一點點 Magic

Magic 命令是 Jupyter notebook 中的一組方便的函數,旨在解決標準數據分析中的一些常見問題。在%lsmagic 的幫助下,您可以看到所有可用的 magic。

所有可用的 magic 函數列表

magic 命令有兩種:行 magics(前綴為一個% 字符並在一行輸入上操作)和單元 magics(用%% 前綴關聯並在多行輸入上操作)。如果設置為 1,則可以調用 magic 函數,而無需鍵入初始百分比。

讓我們看看其中一些在常見數據分析任務中可能有用的功能:

% pastebin

%Pastebin 將代碼上載到 Pastebin 並返回 URL。Pastebin 是一種在線內容託管服務,我們可以在其中存儲純文本(如原始碼片段),然後可以與其他人共享 URL。事實上,Github gist 也類似於 Pastebin,儘管有版本控制。

考慮使用包含以下內容的 python script file.py:

#file.py
def foo(x):
 return x

使用 Jupyter notebook 中的%pastebin 生成 pastebin url

%matplotlib notebook

%matplotlib inline 函數用於呈現 Jupyter noteboo 中的靜態 matplotlib 繪圖。嘗試用 notebook 替換內嵌部件,以輕鬆獲得可縮放和可調整大小的繪圖。確保在導入 Matplotlib 庫之前調用了函數。

%matplotlib inline vs %matplotlib notebook

%run

%run 函數在 notebook 內運行 python 腳本。

%run file.py

%%writefile

%WriteFile 將單元格的內容寫入文件。在這裡,代碼將被寫入一個名為 foo 的文件,並保存在當前目錄中。

%%latex

%%latex 函數將單元格內容呈現為 LaTeX。它可用於在單元中編寫數學公式和方程。

4.發現和消除錯誤

interactive debugger 也是一個神奇的函數,但我已經為它提供了自己的一個類別。如果在運行代碼單元時遇到異常,請在新行中鍵入%debug 並運行它。這將打開一個交互式調試環境,將您帶到發生異常的位置。您還可以檢查程序中分配的變量值,並在此處執行操作。要退出調試器,請單擊 q。

5.輸出也可以很漂亮

如果您想為數據結構生成美觀的表示,pprint 是你想要的模塊,它在列印字典或 JSON 數據時特別有用。讓我們來看一個使用 print 和 pprint 顯示輸出的示例。

6.突出報警框

我們可以在您的 Jupyter 筆記本中使用警告/注釋框來突出顯示重要的內容或任何需要突出顯示的內容。注釋的顏色取決於警報的類型。只需在需要突出顯示的單元格中添加以下代碼。

藍色警報框:信息提示

<div>
<b>Tip:</b> Use blue boxes (alert-info) for tips and notes.
If it』s a note, you don』t have to include the word「Note」.
</div>

黃色警報框:警告

<div>
<b>Example:</b> Yellow Boxes are generally used to include additional examples or mathematical formulas.
</div>

綠色警報框:成功

<div>
Use green box only when necessary like to display links to related content.
</div>

紅色警報框:危險

<div>
It is good to avoid red boxes but can be used to alert users to not delete some important part of code etc.
</div>

7.列印單元格的所有輸出

考慮一個包含以下代碼行的 Jupyter notebook 單元:

In [1]: 10+5
 11+6

Out [1]: 17

通常情況下,單元格中只有最後一個輸出會被列印出來,對於其他輸出,我們需要添加 print()函數。好吧,其實我們只需在 notebook 頂部添加以下代碼片段就可以列印所有輸出。

from IPython.core.interactiveshell import InteractiveShell InteractiveShell.ast_node_interactivity = "all"

現在所有的輸出都被一個接一個地列印出來

In [1]: 10+5
 11+6
 12+7

Out [1]: 15
Out [1]: 17
Out [1]: 19

要恢復到原始設置:

InteractiveShell.ast_node_interactivity = "last_expr"

8.使用「i」文件運行 python 腳本

從命令行運行 python 腳本的一種典型方法是:python hello.py。但是,如果您在運行同一腳本(如 python)時添加了一個額外的-i hello.py,那麼它提供了更多的優勢。讓我們看看怎麼做。

首先,只要程序不結束,python 就不會退出解釋器。因此,我們可以檢查變量的值以及程序中定義的函數的正確性。

其次,我們可以通過以下方式輕鬆調用 Python 調試器,因為我們仍在解釋器中:

import pdb
pdb.pm()

這將使我們進入異常發生的位置,然後我們可以處理代碼。

查看來源可以點擊這裡。

9.自動注釋代碼

ctrl/cmd+/自動將單元格中選定的行注釋掉,再次點擊組合將取消對同一行代碼的注釋。

10.刪除容易恢復難

你有沒有不小心刪除了 Jupyter notebook 上的一個單元的經歷?如果有,那麼這裡有一個快捷方式可以撤消刪除操作。

如果刪除了單元格的內容,則可以通過按 ctrl/cmd+z 輕鬆恢復該內容。

如果需要恢復整個已刪除單元格,請按 Esc+Z 或 EDIT > Undo 撤銷刪除單元格。

結論

在本文中,我列出了在使用 Python 和 Jupyter notebook 時收集到的主要技巧。我相信它們會對你有用,你會從這篇文章中收回一些東西。好了,開始快樂的編碼之旅吧!.

via:https://www.kdnuggets.com/2019/07/10-simple-hacks-speed-data-analysis-python.html

雷鋒網(公眾號:雷鋒網)雷鋒網

雷鋒網版權文章,未經授權禁止轉載。詳情見轉載須知。

相關焦點

  • Python視頻教程網課編程零基礎入門數據分析網絡爬蟲全套Python...
    總目錄 零基礎全能篇(4套課程) 實用編程技巧進價(1套課程) 數據分析與挖掘(8套課程) 辦公自動化(3套課程) 機器學習與人工智慧(7套課程) 開發實戰篇(4套課程) 量化投資(2套課程) 網絡爬蟲(6套課程) 資料庫操作(1套課程) python
  • 為什麼數據分析要學習Python?
    酷炫的圖表,理性的分析闡述,出其不意又在情理之中的思考角度,總讓人對這群「用數據講故事的人」充滿了嚮往。數據分析師大體工作流程可以簡化描述成:數據獲取整理——數據分析——數據報告幾個關鍵環節。1、基礎能力:使用Excel完成簡單的數據分析工作Excel相信大家都已經很熟悉了,它適用於一些數據量不大、重複性不算強的工作場景,但面對海量數據和批量任務時,也會存在效率低(數據量大時會卡死)、復用性不強等問題。
  • Python數據分析:pandas讀取和寫入數據
    我的公眾號是關於自己在數據分析/挖掘學習過程中的一些技術和總結分享,文章會持續更新......繼續深入學習pandas相關操作,數據讀取寫入、分組、合併,轉換等等。前面一篇文章裡已經寫了關於描述性統計以及常用的基本操作。接下來的一段時間裡,我將陸續地去掌握並輸出。這篇文章是關於數據讀取與寫入的知識點。
  • 大數據分析Python NumPy庫使用教程
    我將在大數據分析Python NumPy庫使用教程中學到什麼? 大數據分析Python NumPy庫使用教程為數據工程師提供有關NumPy的從零開始的培訓。這意味著您不需要具有NumPy的任何經驗,也不會浪費任何時間學習與數據工程工作無關的東西。
  • 懂Excel輕鬆入門Python數據分析包pandas(二十七):IF函數代替者
    此系列文章收錄在:數據大宇宙 > 數據處理 > E-pd轉發本文並私信我"python",即可獲得Python資料以及更多系列文章(持續更新的)經常聽別人說 Python 在數據領域有多厲害,結果學了很長時間,連數據處理都麻煩得要死。
  • Python數據分析入門教程(一):獲取數據源
    作者 | CDA數據分析師俗話說,巧婦難為無米之炊。不管你廚藝有多好,如果沒有食材,也做不出香甜可口的飯菜來,所以想要做出飯菜來,首先要做的就是要買米買菜。而數據分析就好比是做飯,首先也應該是準備食材,也就是獲取數據源。一、導入外部數據導入數據主要用到的是Pandas裡的read_x()方法,x表示待導入文件的格式。
  • 引力波數據居然是用 Python 分析的
    那麼觀測到的引力波數據的量應該很大,科學家如何對這些數據進行分析?有沒有用到Python程式語言?答案是肯定的。筆者在Github上發現了一個專門用於分析引力波數據的Python包:GWPY[1]。在具體介紹GWPY之前,先給和筆者一樣的小白簡單科普一下引力波和LIGO的相關知識。什麼是引力波?
  • python編程中探索性數據分析詳解,看完就會
    python作為一門高級程式語言,它的定位是優雅、明確和簡單。閱讀Python編寫的代碼感覺像在閱讀英語一樣,這讓使用者可以專注於解決問題而不是去搞明白語言本身。Python雖然是基於C語言編寫,但是摒棄了C中複雜的指針,使其變得簡明易學。並且作為開源軟體,Python允許對代碼進行閱讀,拷貝甚至改進。
  • 辦公必備的大數據分析利器,數據分析工具推薦
    說到數據分析,很多小夥伴可能第一時間聯想到複雜的算法,龐大的數據,甚至是讓人眼花繚亂的代碼。但實際上,運營做數據分析並不需要懂這些,關鍵是你對業務流程的理解,以及用數據解決問題的思維。本文將介紹在一些領域被高頻率使用,且不可缺少的大數據分析利器,使用尚可的數據分析工具。
  • 常用數據分析方法:方差分析及實現!
    方差分析是一種常用的數據分析方法,其目的是通過數據分析找出對該事物有顯著影響的因素、各因素之間的交互作用及顯著影響因素的最佳水平等。本文介紹了方差分析的基礎概念,詳細講解了單因素方差分析、雙因素方差分析的原理,並且給出了它們的python實踐代碼。
  • 辦公必備的大數據分析利器,值得推薦數據分析工具
    說到數據分析,很多小夥伴可能第一時間聯想到複雜的算法,龐大的數據,甚至是讓人眼花繚亂的代碼。但實際上,運營做數據分析並不需要懂這些,關鍵是你對業務流程的理解,以及用數據解決問題的思維。本文將介紹在一些領域被高頻率使用,且不可缺少的大數據分析利器,使用尚可的數據分析工具。
  • Python2 已終結,入手Python 3,你需要這30個技巧
    這篇教程有 30 個你會喜歡的方法。勤勞的程式設計師們,這裡有 30 條使用 Python 時實用的建議和小技巧。你可以把讀這篇文章當做工作間隙的小憩,而且我保證你學到的東西會跟工作時一樣多。1.返回多個值Python 的函數可以同時返回多個值,也並不需要使用 dictionary,list 或是類這樣的數據結構。它的工作機制是這樣的這種方式在返回值的數量很少時是可以的,但是如果返回值超過 3 個,那它們就該被放到一個(數據)類中了。7.
  • 從數據可視化到交互式數據分析
    最新和最時尚的名字是數字科學,更具體地說是數據科學的一部分,稱為「探索性數據分析」,這是幾十年前偉大的約翰·圖基(John Tukey)發明的術語。簡單起見,我將其稱為:數據分析,或者是視覺數據分析,甚至是交互式視覺數據分析,以強調是可以與之交互的圖形表現(學術界和商界也稱之為視覺分析)。為何更多地談論數據分析?
  • Excel操作技巧:簡單3步,搞定數據統計和分析!
    所以,我們需要對表格內容進行數據統計和分析,才能夠將信息順利的傳遞出去。今天的這篇文章,我給大家分享一下數據統計分析的3個基本套路:1、 需求分析2、 數據整理3、 統計分析>學會這3個套路,你也能夠在老闆面前侃侃而談,讓老闆愛上你的表格!
  • 2020數據分析崗位報告:數據分析師需要哪些能力?
    我使用selenium-python進行網頁抓取,因為傳統的BeautifulSoap方法在這個站點上不太好用。我們將為每個工作抓取出五個要素:角色、公司名稱、工作經驗、工作地點和關鍵技能。2.2處理重複數據在處理重複數據時,我們需要非常小心,因為一個公司可能會多次發布相同的要求,因為該職位仍在招聘中,或者另一方面,該公司可能正在尋找具有相同要求的全新職位。
  • 數據工程師需要掌握的 18 個 Python 庫
    作者 | 劉早起早起責編 | 屠敏本文對Python中在數據分析中需要掌握的庫進行了整理,一起來看看吧!所以使用 pip install Twisted-18.9.0-cp37-cp37m-win32.whl 來安裝,然後使用pip install scrapy 來安裝scrapy就可以了數據獲取Beautiful SoupBeautiful Soup也是一個從網站爬取數據的庫,他提供一些簡單的、python式的函數用來處理導航、搜索、修改分析樹等功能。
  • 十年數據分析經驗,總結出這三類分析工具最好用
    提及數據分析工具相信小夥伴們都不陌生,但是很多人都會有個疑惑?數據分析工具這麼多,它們有什麼區別?哪個更好?哪個更強?我應該學習哪個?雖然這個問題有點俗套,但是很重要,我也一直努力在追求這個終極問題的答案。如果大家在網上去搜索這方面相關的信息,你又很難看到一個公平的觀點。
  • 手把手教你用數據分析看美國大選
    數據分析到底是什麼?該怎麼做?數據思維又是什麼?數據分析怎麼應用到日常工作生活? 為了更好的理解數據分析的這些問題,我們來結合美國大選這個具體例子,帶著大家做一場「探索性數據分析」。
  • 大數據分析與數據分析的根本區別在哪裡?
    作者:CDA數據分析師大數據分析與數據分析這幾年一直都是個高頻詞,很多人都開始紛紛轉行到這個領域,也有不少人開始躍躍欲試,想找準時機進到大數據或數據分析領域。如今大數據分析和數據分析火爆,要說時機,可謂處處都是時機,關鍵要明了的一點是,大數據分析和數據分析兩者的根本區別在哪裡,只有真正了解了,才會知曉更加適合自己的領域是大數據分析師還是數據分析師。畢竟職場如戰場,時間就是生活,不容兒戲,更不容怠慢。下面我來好好告訴大家兩者的本質區別到底是什麼!大數據分析:指無法在可承受的時間範圍內用常規軟體工具進行捕捉、管理和處理的數據集合。
  • 心理學(社會學)數據量化分析平臺指南,數據分析從未如此簡單!
    軟體介紹「心理學量化分析平臺」是為心理學專業(社會學亦可)同學提供的一個小巧的數據分析輔助工具,幫助使用者一鍵完成一些簡單,機械、重複、耗時長的工作,讓使用者能從繁雜的操作中抽出更多時間做更具創造性的工作。