本文介紹如何創建 DataFrame,也是 pandas 中最常用的數據類型,必須掌握的,後續的所有連載文章幾乎都是基於DataFrame數據的操作。
pandas 和 numpy 建議通過 anaconda 安裝後使用;pymysql 主要是 python 用來連接資料庫,然後進行庫表操作的第三方庫,也需要先安裝
import numpy as np
import pandas as pd
from pandas import Series,DataFrame
import pymysql # 安裝:pip install pymysql
10種方式創建 DataFrame下面介紹的是通過不同的方式來創建 DataFrame 數據,所有方式最終使用的函數都是:pd.DataFrame()
1、創建空 DataFrame
2、創建數值為 NaN 的 DataFrame
df0 = pd.DataFrame(
columns=['A','B','C'], # 指定列屬性
index=[0,1,2] # 指定行索引
)
df0改變數據的行索引:
df0 = pd.DataFrame(
columns=['A','B','C'],
index=[1,2,3] # 改變行索引:從1開始
)
df0
手動創建 DataFrame將每個列欄位的數據通過列表的形式列出來
df1 = pd.DataFrame({
"name":["小明","小紅","小侯","小周","小孫"],
"sex":["男","女","女","男","男"],
"age":[20,19,28,27,24],
"class":[1,2,2,1,2]
})
df1
讀取本地文件創建pandas 可以通過讀取 Excel、CSV、JSON 等文件來創建 DataFrame 數據
1、讀取 CSV 文件
比如曾經爬到的一份成都美食的數據,是 CSV 格式的:
df2 = pd.read_csv("成都美食.csv") # 括號裡面填寫文件的路徑:本文的文件在當然目錄下
df22、讀取 Excel 文件
如果是 Excel 文件,也可以進行讀取:
df3 = pd.read_excel("成都美食.xlsx")
df3.head() # 默認顯示前5行數據3、讀取 json 文件
比如本地當前目錄下有一份 json 格式的數據:
通過 pandas 讀取進來:
df4 = pd.read_json("information.json")
df44、讀取 TXT 文件
本地當前目錄有一個 TXT 文件,如下圖:
df5 = pd.read_table("text.txt")
df5上圖中如果不指定任何參數:pandas 會將第一行數據作為列欄位(不是我們想要的結果),指定參數修改後的代碼:
df7 = pd.read_table(
"text.txt", # 文件路徑
names=["姓名","年齡","性別","省份"], # 指定列屬性
sep=" " # 指定分隔符:空格
)
df7另外的一種解決方法就是:直接修改 txt 文件,在最上面加上我們想要的列欄位屬性:這樣最上面的一行數據便會當做列欄位
姓名 年齡 性別 出生地
小明 20 男 深圳
小紅 19 女 廣州
小孫 28 女 北京
小周 25 男 上海
小張 22 女 杭州
讀取資料庫文件創建1、先安裝 pymysql
本文中介紹的是通過 pymysql 庫來操作資料庫,然後將數據通過 pandas 讀取進來,首先要先安裝下 pymysql庫(假裝你會了):
pip install pymysql首先看下本地資料庫中一個表中的數據:讀取 Student 表中的全部數據
數據真實樣子如下圖:
2、建立連接
connection = pymysql.connect(
host="IP位址",
port=埠號,
user="用戶名",
password="密碼",
charset="字符集",
db="庫名"
)
cur = connection.cursor() # 建立遊標
# 待執行的SQL語句
sql = """
select * from Student
"""
# 執行SQL
cur.execute(sql)3、返回執行的結果
data = []
for i in cur.fetchall():
data.append(i) # 將每條結果追加到列表中
data4、創建成 DataFrame 數據
df8 = pd.DataFrame(data,columns=["學號","姓名","出生年月","性別"]) # 指定每個列屬性名稱
df8
使用 python 字典創建1、包含列表的字典創建
# 1、包含列表的字典
dic1 = {"name":["小明","小紅","小孫"],
"age":[20,18,27],
"sex":["男","女","男"]
}
dic1df9 = pd.DataFrame(dic1,index=[0,1,2])
df92、字典中嵌套字典進行創建
# 嵌套字典的字典
dic2 = {'數量':{'蘋果':3,'梨':2,'草莓':5},
'價格':{'蘋果':10,'梨':9,'草莓':8},
'產地':{'蘋果':'陝西','梨':'山東','草莓':'廣東'}
}
dic2
# 結果
{'數量': {'蘋果': 3, '梨': 2, '草莓': 5},
'價格': {'蘋果': 10, '梨': 9, '草莓': 8},
'產地': {'蘋果': '陝西', '梨': '山東', '草莓': '廣東'}}創建結果為:
python 列表創建1、使用默認的行索引
lst = ["小明","小紅","小周","小孫"]
df10 = pd.DataFrame(lst,columns=["姓名"])
df10可以對索引進行修改:
lst = ["小明","小紅","小周","小孫"]
df10 = pd.DataFrame(
lst,
columns=["姓名"],
index=["a","b","c","d"] # 修改索引
)
df103、列表中嵌套列表
# 嵌套列表形式
lst = [["小明","20","男"],
["小紅","23","女"],
["小周","19","男"],
["小孫","28","男"]
]
df11 = pd.DataFrame(lst,columns=["姓名","年齡","性別"])
df11
python 元組創建元組創建的方式和列表比較類似:可以是單層元組,也可以進行嵌套。
1、單層元組創建
# 單層元組
tup = ("小明","小紅","小周","小孫")
df12 = pd.DataFrame(tup,columns=["姓名"])
df122、元組的嵌套
# 嵌套元組
tup = (("小明","20","男"),
("小紅","23","女"),
("小周","19","男"),
("小孫","28","男")
)
df13 = pd.DataFrame(tup,columns=["姓名","年齡","性別"])
df13
使用 Series 創建DataFrame 是將數個 Series 按列合併而成的二維數據結構,每一列單獨取出來是一個 Series ,所以我們可以直接通過Series數據進行創建。
series = {'水果':Series(['蘋果','梨','草莓']),
'數量':Series([60,50,100]),
'價格':Series([7,5,18])
}
df15 = pd.DataFrame(series)
df15
numpy 數組創建1、使用 numpy 中的函數進行創建
# 1、使用numpy生成的數組
data1 = {
"one":np.arange(4,10), # 產生6個數據
"two":range(100,106),
"three":range(20,26)
}
df16 = pd.DataFrame(
data1,
index=['A','B','C','D','E','F'] # 索引長度和數據長度相同
)
df162、直接通過 numpy 數組創建
# 2、numpy數組創建
# reshape()函數改變數組的shape值
data2 = np.array(["小明","廣州",175,"小紅","深圳",165,"小周","北京",170,"小孫","上海",180]).reshape(4,3)
data2df17 = pd.DataFrame(
data2, # 傳入數據
columns=["姓名","出生地","身高"], # 列屬性
index=[0,1,2,3] # 行索引
)
df173、使用 numpy 中的隨機函數
# 3、numpy中的隨機函數生成
# 創建姓名、學科、學期、班級4個列表
name_list = ["小明","小紅","小孫","小周","小張"]
subject_list = ["語文","數學","英文","生物","物理","地理","化學","體育"]
semester_list = ["上","下"]
class_list = [1,2,3]
# 生成40個分數:在50-100之間
score_list = np.random.randint(50,100,40).tolist() # 50-100之間選擇40個數隨機生成的 40 個分數:
通過 numpy 中的 random 模塊的 choice 方法進行數據的隨機生成:
df18 = pd.DataFrame({
"name": np.random.choice(name_list,40,replace=True), # replace=True表示抽取後放回(默認),所以存在相同值
"subject": np.random.choice(subject_list,40),
"semester": np.random.choice(semester_list,40),
"class":np.random.choice(class_list,40),
"score": score_list
})
df18
使用構建器 from_dictpandas中有一個和字典相關的構建器:DataFrame.from_dict 。
它接收字典組成的字典或數組序列字典,並生成 DataFrame。除了 orient 參數默認為 columns,本構建器的操作與 DataFrame 構建器類似。把 orient 參數設置為 'index', 即可把字典的鍵作為行標籤。
df19 = pd.DataFrame.from_dict(dict([('姓名', ['小明', '小紅', '小周']),
('身高', [178, 165, 196]),
('性別',['男','女','男']),
('出生地',['深圳','上海','北京'])
])
)
df19還可以通過參數指定行索引和列欄位名稱:
df20 = pd.DataFrame.from_dict(dict([('姓名', ['小明', '小紅', '小周']),
('身高', [178, 165, 196]),
('性別',['男','女','男']),
('出生地',['深圳','上海','北京'])
]),
orient='index', # 將字典的鍵作為行索引
columns=['one', 'two', 'three'] # 指定列欄位名稱
)
df20
使用構建器 from_recordspandas中還有另一個支持元組列表或結構數據類型(dtype)的多維數組的構建器:from_records
data3 = [{'身高': 173, '姓名': '張三','性別':'男'},
{'身高': 182, '姓名': '李四','性別':'男'},
{'身高': 165, '姓名': '王五','性別':'女'},
{'身高': 170, '姓名': '小明','性別':'女'}]
df21 = pd.DataFrame.from_records(data3)
df21還可以傳入列表中嵌套元組的結構型數據:
data4 = [(173, '小明', '男'),
(182, '小紅', '女'),
(161, '小周', '女'),
(170, '小強', '男')
]
df22 = pd.DataFrame.from_records(data4,
columns=['身高', '姓名', '性別']
)
df22
總結DataFrame 是 pandas 中的二維數據結構,即數據以行和列的表格方式排列,類似於 Excel 、SQL 表,或 Series 對象構成的字典。它在 pandas 中是經常使用,本身就是多個 Series 類型數據的合併。
本文介紹了10 種不同的方式創建 DataFrame,最為常見的是通過讀取文件的方式進行創建,然後對數據幀進行處理和分析。希望本文能夠對讀者朋友掌握數據幀 DataFrame 的創建有所幫助。