Python入門Python處理CSV、JSON和XML數據的簡便方法

2022-01-09 Python自學圈



在人工智慧的風口,Python越來越受歡迎,很多小夥伴也紛紛想要開始學習Python。作為一個Python近2年的學習者,為大家獻上一些不錯的Python自學乾貨。

Python入門

這是我在自學路上,整理的不錯的Python自學資料。需要的小夥伴可以掃描下方二維碼: Python入門

                

因為加的人多,大家一定要填寫備註:{333} 否則不通過,請理解。通過後,請主動領取。

Python的卓越靈活性和易用性使其成為最受歡迎的程式語言之一,尤其是對於數據處理和機器學習方面來說,其強大的數據處理庫和算法庫使得python成為入門數據科學的首選語言。在日常使用中,CSV,JSON和XML三種數據格式佔據主導地位。下面我將針對三種數據格式來分享其快速處理的方法。

CSV數據Python入門

CSV是存儲數據的最常用方法。在Kaggle比賽的大部分數據都是以這種方式存儲的。我們可以使用內置的Python csv庫來讀取和寫入CSV。通常,我們會將數據讀入列表列表。

看看下面的代碼。當我們運行csv.reader所有CSV數據變得可訪問時。該csvreader.next函數從CSV中讀取一行; 每次調用它,它都會移動到下一行。我們也可以使用for循環遍歷csv的每一行for row in csvreader 。確保每行中的列數相同,否則,在處理列表列表時,最終可能會遇到一些錯誤。

import csv

filename = "my_data.csv"

fields =
rows =
# Reading csv file
with open(filename, 'r') as csvfile:
# Creating a csv reader object
csvreader = csv.reader(csvfile)

# Extracting field names in the first row
fields = csvreader.next

# Extracting each data row one by one
for row in csvreader:
rows.append(row)
# Printing out the first 5 rows
for row in rows[:5]:
print(row)

在Python中寫入CSV同樣容易。在單個列表中設置欄位名稱,並在列表列表中設置數據。這次我們將創建一個writer對象並使用它將我們的數據寫入文件,與讀取時的方法基本一樣。

import csv

# Field names
fields = ['Name', 'Goals', 'Assists', 'Shots']

# Rows of data in the csv file
rows = [ ['Emily', '12', '18', '112'],
['Katie', '8', '24', '96'],
['John', '16', '9', '101'],
['Mike', '3', '14', '82']]

filename = "soccer.csv"

# Writing to csv file
with open(filename, 'w+') as csvfile:
# Creating a csv writer object
csvwriter = csv.writer(csvfile)

# Writing the fields
csvwriter.writerow(fields)

# Writing the data rows
csvwriter.writerows(rows)

我們可以使用Pandas將CSV轉換為快速單行的字典列表。將數據格式化為字典列表後,我們將使用該dicttoxml庫將其轉換為XML格式。我們還將其保存為JSON文件!

import pandas as pd
from dicttoxml import dicttoxml
import json

# Building our dataframe
data = {'Name': ['Emily', 'Katie', 'John', 'Mike'],
'Goals': [12, 8, 16, 3],
'Assists': [18, 24, 9, 14],
'Shots': [112, 96, 101, 82]
}

df = pd.DataFrame(data, columns=data.keys)

# Converting the dataframe to a dictionary
# Then save it to file
data_dict = df.to_dict(orient="records")
with open('output.json', "w+") as f:
json.dump(data_dict, f, indent=4)

# Converting the dataframe to XML
# Then save it to file
xml_data = dicttoxml(data_dict).decode
with open("output.xml", "w+") as f:
f.write(xml_data)

JSON數據

JSON提供了一種簡潔且易於閱讀的格式,它保持了字典式結構。就像CSV一樣,Python有一個內置的JSON模塊,使閱讀和寫作變得非常簡單!我們以字典的形式讀取CSV時,然後我們將該字典格式數據寫入文件。

import json
import pandas as pd

# Read the data from file
# We now have a Python dictionary
with open('data.json') as f:
data_listofdict = json.load(f)

# We can do the same thing with pandas
data_df = pd.read_json('data.json', orient='records')

# We can write a dictionary to JSON like so
# Use 'indent' and 'sort_keys' to make the JSON
# file look nice
with open('new_data.json', 'w+') as json_file:
json.dump(data_listofdict, json_file, indent=4, sort_keys=True)

# And again the same thing with pandas
export = data_df.to_json('new_data.json', orient='records')

正如我們之前看到的,一旦我們獲得了數據,就可以通過pandas或使用內置的Python CSV模塊輕鬆轉換為CSV。轉換為XML時,可以使用dicttoxml庫。具體代碼如下:

import json
import pandas as pd
import csv

# Read the data from file
# We now have a Python dictionary
with open('data.json') as f:
data_listofdict = json.load(f)

# Writing a list of dicts to CSV
keys = data_listofdict[0].keys
with open('saved_data.csv', 'wb') as output_file:
dict_writer = csv.DictWriter(output_file, keys)
dict_writer.writeheader
dict_writer.writerows(data_listofdict)

XML數據

XML與CSV和JSON有點不同。CSV和JSON由於其既簡單又快速,可以方便人們進行閱讀,編寫和解釋。而XML佔用更多的內存空間,傳送和儲存需要更大的帶寬,更多存儲空間和更久的運行時間。但是XML也有一些基於JSON和CSV的額外功能:您可以使用命名空間來構建和共享結構標準,更好地傳承,以及使用XML、DTD等數據表示的行業標準化方法。

要讀入XML數據,我們將使用Python的內置XML模塊和子模ElementTree。我們可以使用xmltodict庫將ElementTree對象轉換為字典。一旦我們有了字典,我們就可以轉換為CSV,JSON或Pandas Dataframe!具體代碼如下:

import xml.etree.ElementTree as ET
import xmltodict
import json

tree = ET.parse('output.xml')
xml_data = tree.getroot

xmlstr = ET.tostring(xml_data, encoding='utf8', method='xml')


data_dict = dict(xmltodict.parse(xmlstr))

print(data_dict)

with open('new_data_2.json', 'w+') as json_file:
json.dump(data_dict, json_file, indent=4, sort_keys=True)

原文參考

https://towardsdatascience.com/the-easy-way-to-work-with-csv-json-and-xml-in-python-5056f9325ca9

相關焦點

  • Python入門教程Python處理CSV、JSON和XML數據的簡便方法
    Python的卓越靈活性和易用性使其成為最受歡迎的程式語言之一,尤其是對於數據處理和機器學習方面來說,其強大的數據處理庫和算法庫使得python成為入門數據科學的首選語言。在日常使用中,CSV,JSON和XML三種數據格式佔據主導地位。下面我將針對三種數據格式來分享其快速處理的方法。CSV數據CSV是存儲數據的最常用方法。
  • 3招Python 處理CSV、JSON和XML數據的簡便方法!
    Python的卓越靈活性和易用性使其成為最受歡迎的程式語言之一,尤其是對於數據處理和機器學習方面來說,其強大的數據處理庫和算法庫使得python成為入門數據科學的首選語言。在日常使用中,CSV,JSON和XML三種數據格式佔據主導地位。下面我將針對三種數據格式來分享其快速處理的方法。CSV是存儲數據的最常用方法。在Kaggle比賽的大部分數據都是以這種方式存儲的。
  • python教程實戰,json、csv等讀寫
    這種數據在弄爬蟲的時候,經常會見到這類型的數據。下面展示一個簡單的json數據。{ "name": "json", "describe": "是存儲和交換文本信息的語法。類似 XML。"}{ "key": ["a", "b", "sojson.com"]}{ "title": "python 入門", "type": "新手入門", "本篇內容": [ "JSON描述", "JSON數據讀取", "JSON數據構造", "CSV", { "office": [
  • python處理JSON數據
    因此,json的應用日趨廣泛。python內置的字典格式,和json格式基本相同,可以看出,python天生就對json數據比較友好。今天我們來介紹python對json數據的處理。JSON字符串和python字典對於一個字典,我們可以用json.dumps()方法來將其轉化為字符串。
  • Python對CSV文件的處理
    在接口自動化測試中,把測試的數據存儲到csv的文件也是一種很不錯的選擇,下面就詳細的介紹如何實現CSV文件內容的讀取和如何把數據寫入到
  • 在python中處理JSON數據
    json.load() 讀取 json ⽂件到 python 類型json.load(filename)import jsonf = open('example.json', 'r')data = json.load(f)print(data
  • Python處理JSON數據,建議收藏!
    本文結合具體案例詳細介紹了如何利用Python和pandas(Python的第三方庫)來處理json數據,主要內容包含:json數據簡介常用json數據轉化網站json數據和Python數據的轉化pandas處理json數據1.
  • 13-python爬蟲之JSON操作
    結構化的數據是最好處理,一般都是類似JSON格式的字符串,直接解析JSON數據,提取JSON的關鍵欄位即可。
  • python接口自動化5-Json數據處理
    json模塊處理。一般常見的接口返回數據也是json格式的,我們在做判斷時候,往往只需要提取其中幾個關鍵的參數就行,這時候就需要json來解析返回的數據了。二、Encode(python->json)1.首先說下為什麼要encode,python裡面bool值是True和False,json裡面bool值是true和false,並且區分大小寫,這就尷尬了,明明都是bool值。
  • Python處理CSV文件
    在數據處理過程中,可能會需要採用篩選、提取、重新生成等方法來對數據進行處理,下面以csv文件為例,介紹使用Python處理文本文件的方法。開始之前在面對文件讀寫類的問題時,open函數是一定繞不開的,下面先介紹幾種open函數使用的技巧。
  • 如何使用Python 和 Pandas讀寫JSON文件
    在第一部分中,我們將使用Python包json來創建一個JSON文件並寫入一個JSON文件。在下一部分中,我們將使用Pandas的 json方法將JSON文件加載到Pandas 數據幀中。在這裡,我們將學習如何從本地和一個URL讀取JSON文件,以及如何使用Pandas讀取一個嵌套的JSON文件。
  • Python讀取csv文件常見的兩種方法
    #昨天粘貼代碼出現錯誤,這裡重新更正,歡迎大家批評指正。
  • Python處理json總結
    跟python中的字典看起來很像,兩者之間的區別?1)json的key只能是字符串,dict的key可以是任何可hash的對象,例如:字符串、數字、元組等;2)字典是一種數據結構,json是一種數據格式;字典有很多內置函數,有多種調用方法,而json是數據打包的一種格式,並不像字典具備操作性;3)json的字符串強制用雙引號,dict的字符串可以用單引號、雙引號;一般而言,我們會把json轉化為python
  • 呆瓜半小時入門python數據分析_v2
    我在這裡教授新手如何半小時入門數據分析,為初學者入門節約時間,結構化,系統化了解數據分析工作。歡迎各位報名《呆瓜半小時入門python數據分析》 課程目錄章節1前言課時1呆瓜半小時入門python數據分析課程介紹課時2我的所有系列課程介紹課時3如何聯繫作者和訪問我的主頁課時4歡迎項目合作章節2python編程環境搭建課時5python基礎免費學習地址課時6Anaconda下載安裝課時7canopy
  • Python中XML數據結構詳細解析
    物聯網應用過程中,設備採集數據後,一般通過終端採集器網關轉發或web server服務打包成xml或json數據格式傳輸到數據中心或雲平臺,最後經數據解析、數據分析及數據可視化。開發環節涉及末端設備數據採集、數據轉發、數據解析等流程。本文實際業務場景:本文主要介紹兩種常見的數據包格式及使用方法,這裡主要介紹xml實際應用,包括對採集數據如何打包、入庫、解析。結合實際代碼示例演示。JSON是一種輕量級的數據交換格式,易於閱讀和編寫。同時便於機器解析和生成。xml作為常見的數據格式,物聯網應用中依然常見。
  • 如何利用Python處理JSON格式的數據,建議收藏!!!
    數據分析與籃球JSON數據格式在我們的日常工作中經常會接觸到,無論是做爬蟲開發還是一般的數據分析處理,今天,小編就來分享一下當數據接口是JSON格式時,如何進行數據處理進行詳細的介紹,內容分布如下JSON(JavaScript Object Notation, JS對象簡譜)是一種輕量級的數據交換格式,通常是以鍵值對的方式呈現,其簡潔和清晰的層次結構使得
  • 【Python入門只需20分鐘】從安裝到數據抓取、存儲原來這麼簡單
    定義一個 writeDate 方法:import csv #導入包def writeData(data, name):    with open(name, 'a', errors='ignore', newline='') as f:            f_csv = csv.writer(f)            f_csv.writerows(data
  • 【python】讀取json文件
    閱讀大概需要5分鐘跟隨小博主,每天進步一丟丟最近要打個比賽,在處理數據的時候,發現數據竟然是json文件的,
  • Python3 JSON 數據解析 | Python JSON Parsing
    Python3 中可以使用 json 模塊來對 JSON 數據進行編解碼,它包含了兩個函數:在 json 的編解碼過程中,Python 的原始類型與 json 類型會相互轉換,具體的轉化對照如下:Python 編碼為 JSON 類型轉換對應表:PythonJSONdictobjectlist, tuplearraystrstringint, float, int- & float-derived
  • Python3 XML 數據解析 | Python XML Parsing
    Python 對 XML 的解析常見的 XML 編程接口有 DOM 和 SAX,這兩種接口處理 XML 文件的方式不同,當然使用場合也不同。利用 SAX 解析 XML 文檔牽涉到兩個部分: 解析器和事件處理器。