像Excel一樣使用SQL進行數據分析

2021-02-19 SQL資料庫開發
Excel是數據分析中最常用的工具 ,利用Excel可以完成數據清洗,預處理,以及最常見的數據分類,數據篩選,分類匯總,以及數據透視等操作,而這些操作用SQL一樣可以實現。
SQL不僅可以從資料庫中讀取數據,還能通過不同的SQL函數語句直接返回所需要的結果,從而大大提高了自己在客戶端應用程式中計算的效率。


1  重複數據處理

查找重複記錄

SELECT * FROM user 
Where (nick_name,password) in
(
SELECT nick_name,password 
FROM user 
group by nick_name,password 
having count(nick_name)>1
);

查找去重記錄

查找id最大的記錄

SELECT * FROM user 
WHERE id in
(SELECT max(id) FROM user
group by nick_name,password 
having count(nick_name)>1
);

刪除重複記錄

只保留id值最小的記錄

DELETE  c1
FROM  customer c1,customer c2
WHERE c1.cust_email=c2.cust_email
AND c1.id>c2.id;

DELETE FROM user Where (nick_name,password) in
(SELECT nick_name,password FROM
    (SELECT nick_name,password FROM user 
    group by nick_name,password 
    having count(nick_name)>1) as tmp1
)
and id not in
(SELECT id FROM
    (SELECT min(id) id FROM user 
     group by nick_name,password 
     having count(nick_name)>1) as tmp2
);

2  缺失值處理

查找缺失值記錄

SELECT * FROM customer
WHERE cust_email IS NULL;

UPDATE sale set city = "未知" 
WHERE city IS NULL;

UPDATE orderitems set 
price_new=IFNULL(price_new,5.74);

SELECT AVG(price_new) FROM orderitems;

SELECT IFNULL(price_new,5.74) AS bus_ifnull
FROM orderitems;

3  計算列

更新表添加計算列

ALTER TABLE orderitems ADD price_new DECIMAL(8,2) NOT NULL;

UPDATE orderitems set price_new= item_price*count;

SELECT item_price*count as sales FROM orderitems;

4  排序

多列排序

SELECT * FROM orderitems
ORDER BY price_new DESC,quantity;

查詢排名前幾的記錄

SELECT  * FROM orderitems
ORDER BY price_new DESC Limit 5;

查詢第10大的值

SELECT DISTINCT price_new
FROM orderitems
ORDER BY price_new DESC LIMIT 9,1;

排名

數值相同的排名相同且排名連續

SELECT prod_price,
(SELECT COUNT(DISTINCT prod_price)
FROM products
WHERE prod_price>=a.prod_price
) AS rank
FROM products AS a
ORDER BY rank ;

5 字符串處理

字符串替換

UPDATE data1 SET city=REPLACE(city,'SH','shanghai');

SELECT city FROM data1;

按位置字符串截取

字符串截取可用於數據分列
MySQL 字符串截取函數:left(), right(), substring(), substring_index()

SELECT left('example.com', 3);

SELECT substring('example.com', 4);

從字符串的第 4 個字符位置開始取,只取 2 個字符

SELECT substring('example.com', 4, 2);

按關鍵字截取字符串

取第一個分隔符之前的所有字符,結果是www

SELECT substring_index('www.google.com','.',1);

取倒數第二個分隔符之後的所有字符,結果是google.com;

SELECT substring_index('www.google.com','.',-2);

6 篩選

通過操作符實現高級篩選

使用 AND OR IN NOT 等操作符實現高級篩選過濾

SELECT prod_name,prod_price FROM Products
WHERE vend_id IN('DLL01','BRS01');
SELECT prod_name FROM Products WHERE NOT vend_id='DLL01';

通配符篩選

常用通配符有% _ [] ^

SELECT * from customers WHERE country LIKE "CH%";

7 表聯結

SQL表連接可以實現類似於Excel中的Vlookup函數的功能

SELECT vend_id,prod_name,prod_price
FROM Vendors INNER JOIN Products
ON Vendors.vend_id=Products.vend_id;

SELECT prod_name,vend_name,prod_price,quantity
FROM OderItems,Products,Vendors
WHERE Products.vend_id=Vendors.vend_id
AND OrderItems.prod_id=Products.prod_id
AND order_num=20007;

SELECT c1.cust_od,c1.cust_name,c1.cust_contact
FROM Customers as c1,Customers as c2
WHERE c1.cust_name=c2.cust_name
AND c2.cust_contact='Jim Jones';

8 數據透視

數據分組可以實現Excel中數據透視表的功能

數據分組

group by 用於數據分組 having 用於分組後數據的過濾

SELECT order_num,COUNT(*) as items
FROM OrderItems
GROUP BY order_num HAVING COUNT(*)>=3;

交叉表

SELECT data1.city,
CASE WHEN colour = "A" THEN price END AS A,
CASE WHEN colour = "B" THEN price END AS B,
CASE WHEN colour = "C" THEN price END AS C,
CASE WHEN colour = "F" THEN price END AS F
FROM data1

我是嶽哥,最後給大家分享我寫的SQL兩件套:《SQL基礎知識第二版》《SQL高級知識第二版》的PDF電子版。裡面有各個語法的解釋、大量的實例講解和批註等等,非常通俗易懂,方便大家跟著一起來實操。有需要的讀者可以下載學習,在下面的公眾號「數據前線」(非本號)後臺回復關鍵字:SQL,就行

相關焦點

  • 像Excel一樣使用python進行數據分析
    來自: 藍鯨的網站分析筆記  ID:bluewhale_cc《像Excel一樣使用python進行數據分析》這也是藍鯨大師的新書
  • 像Excel一樣使用R進行數據分析(3)
    Excel是數據分析中最常用的工具,本篇文章通過R與excel的功能對比介紹如何使用R通過函數式編程完成excel中的數據處理及分析工作。
  • 像Excel一樣使用R進行數據分析(1)
    Excel是數據分析中最常用的工具,本篇文章通過R與excel的功能對比介紹如何使用R通過函數式編程完成excel中的數據處理及分析工作。
  • Python數據分析:pandas讀取和寫入數據
    平時工作中,我們會接觸到不同的數據文件,比如很常見的excel文件(後綴名為xls和xlsx),csv、txt等文本文件,json文件以及sql文件等等。因為我使用的是Anaconda,Anaconda已經默認安裝了xlrd和xlwt等模塊,故無需再使用pip去安裝啦。而Python的數據分析庫pandas提供了read_excel函數來讀取.xls和.xlsx兩種excel文件。其中.xls是office excel 2007之前的版本默認保存的文件擴展名。而.xlsx是2007版本之後的。
  • 使用簡單而強大的Excel來進行數據分析
    使用Excel進行數據分析是使用R或Python進行數據科學的先驅我們應該要學習用於分析數據的基本的Excel函數介紹我一直都很佩服Excel強大的數據分析能力。這款軟體不僅能夠進行基本的數據計算,還可以使用它來進行數據分析。它被廣泛用於許多的領域內,包括財務建模和業務規劃等。對於數據分析領域的新手來說,Excel它可以成為一個很好的跳板。甚至來說在學習R或Python之前,最好先了解一下Excel。將Excel添加到你的技能庫中沒有什麼壞處。
  • 像寫SQL一樣編寫Java數據應用
    具體的來說,就是像寫SQL一樣的方式來寫SQL。2. 代碼說明每個數據表都要有兩個類進行映射,一個是POJO類,這個大家都非常熟悉就不再花時間進行說明了,用於構建Dao代碼的時候使用。另一個是表結構,用於在Java中定義資料庫的表結構。
  • python數據分析我覺得可以用pandasql,真香!
    請看~下載、導入第三方庫下載:python -m pip install pandasql導入:from pandasql import sqldf,load_births,load_meat1from pandasql import sqldf,load_births,load_meat加載內置數據集1df1 = load_births
  • 用Excel來進行數據分析
    Microsoft Excel是目前世界上被使用的最廣泛的數據分析工具之一使用Excel進行數據分析是使用R或Python進行數據科學的先驅我們應該要學習用於分析數據的基本的Excel函數介紹我一直都很佩服Excel強大的數據分析能力。這款軟體不僅能夠進行基本的數據計算,還可以使用它來進行數據分析。它被廣泛用於許多的領域內,包括財務建模和業務規劃等。
  • 【Python技術進階-7】使用Python的xlrd操作Excel文檔詳細指南
    今天飛哥主要給小夥伴講講xlrd讀取excel文檔的使用。下一篇再介紹xlwt的寫excel文檔的使用。Python簡單易學,擁有豐富強大的數據分析和科學計算的第3方庫。所以,Python在數據分析和科學計算方面,能夠應用的場景和處理的問題非常廣泛。
  • 基於python的大數據分析-pandas數據讀取(代碼實戰)
    長按上方二維碼加入千人QQ群基於python的大數據分析實戰學習筆記-Anaconda基於python的大數據分析實戰學習筆記-pandas(數據分析包)基於python的大數據分析實戰學習筆記-pandas之DataFrame我們常見的數據存儲格式無非就是csv、excel、txt以及資料庫等形式
  • 大數據分析工程師入門9-Spark SQL
    本文為《大數據分析師入門課程》系列的第9篇,在本系列的第8篇-Spark基礎中,已經對Spark做了一個入門介紹,在此基礎上本篇拎出Spark SQL,主要站在使用者的角度來進行講解,需要注意的是本文中的例子的代碼均使用Scala語言。
  • Excel使用VBA操作篩選兩個日期間數據
    今天需要做一個通過VBA篩選數據的功能。因為自己用Excel篩選功能篩選兩個日期之間的數據很麻煩,要點很多下。領導問有沒有辦法簡化。輸入兩個日期值就能直接篩選出來。私信VBA篩選可以獲得源文件。測試數據輸入條件篩選結果按鈕1的源碼:Sub test()Dim cnn As New ADODB.ConnectionDim
  • n種方式教你用python讀寫excel等數據文件
    點擊上方「濤哥聊Python」,選擇「星標」公眾號重磅乾貨,第一時間送達來源:Python大數據分析python處理數據文件的途徑有很多種,可以操作的文件類型主要包括文本文件(csv、txt、json等)、excel
  • n種方式教你用Python讀寫Excel等數據文件
    內存不夠時使用,一般不太用readlines()   :一次性讀取整個文件內容,並按行返回到list,方便我們遍歷2. 內置模塊csvpython內置了csv模塊用於讀寫csv文件,csv是一種逗號分隔符文件,是數據科學中最常見的數據存儲格式之一。csv模塊能輕鬆完成各種體量數據的讀寫操作,當然大數據量需要代碼層面的優化。
  • 大數據分析四大分析要素
    至於電腦作業系統是選擇os,還是ws,建議選擇後者,從電腦普及率來看是ws更高,ws分析工具更全,功能更強大;   2;基礎分析和展示工具:數據分析中最常用的數據匯總和展示工具是excel和ppt,excel是最常用的數據分析工具,哪怕是在大的數據公司,比如阿里巴巴、美團、騰訊、百度,通常會先在雲上把需要的指標進行初步匯總
  • 如何使用 SQL Server FILESTREAM 存儲非結構化數據?
    在C # code 2中給出了使用Win32 API的數據輸入代碼的示例,其中sqlFileStream對象最初是基於System.Data.SqlType類創建的。在FILESTREAM中輸入數據的示例代碼C # code 3中給出了使用Win32 API讀取FILESTREAM數據的示例代碼。這裡使用的是在c# code 1示例開始時創建的同一個sqlFileStream對象。
  • 《pandas數據讀取》
    今天呢就給大家分享一個數據分析裡面的基礎內容之pandas數據讀取 數據讀取是進行數據預處理,建模與分析的前提,不同的數據源
  • 如何使用Excel進行數據分析?
    數據分析是理性工作,某項因素對結果是否有影響、有多大影響都需要用數據說話。各項因素對結果的影響可以使用Excel 的相關係數工具來進行分析,通過對比各項因素的相關係數來判斷客觀的影響力度。1.注意事項數據分析的對象雖然不僅僅局限於純粹的數字類信息,但是Excel 分析工具只能對數據類信息進行處理。
  • 最全Excel資料:500份Excel模板+數據分析+使用技巧!
    Excel 是微軟辦公套裝軟體的一個重要的組成部分,它可以進行各種數據的處理、統計分析和輔助決策操作,廣泛地應用於管理、統計財經、
  • 數據科學養成記 之 R語言基礎(3)——excel數據導入
    經過昨天對包的學習,今天我們利用前兩節課學習的知識來對excel數據進行導入。('exercise1.xls')#32位作業系統使用odbcConnectExcel函數sqlTable(b)根據需求讀取sheet1b <- sqlFetch(b, 'Sheet1$')odbcClose