MySQL 優化實施方案,看完你就明白了!

2021-02-13 極客挖掘機

在進行MySQL的優化之前,必須要了解的就是MySQL的查詢過程,很多查詢優化工作實際上就是遵循一些原則,讓MySQL的優化器能夠按照預想的合理方式運行而已。

圖-MySQL查詢過程

註:優化有風險,涉足需謹慎

優化不總是對一個單純的環境進行,還很可能是一個複雜的已投產的系統;

優化手段本來就有很大的風險,只不過你沒能力意識到和預見到;

任何的技術可以解決一個問題,但必然存在帶來一個問題的風險;

對於優化來說解決問題而帶來的問題,控制在可接受的範圍內才是有成果;

保持現狀或出現更差的情況都是失敗!


所以優化工作,是由業務需要驅使的!

在進行資料庫優化時,應由資料庫管理員、業務部門代表、應用程式架構師、應用程式設計人員、應用程式開發人員、硬體及系統管理員、存儲管理員等,業務相關人員共同參與。 

在資料庫優化上有兩個主要方面:即安全與性能。

存儲、主機和作業系統方面:

主機架構穩定性;

I/O規劃及配置;

Swap交換分區;

OS內核參數和網絡問題。

應用程式方面:

應用程式穩定性;

SQL語句性能;

串行訪問資源;

性能欠佳會話管理;

這個應用適不適合用MySQL。

資料庫優化方面:

說明:不管是設計系統、定位問題還是優化,都可以按照這個順序執行。

資料庫優化維度有四個:

硬體、系統配置、資料庫表結構、SQL及索引。

優化選擇:

檢查問題常用工具:

1)MySQL

2)msyqladmin:MySQL客戶端,可進行管理操作

3)mysqlshow:功能強大的查看shell命令

4)show [SESSION | GLOBAL] variables:查看資料庫參數信息

5)SHOW [SESSION | GLOBAL] STATUS:查看資料庫的狀態信息

6)information_schema:獲取元數據的方法

7)SHOW ENGINE INNODB STATUS:Innodb引擎的所有狀態

8)SHOW PROCESSLIST:查看當前所有連接session狀態

9)explain:獲取查詢語句的執行計劃

10)show index:查看表的索引信息

11)slow-log:記錄慢查詢語句

12)mysqldumpslow:分析slowlog文件的

不常用但好用的工具:

1)Zabbix:監控主機、系統、資料庫(部署zabbix監控平臺)

2)pt-query-digest:分析慢日誌

3)MySQL slap:分析慢日誌

4)sysbench:壓力測試工具

5)MySQL profiling:統計資料庫整體狀態工具    

6)Performance Schema:MySQL性能狀態統計的數據

7)workbench:管理、備份、監控、分析、優化工具(比較費資源)

關於Zabbix參考:

http://www.cnblogs.com/clsn/p/7885990.html

一般應急調優的思路:針對突然的業務辦理卡頓,無法進行正常的業務處理,需要立馬解決的場景。

1)show processlist;

2)explain  select id ,name from stu where name='clsn'; # ALL  id name age  sex;

select id,name from stu  where id=2-1 函數 結果集>30;show index from table;

3)通過執行計劃判斷,索引問題(有沒有、合不合理)或者語句本身問題;

4)show status  like '%lock%';    # 查詢鎖狀態

kill SESSION_ID;   # 殺掉有問題的session。

常規調優思路:針對業務周期性的卡頓,例如在每天10-11點業務特別慢,但是還能夠使用,過了這段時間就好了。

1)查看slowlog,分析slowlog,分析出查詢慢的語句;

2)按照一定優先級,一個一個排查所有慢語句;

3)分析top SQL,進行explain調試,查看語句執行時間;

4)調整索引或語句本身。

Cpu方面:

vmstat、sar top、htop、nmon、mpstat;

內存:

IO設備(磁碟、網絡)

iostat、ss、netstat、iptraf、iftop、lsof;

vmstat命令說明:

1)Procs:r顯示有多少進程正在等待CPU時間。b顯示處於不可中斷的休眠的進程數量。在等待I/O。

2)Memory:swpd顯示被交換到磁碟的數據塊的數量。未被使用的數據塊,用戶緩衝數據塊,用於作業系統的數據塊的數量。

3)Swap:作業系統每秒從磁碟上交換到內存和從內存交換到磁碟的數據塊的數量。s1和s0最好是0。

4)Io:每秒從設備中讀入b1的寫入到設備b0的數據塊的數量。反映了磁碟I/O。

5)System:顯示了每秒發生中斷的數量(in)和上下文交換(cs)的數量。

6)Cpu:顯示用於運行用戶代碼,系統代碼,空閒,等待I/O的Cpu時間。

iostat命令說明:

實例命令:iostat -dk 1 5

       iostat -d -k -x 5 (查看設備使用率(%util)和響應時間(await))

1)tps:該設備每秒的傳輸次數。「一次傳輸」意思是「一次I/O請求」。多個邏輯請求可能會被合併為「一次I/O請求」。

2)iops :硬體出廠的時候,廠家定義的一個每秒最大的IO次數

3)"一次傳輸"請求的大小是未知的。

4)kB_read/s:每秒從設備(drive expressed)讀取的數據量;

5)KB_wrtn/s:每秒向設備(drive expressed)寫入的數據量;

6)kB_read:讀取的總數據量;

7)kB_wrtn:寫入的總數量數據量;這些單位都為Kilobytes。

你認為到底負載高好,還是低好呢?在實際的生產中,一般認為Cpu只要不超過90%都沒什麼問題。

當然不排除下面這些特殊情況:

Cpu負載高,IO負載低:

1)內存不夠;

2)磁碟性能差;

3)SQL問題--->去資料庫層,進一步排查SQL 問題;

4)IO出問題了(磁碟到臨界了、raid設計不好、raid降級、鎖、在單位時間內tps過高);

5)tps過高:大量的小數據IO、大量的全表掃描。

IO負載高,Cpu負載低:

1)大量小的IO寫操作:

autocommit,產生大量小IO;IO/PS,磁碟的一個定值,硬體出廠的時候,廠家定義的一個每秒最大的IO次數。

2)大量大的IO 寫操作:SQL問題的機率比較大

IO和cpu負載都很高:

定位問題點吮吸:硬體-->系統-->應用-->資料庫-->架構(高可用、讀寫分離、分庫分表)。

處理方向:明確優化目標、性能和安全的折中、防患未然。

主機方面:

根據資料庫類型,主機CPU選擇、內存容量選擇、磁碟選擇:

1)平衡內存和磁碟資源;

2)隨機的I/O和順序的I/O;

3)主機 RAID卡的BBU(Battery Backup Unit)關閉。

CPU的選擇:

CPU的兩個關鍵因素:核數、主頻

根據不同的業務類型進行選擇:

1)CPU密集型:計算比較多,OLTP - 主頻很高的cpu、核數還要多

2)IO密集型:查詢比較,OLAP - 核數要多,主頻不一定高的

內存的選擇:

OLAP類型資料庫,需要更多內存,和數據獲取量級有關。

OLTP類型數據一般內存是Cpu核心數量的2倍到4倍,沒有最佳實踐。

存儲方面:

1)根據存儲數據種類的不同,選擇不同的存儲設備;

2)配置合理的RAID級別(raid5、raid10、熱備盤);

3)對與作業系統來講,不需要太特殊的選擇,最好做好冗餘(raid1)(ssd、sas、sata)。

4)raid卡:

       主機raid卡選擇:

           實現作業系統磁碟的冗餘(raid1);

           平衡內存和磁碟資源;

           隨機的I/O和順序的I/O;

           主機raid卡的BBU(Battery Backup Unit)要關閉。

網絡設備方面:

使用流量支持更高的網絡設備(交換機、路由器、網線、網卡、HBA卡)

注意:以上這些規劃應該在初始設計系統時就應該考慮好。

1)物理狀態燈

2)自帶管理設備:遠程控制卡(FENCE設備:ipmi ilo idarc)、開關機、硬體監控。

3)第三方的監控軟體、設備(snmp、agent)對物理設施進行監控。

4)存儲設備:自帶的監控平臺。EMC2(hp收購了)、 日立(hds)、IBM低端OEM hds、高端存儲是自己技術,華為存儲。

Cpu:

內存:

SWAP:

MySQL儘量避免使用swap。

阿里雲的伺服器中默認swap為0。

IO :

raid、no lvm、ext4或xfs、ssd、IO調度策略。

Swap調整(不使用swap分區)

/proc/sys/vm/swappiness的內容改成0(臨時),/etc/sysctl. conf上添加vm.swappiness=0(永久)

這個參數決定了Linux是傾向於使用swap,還是傾向於釋放文件系統cache。在內存緊張的情況下,數值越低越傾向於釋放文件系統cache。

當然,這個參數只能減少使用swap的概率,並不能避免Linux使用swap。

修改MySQL的配置參數innodb_flush_ method,開啟O_DIRECT模式:

這種情況下,InnoDB的buffer pool會直接繞過文件系統cache來訪問磁碟,但是redo log依舊會使用文件系統cache。

值得注意的是,Redo log是覆寫模式的,即使使用了文件系統的cache,也不會佔用太多。

IO調度策略:

#echo deadline>/sys/block/sda/queue/scheduler   臨時修改為deadline

永久修改

vi /boot/grub/grub.conf

更改到如下內容:

kernel /boot/vmlinuz-2.6.18-8.el5 ro root=LABEL=/ elevator=deadline rhgb quiet

Linux系統內核參數優化:

vim/etc/sysctl.conf

net.ipv4.ip_local_port_range = 1024 65535:# 用戶埠範圍

net.ipv4.tcp_max_syn_backlog = 4096 

net.ipv4.tcp_fin_timeout = 30 

fs.file-max=65535:# 系統最大文件句柄,控制的是能打開文件最大數量  

用戶限制參數(MySQL可以不設置以下配置):

vim/etc/security/limits.conf 

* soft nproc 65535

* hard nproc 65535

* soft nofile 65535

* hard nofile 65535

業務應用和資料庫應用獨立;

防火牆:iptables、selinux等其他無用服務(關閉):

   chkconfig --level 23456 acpid off

    chkconfig --level 23456 anacron off

    chkconfig --level 23456 autofs off

    chkconfig --level 23456 avahi-daemon off

    chkconfig --level 23456 bluetooth off

    chkconfig --level 23456 cups off

    chkconfig --level 23456 firstboot off

    chkconfig --level 23456 haldaemon off

    chkconfig --level 23456 hplip off

    chkconfig --level 23456 ip6tables off

    chkconfig --level 23456 iptables  off

    chkconfig --level 23456 isdn off

    chkconfig --level 23456 pcscd off

    chkconfig --level 23456 sendmail  off

    chkconfig --level 23456 yum-updatesd  off

安裝圖形界面的伺服器不要啟動圖形界面runlevel 3。 

另外,思考將來我們的業務是否真的需要MySQL,還是使用其他種類的資料庫。用資料庫的最高境界就是不用資料庫。

SQL優化方向:執行計劃、索引、SQL改寫。

架構優化方向:高可用架構、高性能架構、分庫分表。

調整

實例整體(高級優化,擴展):

thread_concurrency:# 並發線程數量個數

sort_buffer_size:# 排序緩存

read_buffer_size:# 順序讀取緩存

read_rnd_buffer_size:# 隨機讀取緩存

key_buffer_size:# 索引緩存

thread_cache_size:# (1G—>8, 2G—>16, 3G—>32, >3G—>64)

連接層(基礎優化)

設置合理的連接客戶和連接方式:

max_connections           # 最大連接數,看交易筆數設置    

max_connect_errors        # 最大錯誤連接數,能大則大

connect_timeout           # 連接超時

max_user_connections      # 最大用戶連接數

skip-name-resolve         # 跳過域名解析

wait_timeout              # 等待超時

back_log                  # 可以在堆棧中的連接數量

SQL層(基礎優化)

query_cache_size:查詢緩存  >>>  OLAP類型資料庫,需要重點加大此內存緩存,但是一般不會超過GB。

對於經常被修改的數據,緩存會立馬失效。

我們可以實用內存資料庫(redis、memecache),替代他的功能。

default-storage-engine

innodb_buffer_pool_size       # 沒有固定大小,50%測試值,看看情況再微調。但是儘量設置不要超過物理內存70%

innodb_file_per_table=(1,0)

innodb_flush_log_at_trx_commit=(0,1,2) # 1是最安全的,0是性能最高,2折中

binlog_sync

Innodb_flush_method=(O_DIRECT, fdatasync)

innodb_log_buffer_size           # 100M以下

innodb_log_file_size               # 100M 以下

innodb_log_files_in_group       # 5個成員以下,一般2-3個夠用(iblogfile0-N)

innodb_max_dirty_pages_pct   # 達到百分之75的時候刷寫 內存髒頁到磁碟。

log_bin

max_binlog_cache_size                     # 可以不設置

max_binlog_size                               # 可以不設置

innodb_additional_mem_pool_size     #小於2G內存的機器,推薦值是20M。32G內存以上100M

相關焦點

  • MySQL優化原理分析及優化方案總結
    在我們的記憶儲備裡也早已記住了這些關鍵詞:避免使用SELECT*、避免使用NULL值的判斷、根據需求適當的建立索引、優化MySQL參數.但是你對於這些優化技巧是否真正的掌握了及其相應的工作原理是否吃透了呢?在我們的實際開發過程中你能充分應用到嗎?我覺得還有待考察。所以,本文將詳細介紹MySQL優化技巧以及其相應的技術原理,希望大家看完以後,能更清楚直接的了解這些優化方案,並應用到我們的工作崗位中。
  • MySQL分頁優化解析
    在有索引的情況下,limit m,n速度足夠,可是在複雜條件搜索時,where somthing order by somefield+somefieldmysql會搜遍資料庫,找出「所有」符合條件的記錄,然後取出m,n條記錄。如果你的數據量有幾十萬條,用戶又搜索一些很通俗的詞,然後要依次讀最後幾頁重溫舊夢。mysql該很悲壯的不停操作硬碟。
  • Mysql Limit 字句優化
    LIMIT字句常用的語法類似於:LIMIT m,n, 針對不同的情況, MySQL會對查詢做一些優化.Time: 0.240s可以看到遍歷的數量少時, 速度更快, LIMIT操作需要掃描的數據增加, 就需要通過一些方式來有優化.覆蓋索引優化當SELECT的欄位被某個索引覆蓋, 由於不需要回表查詢, 效率少許提升.
  • 超級實用的 MySQL 常用優化指南!
    密集型還是I/O密集型,通過提升CPU和內存、使用SSD,都能顯著提升MySQL性能讀寫分離也是目前常用的優化,從庫讀主庫寫,一般不要採用雙主或多主引入很多複雜性,儘量採用文中的其他方案來提高性能。MySQL實現分區的方式也意味著索引也是按照分區的子表定義,沒有全局索引mysql優化用戶的SQL語句是需要針對分區表做優化,SQL條件中要帶上分區條件的列,從而使查詢定位到少量的分區上,否則就會掃描全部分區,可以通過 EXPLAIN PARTITIONS 來查看某條SQL語句會落在那些分區上,從而進行SQL優化,如下圖5條記錄落在兩個分區上
  • MySQL優化指南
    https://github.com/tmcallaghan/iibench-mysqltpcc-mysql:Percona開發的TPC-C測試工具。如果你做很多順序掃描,可能想要增加該值。thread_cache_size:保存當前沒有與連接關聯但是準備為後面新的連接服務的線程,可以快速響應連接的線程請求而無需創建新的。
  • mysql┃多個角度說明sql優化,讓你吊打面試官!
    的優化是我們經常都會提到的一個話題,也是重中之重,在很多大廠中會有專門的DBA來做這件事情,甚至更過分的是連應屆生的招聘崗位要求上都寫了需要懂一點sql優化,最近moon一直在寫關於mysql的文章,包括之前寫的索引相關,其實也都是為了這篇文章做個鋪墊,所以你懂了嗎,今天我將從表結構、索引、查詢語句、分庫分表這四個維度來和大家聊聊,在工作中,怎麼進行sql優化?
  • mysql大表中count()的用法以及mysql中count()的優化
    本篇文章給大家帶來的內容是關於mysql大表中count()的用法以及mysql中count()的優化,有一定的參考價值,有需要的朋友可以參考一下,希望對你有所幫助。一個單表中包含有6000w+的數據,然而你又不能拆分.需要分別統計表中有多少數據,A產品有多少,B產品有多少這幾個數據.
  • 詳解MySQL資料庫優化的方案與實踐
    【IT168 技術】最近一段時間,我們整理了一些關於Percona,Linux,Flashcache,硬體設備的優化經驗,分享給大家:  硬 件  1.開啟BBWC  RAID卡都有寫cache(Battery Backed
  • MYSQL優化 學習筆記
    Explain 性能分析Explain是什麼(查看執行計劃)        使用 EXPLAIN 關鍵字可以模擬優化器執行 SQL 查詢語句,從而知道 MySQL 是如何處理你的 SQL 語句的。分析你的查詢語句或是表結構的性能瓶頸Explain能幹嘛
  • MySQL 的索引是什麼?怎麼優化?
    摘要: 索引對大數據的查詢速度的提升是非常大的,Explain可以幫你分析SQL語句是否用到相關索引。
  • MySQL優化:學會使用show profile和trace分析慢查詢
    MySQL優化:定位慢查詢的兩種方法以及使用explain分析SQL在上一節我們學習了定位慢 SQL 及使用 explain 分析慢 SQL,我們也提到了分析慢 SQL 還有 show profile 和 trace 等方法,本節就重點補充學習這兩種方法。
  • MySQL 全面優化,讓你的 MySQL 飛起來!
    >優化手段本來就有很大的風險,只不過你沒能力意識到和預見到;任何的技術可以解決一個問題,但必然存在帶來一個問題的風險;對於優化來說解決問題而帶來的問題,控制在可接受的範圍內才是有成果;保持現狀或出現更差的情況都是失敗!
  • MySQL 優化案例 - select count-愛可生
    mysql> create index idx_rowguid on api_runtime_log(rowguid);Query OK, 0 rows affected (0.01 sec)Records: 0 Duplicates: 0 Warnings: 0mysql> select count(*) from api_runtime_log;++| count(
  • MySQL優化:定位慢查詢的兩種方法以及使用explain分析SQL
    一般定位慢查詢會有兩種解決方案:根據慢查詢日誌定位使用show processlist定位,查詢正在執行的慢查詢NO.1 慢查詢日誌定位解析確定慢查詢日誌路徑:mysql> show global variables like "datadir";確定慢查詢日誌文件名:mysql> show
  • 「資料庫分享」MySQL資料庫優化
    後臺可回復【資料庫】即可獲取相關寶藏內容分享:)前言:Q: 為什麼面試問你MySQL優化的知識 總是沒有特別特別足的底氣回復??今天文章分為兩部分 :)PART1 MySQL技術分享 / PART2 關於聚類算法分享5 Minutes to Mysql:PART 1 MySQL性能優化學長五分鐘帶你走進資料庫高端操作
  • 史上最全的MySQL高性能優化實戰總結!
    在進行MySQL的優化之前必須要了解的就是MySQL的查詢過程,很多的查詢優化工作實際上就是遵循一些原則讓MySQL的優化器能夠按照預想的合理方式運行而已。今天給大家體驗MySQL的優化實戰,助你高薪之路順暢。
  • 一篇解決面試常問的MySQL性能優化
    概述為什麼要優化如何優化設計資料庫時:資料庫表
  • PHP資料庫編程之MySQL優化策略概述
    為了提升PHP的運行效率,程式設計師不光需要寫出邏輯清晰,效率很高的代碼,還要能對query語句進行優化。雖然我們對資料庫的讀取寫入速度上卻是無能為力,但在一些資料庫類擴展像memcache、mongodb、redis這樣的數據存儲伺服器的幫助下,PHP也能達到更快的存取速度,所以了解學習這些擴展也是非常必要,這一篇先說一下MySQL常見的優化策略。
  • 面對MySQL 查詢索引失效,程式設計師的六大優化技巧!
    但是,你寫SQL語句的時候,並沒有主動指定使用哪個索引。不知道你有沒有碰到過這種情況,一條創建了索引的SQL語句在查詢過程中卻沒有使用索引,或是一條本來可以執行的很快的語句,卻由於MySQL選錯了索引,而導致查詢速度變得很慢?充分優化和利用索引能夠大大提高數據的查詢效率,但是在實際的應用中MySQL可能並不總會選擇合適且效率高的索引。
  • MySQL 性能優化之骨灰級,高階神技 !
    在進行MySQL的優化之前必須要了解的就是MySQL的查詢過程,很多的查詢優化工作實際上就是遵循一些原則讓MySQL的優化器能夠按照預想的合理方式運行而已。今天給大家講解MySQL的優化實戰,助你高薪之路順暢!二、優化的哲學注意:優化有風險,涉足需謹慎!