高性能Mysql主從架構的複製原理及配置詳解

2021-01-15 計算機java編程

複製概述

Mysql內建的複製功能是構建大型,高性能應用程式的基礎。將Mysql的數據分布到多個系統上去,這種分布的機制,是通過將Mysql的某一臺主機的數據複製到其它主機(slaves)上,並重新執行一遍來實現的。複製過程中一個伺服器充當主伺服器,而一個或多個其它伺服器充當從伺服器。主伺服器將更新寫入二進位日誌文件,並維護文件的一個索引以跟蹤日誌循環。這些日誌可以記錄發送到從伺服器的更新。當一個從伺服器連接主伺服器時,它通知主伺服器從伺服器在日誌中讀取的最後一次成功更新的位置。從伺服器接收從那時起發生的任何更新,然後封鎖並等待主伺服器通知新的更新。

請注意當你進行複製時,所有對複製中的表的更新必須在主伺服器上進行。否則,你必須要小心,以避免用戶對主伺服器上的表進行的更新與對從伺服器上的表所進行的更新之間的衝突。

mysql支持的複製類型:

基於語句的複製:在主伺服器上執行的SQL語句,在從伺服器上執行同樣的語句。MySQL默認採用基於語句的複製,效率比較高。一旦發現沒法精確複製時, 會自動選著基於行的複製。基於行的複製:把改變的內容複製過去,而不是把命令在從伺服器上執行一遍. 從mysql5.0開始支持混合類型的複製: 默認採用基於語句的複製,一旦發現基於語句的無法精確的複製時,就會採用基於行的複製。複製解決的問題

MySQL複製技術有以下一些特點:

數據分布 (Data distribution )負載平衡(load balancing)備份(Backups)高可用性和容錯行 High availability and failover複製如何工作

整體上來說,複製有3個步驟:

master將改變記錄到二進位日誌(binary log)中(這些記錄叫做二進位日誌事件,binary log events);slave將master的binary log events拷貝到它的中繼日誌(relay log);slave重做中繼日誌中的事件,將改變反映它自己的數據。下圖描述了複製的過程:

該過程的第一部分就是master記錄二進位日誌。在每個事務更新數據完成之前,master在二日誌記錄這些改變。MySQL將事務串行的寫入二進位日誌,即使事務中的語句都是交叉執行的。在事件寫入二進位日誌完成後,master通知存儲引擎提交事務。下一步就是slave將master的binary log拷貝到它自己的中繼日誌。首先,slave開始一個工作線程——I/O線程。I/O線程在master上打開一個普通的連接,然後開始binlog dump process。Binlog dump process從master的二進位日誌中讀取事件,如果已經跟上master,它會睡眠並等待master產生新的事件。I/O線程將這些事件寫入中繼日誌。SQL slave thread(SQL從線程)處理該過程的最後一步。SQL線程從中繼日誌讀取事件,並重放其中的事件而更新slave的數據,使其與master中的數據一致。只要該線程與I/O線程保持一致,中繼日誌通常會位於OS的緩存中,所以中繼日誌的開銷很小。此外,在master中也有一個工作線程:和其它MySQL的連接一樣,slave在master中打開一個連接也會使得master開始一個線程。複製過程有一個很重要的限制——複製在slave上是串行化的,也就是說master上的並行更新操作不能在slave上並行操作。主從複製配置

有兩臺MySQL資料庫伺服器Master和slave,Master為主伺服器,slave為從伺服器,初始狀態時,Master和slave中的數據信息相同,當Master中的數據發生變化時,slave也跟著發生相應的變化,使得master和slave的數據信息同步,達到備份的目的。

要點:負責在主、從伺服器傳輸各種修改動作的媒介是主伺服器的二進位變更日誌,這個日誌記載著需要傳輸給從伺服器的各種修改動作。因此,主伺服器必須激活二進位日誌功能。從伺服器必須具備足以讓它連接主伺服器並請求主伺服器把二進位變更日誌傳輸給它的權限。

環境:

Master和slave的MySQL資料庫版本同為5.0.18IP位址:10.100.0.100創建複製帳號

1、在Master的資料庫中建立一個備份帳戶:每個slave使用標準的MySQL用戶名和密碼連接master。進行複製操作的用戶會授予REPLICATION SLAVE權限。用戶名的密碼都會存儲在文本文件master.info中

命令如下:

建立一個帳戶backup,並且只能允許從10.100.0.200這個地址上來登陸,密碼是1234。

如果因為mysql版本新舊密碼算法不同,可以設置:

拷貝數據:(假如是你完全新安裝mysql主從伺服器,這個一步就不需要。因為新安裝的master和slave有相同的數據)

關停Master伺服器,將Master中的數據拷貝到B伺服器中,使得Master和slave中的數據同步,並且確保在全部設置操作結束前,禁止在Master和slave伺服器中進行寫操作,使得兩資料庫中的數據一定要相同!

配置master

接下來對master進行配置,包括打開二進位日誌,指定唯一的servr ID。例如,在配置文件加入如下值:

重啟master,運行SHOW MASTER STATUS,輸出如下:

配置slave

Slave的配置與master類似,你同樣需要重啟slave的MySQL。如下:

log_bin:slave沒有必要開啟二進位日誌bin_log,但是在一些情況下,必須設置,例如,如果slave為其它slave的master,必須設置bin_log。在這裡,我們開啟了二進位日誌,而且顯示的命名(默認名稱為hostname,但是,如果hostname改變則會出現問題)。

relay_log:配置中繼日誌,log_slave_updates表示slave將複製事件寫進自己的二進位日誌(後面會看到它的用處)。有些人開啟了slave的二進位日誌,卻沒有設置log_slave_updates,然後查看slave的數據是否改變,這是一種錯誤的配置。

read_only:儘量使用read_only,它防止改變數據(除了特殊的線程)。但是,read_only並是很實用,特別是那些需要在slave上創建表的應用。

啟動slave

接下來就是讓slave連接master,並開始重做master二進位日誌中的事件。你不應該用配置文件進行該操作,而應該使用CHANGE MASTER TO語句,該語句可以完全取代對配置文件的修改,而且它可以為slave指定不同的master,而不需要停止伺服器。如下:

MASTER_LOG_POS的值為0,因為它是日誌的開始位置。

你可以用SHOW SLAVE STATUS語句查看slave的設置是否正確:

Slave_IO_State, Slave_IO_Running, 和Slave_SQL_Running是No,表明slave還沒有開始複製過程。日誌的位置為4而不是0,這是因為0隻是日誌文件的開始位置,並不是日誌位置。實際上,MySQL知道的第一個事件的位置是4。

為了開始複製,你可以運行:

mysql> START SLAVE;

運行SHOW SLAVE STATUS查看輸出結果:

在這裡主要是看:

Slave_IO_Running=YesSlave_SQL_Running=Yesslave的I/O和SQL線程都已經開始運行,而且Seconds_Behind_Master不再是NULL。日誌的位置增加了,意味著一些事件被獲取並執行了。如果你在master上進行修改,你可以在slave上看到各種日誌文件的位置的變化,同樣,你也可以看到資料庫中數據的變化。

你可查看master和slave上線程的狀態。在master上,你可以看到slave的I/O線程創建的連接:

在master上輸入show processlist\G;

行2為處理slave的I/O線程的連接。

在slave伺服器上運行該語句:

行1為I/O線程狀態,行2為SQL線程狀態。

添加新slave伺服器

假如master已經運行很久了,想對新安裝的slave進行數據同步,甚至它沒有master的數據。此時,有幾種方法可以使slave從另一個服務開始,例如,從master拷貝數據,從另一個slave克隆,從最近的備份開始一個slave。Slave與master同步時,需要三樣東西:

(1)master的某個時刻的數據快照;(2)master當前的日誌文件、以及生成快照時的字節偏移。這兩個值可以叫做日誌文件坐標(log file coordinate),因為它們確定了一個二進位日誌的位置,你可以用SHOW MASTER STATUS命令找到日誌文件的坐標;(3)master的二進位日誌文件。可以通過以下幾中方法來克隆一個slave:

(1)冷拷貝(cold copy)停止master,將master的文件拷貝到slave;然後重啟master。缺點很明顯。(2)熱拷貝(warm copy)如果你僅使用MyISAM表,你可以使用mysqlhotcopy拷貝,即使伺服器正在運行。(3)使用mysqldump<1>鎖表:如果你還沒有鎖表,你應該對表加鎖,防止其它連接修改資料庫,否則,你得到的數據可以是不一致的。如下:使用mysqldump來得到一個數據快照可分為以下幾步:mysql> FLUSH TABLES WITH READ LOCK;

<2>在另一個連接用mysqldump創建一個你想進行複製的資料庫的轉儲:shell> mysqldump --all-databases --lock-all-tables >dbdump.db

<3>對表釋放鎖。mysql> UNLOCK TABLES;

深入了解複製

已經討論了關於複製的一些基本東西,下面深入討論一下複製。

基於語句的複製(Statement-Based Replication)

MySQL 5.0及之前的版本僅支持基於語句的複製(也叫做邏輯複製,logical replication),這在資料庫並不常見。master記錄下改變數據的查詢,然後,slave從中繼日誌中讀取事件,並執行它,這些SQL語句與master執行的語句一樣。

這種方式的優點就是實現簡單。此外,基於語句的複製的二進位日誌可以很好的進行壓縮,而且日誌的數據量也較小,佔用帶寬少——例如,一個更新GB的數據的查詢僅需要幾十個字節的二進位日誌。而mysqlbinlog對於基於語句的日誌處理十分方便。

但是,基於語句的複製並不是像它看起來那麼簡單,因為一些查詢語句依賴於master的特定條件,例如,master與slave可能有不同的時間。所以,MySQL的二進位日誌的格式不僅僅是查詢語句,還包括一些元數據信息,例如,當前的時間戳。即使如此,還是有一些語句,比如,CURRENT USER函數,不能正確的進行複製。此外,存儲過程和觸發器也是一個問題。

另外一個問題就是基於語句的複製必須是串行化的。這要求大量特殊的代碼,配置,例如InnoDB的next-key鎖等。並不是所有的存儲引擎都支持基於語句的複製。

基於記錄的複製(Row-Based Replication)

MySQL增加基於記錄的複製,在二進位日誌中記錄下實際數據的改變,這與其它一些DBMS的實現方式類似。這種方式有優點,也有缺點。優點就是可以對任何語句都能正確工作,一些語句的效率更高。主要的缺點就是二進位日誌可能會很大,而且不直觀,所以,你不能使用mysqlbinlog來查看二進位日誌。

對於一些語句,基於記錄的複製能夠更有效的工作,如:

假設,只有三種唯一的col1和col2的組合,但是,該查詢會掃描原表的許多行,卻僅返回三條記錄。此時,基於記錄的複製效率更高。

另一方面,下面的語句,基於語句的複製更有效:

mysql> UPDATE enormous_table SET col1 = 0;

此時使用基於記錄的複製代價會非常高。由於兩種方式不能對所有情況都能很好的處理,所以,MySQL 5.1支持在基於語句的複製和基於記錄的複製之前動態交換。你可以通過設置session變量binlog_format來進行控制。

複製相關的文件

除了二進位日誌和中繼日誌文件外,還有其它一些與複製相關的文件。如下:

(1)mysql-bin.index伺服器一旦開啟二進位日誌,會產生一個與二日誌文件同名,但是以.index結尾的文件。它用於跟蹤磁碟上存在哪些二進位日誌文件。MySQL用它來定位二進位日誌文件。它的內容如下(我的機器上):

(2)mysql-relay-bin.index該文件的功能與mysql-bin.index類似,但是它是針對中繼日誌,而不是二進位日誌。內容如下:

(3)master.info保存master的相關信息。不要刪除它,否則,slave重啟後不能連接master。內容如下(我的機器上):

I/O線程更新master.info文件,內容如下(我的機器上):

(4)relay-log.info包含slave中當前二進位日誌和中繼日誌的信息。

發送複製事件到其它slave

當設置log_slave_updates時,你可以讓slave扮演其它slave的master。此時,slave把SQL線程執行的事件寫進行自己的二進位日誌(binary log),然後,它的slave可以獲取這些事件並執行它。如下:

複製過濾(Replication Filters)

複製過濾可以讓你只複製伺服器中的一部分數據,有兩種複製過濾:在master上過濾二進位日誌中的事件;在slave上過濾中繼日誌中的事件。如下:

複製的常用拓撲結構

複製的體系結構有以下一些基本原則:

(1)每個slave只能有一個master;(2)每個slave只能有一個唯一的伺服器ID;(3)每個master可以有很多slave;(4)如果你設置log_slave_updates,slave可以是其它slave的master,從而擴散master的更新。MySQL不支持多主伺服器複製(Multimaster Replication)——即一個slave可以有多個master。但是,通過一些簡單的組合,我們卻可以建立靈活而強大的複製體系結構。

單一master和多slave

由一個master和一個slave組成複製系統是最簡單的情況。Slave之間並不相互通信,只能與master進行通信。

在實際應用場景中,MySQL複製90%以上都是一個Master複製到一個或者多個Slave的架構模式,主要用於讀壓力比較大的應用的資料庫端廉價擴展解決方案。因為只要Master和Slave的壓力不是太大(尤其是Slave端壓力)的話,異步複製的延時一般都很少很少。尤其是自從Slave端的複製方式改成兩個線程處理之後,更是減小了Slave端的延時問題。而帶來的效益是,對於數據實時性要求不是特別Critical的應用,只需要通過廉價的pcserver來擴展Slave的數量,將讀壓力分散到多臺Slave的機器上面,即可通過分散單臺資料庫伺服器的讀壓力來解決資料庫端的讀性能瓶頸,畢竟在大多數資料庫應用系統中的讀壓力還是要比寫壓力大很多。這在很大程度上解決了目前很多中小型網站的資料庫壓力瓶頸問題,甚至有些大型網站也在使用類似方案解決資料庫瓶頸。

如下:

如果寫操作較少,而讀操作很時,可以採取這種結構。你可以將讀操作分布到其它的slave,從而減小master的壓力。但是,當slave增加到一定數量時,slave對master的負載以及網絡帶寬都會成為一個嚴重的問題。

這種結構雖然簡單,但是,它卻非常靈活,足夠滿足大多數應用需求。一些建議:

(1)不同的slave扮演不同的作用(例如使用不同的索引,或者不同的存儲引擎);(2)用一個slave作為備用master,只進行複製;(3)用一個遠程的slave,用於災難恢復;大家應該都比較清楚,從一個Master節點可以複製出多個Slave節點,可能有人會想,那一個Slave節點是否可以從多個Master節點上面進行複製呢?至少在目前來看,MySQL是做不到的,以後是否會支持就不清楚了。

MySQL不支持一個Slave節點從多個Master節點來進行複製的架構,主要是為了避免衝突的問題,防止多個數據源之間的數據出現衝突,而造成最後數據的不一致性。不過聽說已經有人開發了相關的patch,讓MySQL支持一個Slave節點從多個Master結點作為數據源來進行複製,這也正是MySQL開源的性質所帶來的好處。

主動模式的Master-Master(Master-Master in Active-Active Mode)

Master-Master複製的兩臺伺服器,既是master,又是另一臺伺服器的slave。這樣,任何一方所做的變更,都會通過複製應用到另外一方的資料庫中。

可能有些讀者朋友會有一個擔心,這樣搭建複製環境之後,難道不會造成兩臺MySQL之間的循環複製麼?實際上MySQL自己早就想到了這一點,所以在MySQL的BinaryLog中記錄了當前MySQL的server-id,而且這個參數也是我們搭建MySQLReplication的時候必須明確指定,而且Master和Slave的server-id參數值比需要不一致才能使MySQLReplication搭建成功。

一旦有了server-id的值之後,MySQL就很容易判斷某個變更是從哪一個MySQLServer最初產生的,所以就很容易避免出現循環複製的情況。而且,如果我們不打開記錄Slave的BinaryLog的選項(--log-slave-update)的時候,MySQL根本就不會記錄複製過程中的變更到BinaryLog中,就更不用擔心可能會出現循環複製的情形了。如圖:

主動的Master-Master複製有一些特殊的用處。例如,地理上分布的兩個部分都需要自己的可寫的數據副本。這種結構最大的問題就是更新衝突。假設一個表只有一行(一列)的數據,其值為1,如果兩個伺服器分別同時執行如下語句:

那麼結果是多少呢?一臺伺服器是4,另一個伺服器是3,但是,這並不會產生錯誤。

實際上,MySQL並不支持其它一些DBMS支持的多主伺服器複製(Multimaster Replication),這是MySQL的複製功能很大的一個限制(多主伺服器的難點在於解決更新衝突),但是,如果你實在有這種需求,你可以採用MySQL Cluster,以及將Cluster和Replication結合起來,可以建立強大的高性能的資料庫平臺。但是,可以通過其它一些方式來模擬這種多主伺服器的複製。

主動-被動模式的Master-Master(Master-MasterinActive-PassiveMode)

這是master-master結構變化而來的,它避免了M-M的缺點,實際上,這是一種具有容錯和高可用性的系統。它的不同點在於其中一個服務只能進行只讀操作。如圖:

級聯複製架構Master –Slaves - Slaves

在有些應用場景中,可能讀寫壓力差別比較大,讀壓力特別的大,一個Master可能需要上10臺甚至更多的Slave才能夠支撐注讀的壓力。這時候,Master就會比較吃力了,因為僅僅連上來的SlaveIO線程就比較多了,這樣寫的壓力稍微大一點的時候,Master端因為複製就會消耗較多的資源,很容易造成複製的延時。

遇到這種情況如何解決呢?這時候我們就可以利用MySQL可以在Slave端記錄複製所產生變更的BinaryLog信息的功能,也就是打開—log-slave-update選項。然後,通過二級(或者是更多級別)複製來減少Master端因為複製所帶來的壓力。也就是說,我們首先通過少數幾臺MySQL從Master來進行複製,這幾臺機器我們姑且稱之為第一級Slave集群,然後其他的Slave再從第一級Slave集群來進行複製。從第一級Slave進行複製的Slave,我稱之為第二級Slave集群。如果有需要,我們可以繼續往下增加更多層次的複製。這樣,我們很容易就控制了每一臺MySQL上面所附屬Slave的數量。這種架構我稱之為Master-Slaves-Slaves架構

這種多層級聯複製的架構,很容易就解決了Master端因為附屬Slave太多而成為瓶頸的風險。下圖展示了多層級聯複製的Replication架構。

當然,如果條件允許,我更傾向於建議大家通過拆分成多個Replication集群來解決

上述瓶頸問題。畢竟Slave並沒有減少寫的量,所有Slave實際上仍然還是應用了所有的數據變更操作,沒有減少任何寫IO。相反,Slave越多,整個集群的寫IO總量也就會越多,我們沒有非常明顯的感覺,僅僅只是因為分散到了多臺機器上面,所以不是很容易表現出來。

此外,增加複製的級聯層次,同一個變更傳到最底層的Slave所需要經過的MySQL也會更多,同樣可能造成延時較長的風險。

而如果我們通過分拆集群的方式來解決的話,可能就會要好很多了,當然,分拆集群也需要更複雜的技術和更複雜的應用系統架構。

帶從伺服器的Master-Master結構(Master-Master with Slaves) 這種結構的優點就是提供了冗餘。在地理上分布的複製結構,它不存在單一節點故障問題,而且還可以將讀密集型的請求放到slave上。

級聯複製在一定程度上面確實解決了Master因為所附屬的Slave過多而成為瓶頸的問題,但是他並不能解決人工維護和出現異常需要切換後可能存在重新搭建Replication的問題。這樣就很自然的引申出了DualMaster與級聯複製結合的Replication架構,我稱之為Master-Master-Slaves架構

和Master-Slaves-Slaves架構相比,區別僅僅只是將第一級Slave集群換成了一臺單獨的Master,作為備用Master,然後再從這個備用的Master進行複製到一個Slave集群。

這種DualMaster與級聯複製結合的架構,最大的好處就是既可以避免主Master的寫入操作不會受到Slave集群的複製所帶來的影響,同時主Master需要切換的時候也基本上不會出現重搭Replication的情況。但是,這個架構也有一個弊端,那就是備用的Master有可能成為瓶頸,因為如果後面的Slave集群比較大的話,備用Master可能會因為過多的SlaveIO線程請求而成為瓶頸。

當然,該備用Master不提供任何的讀服務的時候,瓶頸出現的可能性並不是特別高,如果出現瓶頸,也可以在備用Master後面再次進行級聯複製,架設多層Slave集群。當然,級聯複製的級別越多,Slave集群可能出現的數據延時也會更為明顯,所以考慮使用多層級聯複製之前,也需要評估數據延時對應用系統的影響。

複製的常見問題

錯誤一:change master導致的:

錯誤二:在沒有解鎖的情況下停止slave進程:

錯誤三:在沒有停止slave進程的情況下change master

錯誤四:A B的server-id相同:

錯誤五:change master之後,查看slave的狀態,發現slave_IO_running 仍為NO

需要注意的是,上述幾個錯誤做完操作之後要重啟mysql進程,slave_IO_running 變為Yes

錯誤六:MySQL主從同步異常Client requested master to start replication from position > file size

字面理解:從庫的讀取binlog的位置大於主庫當前binglog的值

這一般是主庫重啟導致的問題,主庫從參數sync_binlog默認為1000,即主庫的數據是先緩存到1000條後統一fsync到磁碟的binlog文件中。

當主庫重啟的時候,從庫直接讀取主庫接著之前的位點重新拉binlog,但是主庫由於沒有fsync最後的binlog,所以會返回1236的錯誤。

正常建議配置sync_binlog=1 也就是每個事務都立即寫入到binlog文件中。

1、在從庫檢查slave狀態:偏移量為4063315

2、在主庫檢查mysql-bin.001574的偏移量位置

mysql-bin.001574文件最後幾行 發現最後偏移量是4059237,從庫偏移量的4063315遠大主庫的偏移量4059237,也就是參數sync_binlog=1000導致的。

3、重新設置salve

錯誤8:數據同步異常情況

第一種:在master上刪除一條記錄,而slave上找不到。

解決方法:由於master要刪除一條記錄,而slave上找不到故報錯,這種情況主上都將其刪除了,那麼從機可以直接跳過。可用命令:

第二種:主鍵重複。在slave已經有該記錄,又在master上插入了同一條記錄。

解決方法:在slave刪除重複的主鍵.

第三種:在master上更新一條記錄,而slave上找不到,丟失了數據。

解決方法:把丟失的數據在slave上填補,然後跳過報錯即可。

相關焦點

  • Mysql(Mariadb)資料庫主從複製
    Mysql主從複製的實現原理圖大致如下:MySQL之間數據複製的基礎是以二進位日誌文件(binary log file)來實現的,一臺MySQL資料庫一旦啟用二進位日誌後,其作為master,它資料庫中所有操作都會以「事件」的方式記錄在二進位日誌中,其他資料庫作為slave通過一個I/O線程與主伺服器保持通信,並監控master的二進位日誌文件的變化,如果發現
  • 字節內部「MySQL性能優化寶典」意外流出!極致經典,堪稱資料庫的...
    主要內容  第1章 MySQL架構介紹  MySQL邏輯架構    第7章MysQL主從複製詳解  MySQL的主從複製功能是構建基於MySQL資料庫的高可用、高性能的應用程式基礎,既能用於分擔主資料庫的讀負載,也為高可用HA
  • MySQL 數據校驗工具-愛可生|mysql|perl|伺服器|node01_網易訂閱
    其原理是在主庫執行基於 statement 的 SQL 語句來生成主庫數據塊的checksum,把相同的 SQL 語句傳遞到從庫執行,並在從庫上計算相同數據塊的 checksum,最後,比較主從庫上相同數據塊的 checksum 值,由此判斷主從數據是否一致。它能在非常大的表上工作的一個原因是,它把每個表分成行塊,並檢查每個塊與單個替換。選擇查詢。它改變塊的大小,使校驗和查詢在所需的時間內運行。
  • 京東面試:說說MySQL的架構體系
    所以於情於理,我們很有必要學習一下MySQL的架構體系的。平時,和小夥伴們聊天的時候,經常會把MySQL當做我們開發的一個軟體系統,既然是軟體系統,那麼就有個架構圖,以及架構是如何分層的,每一層的功能是什麼。下面我們就來看看MySQL的整體架構圖。MySQL架構圖再來看看我們開發的系統架構圖:其實還是蠻相似的。
  • 乾貨: 五種常見數據複製技術詳解
    △字節級複製技術原理圖首先,字節級複製的核心引擎工作時,並沒有複雜的數學運算,對生產機計算資源佔用可以忽略,僅僅是旁路捕獲數據。其次,所有的數據都是從內存中捕獲,並不涉及生產主機存儲的讀取操作,因此數據複製過程不佔用主機的存儲IO資源。最後,基於字節級的數據複製粒度最小到字節,因此對於帶寬資源的要求極低,是適應於異地遠距離、及面向未來的混合IT環境和雲化架構的一種複製方式。
  • mysql 版本號解釋_mysql workbench查詢mysql版本號 - CSDN
    如果實在要分片,儘量選擇客戶端分片架構,這樣可以減少一次和中間件的網絡I/O。MySQL的複製原理以及流程主從複製:將主資料庫中的DDL和DML操作通過二進位日誌(BINLOG)傳輸到從資料庫上,然後將這些日誌重新執行(重做);從而使得從資料庫的數據與主資料庫保持一致。主從複製的作用主資料庫出現問題,可以切換到從資料庫。可以進行資料庫層面的讀寫分離。
  • DTCC:MySQl核心代碼開發經驗揭示
    大會將針對大數據架構設計、資料庫安全、分布式資料庫、商業智能、NoSQL、Hadoop等多個重點話題進行深入探討。此次大會得到了全國資料庫技術高手們的高度關注與支持,是當前象徵最高技術水平的資料庫工程師盛會。
  • 千萬級的數據量,如何高性能實現展示分析?
    二、方案描述1.系統架構根據官方推薦,將FineBI的web應用端與數據存儲的分布式引擎放在一個機器上(處於安全考慮,也可以分開。這裡不涉及太多部門使用,放一起即可),架構如下所示。感興趣可以看:MongoDB Download Center方案原理:mongodb是非結構的資料庫,而要想BI來連接,通過建模的方式取表,拆表,建模來分析。通過MONGODB CONNECTOR FOR BI連接器的方式,使用mysql的JDBC驅動來獲取數據。
  • MySQL 5.7 vs 8.0,哪個性能更牛?
    測試前先重啟mysql服務,並清空os的cache(避免多次測試時命中緩存) 每次進行測試都是新生成測試數據後再進行mysql5.7和mysql8.0的測試 每次測試時保證mysql5.7和mysql8.0的配置參數一致 環境 機器
  • 分布式架構概述
    分布式架構是一個非常複雜的體系,任何技術都不是孤立的存在,任何技術都無法適應所有場景。作為一名分布式系統架構或者資深研發人員,我們必須儘可能多的學習與之相關的各種知識,掌握各種技術的演進路線,正式從一名碼農蛻變成為架構師什麼是分布式?網際網路應用的特點是:高並發,海量數據。
  • MySQL資料庫函數詳解(3)
    (11) object mysql_fetch_field(int result [,int col_num]);    返回結果集中給定列的相關元數據信息,如果沒有這樣的列,則返回假。如果省略col_num,則對mysql_fetch_field()的後繼調用返回結果集後續列的信息。如果不再有剩餘的列。則返回值為假。
  • 22年後再戰高性能顯卡市場 Intel Xe GPU架構詳解:王之野望
    作為CPU界的王者,Intel對高性能GPU市場一直沒有死心,1998年就推出了i740獨顯,12年後又推出Larrabee,22年後的今天又重燃戰鼓,推出了Xe GPU架構。Intel重新殺入高性能GPU市場的傳聞已久,並挖來了AMD RTG部門前主管、首席架構師Raja Koduri坐鎮GPU業務,這次是否會不一樣呢?
  • MySQL如何實時同步數據到ES?試試這款阿里開源的神器
    canal工作原理canal會模擬MySQL主庫和從庫的交互協議,從而偽裝成MySQL的從庫,然後向MySQL主庫發送dump協議,MySQL主庫收到dump請求會向canal推送binlog,canal通過解析binlog將數據同步到其他存儲中去。
  • 一文理解分布式架構
    分布式系統作為一個整體對用戶提供服務,而整個系統的內部的協作對用戶來說是透明的,用戶就像是指使用一個mysql 一樣。如:分布式mysql中間件 mycat ,來處理大並發大數據量的構架。二、分布式架構的應用1、分布式文件系統例如:出名的有 Hadoop 的 HDFS, 還有 google的 GFS , 淘寶的 TFS 等2、分布式緩存系統例如:memcache , hbase, mongdb 等3、分布式資料庫例如:mysql, mariadb, postgreSql 等
  • 一文知道高性能接口的設計準則
    在工作這些年裡,我有幸遇到了高並發各種坑,對如何設計高性能接口有一些經驗,其實無外乎滿足以下幾個特點: 靈敏性 伸縮性 容錯性 事件驅動/消息驅動 高性能接口設計準則 在引言裡我也說了高性能設計的四個準則,現在具體對這四個準則做一些描述; 1.
  • SELinux 與 MySQL-愛可生
    對於 MySQL 資料庫的強制訪問控制策略通常是激活的,如果用戶採用默認的配置,並不會感到強制訪問控制策略對 MySQL 資料庫的影響,一旦用戶修改了 MySQL 資料庫的默認配置,例如默認的數據目錄或監聽埠,MySQL 資料庫的活動就會被 SELinux 或 AppArmor 阻止,資料庫無法啟動,本文簡單介紹 SELinux 對 MySQL 資料庫的影響。
  • 實踐分享:ACCESS資料庫導入mysql資料庫
    下面我就和大家分享一下如何把數據從ACCESS資料庫導入mysql資料庫。首先說明一下思路,可以導入mysql的方法有很多,但不包過access直接導入,網上有很多介紹CSV格式導入mysql的,但操作很不方便,經常發生錯誤而無法導入。sql語句導入是最簡單的。那有沒有辦法把access資料庫轉換成sql語句呢。
  • MySQL存儲引擎的物理結構與表空間
    5.7版本以後,臨時表被剝離8.0版本以後,undo信息被剝離查看共享表空間路徑select @@innodb_data_file_path;下圖表示,第一次啟動時創建共享表空間ibdata1,初始大小為12M,空間不夠時,會自動增長64M的空間使用du -sh 命令查看文件大小du -sh /data/mysql