阿里: 規定超過3張表禁止JOIN?

2022-01-01 終端研發部
來源:http://blog.itpub.net/30393770/viewspace-2650450 作者:e71hao
 一、 問題提出 《阿里巴巴JAVA開發手冊》裡面寫超過三張表禁止join,這是為什麼?二、問題分析對這個結論,你是否有懷疑呢?也不知道是哪位先哲說的不要人云亦云,今天我設計sql,來驗證這個結論。(實驗沒有從代碼角度分析,目前達不到。可以把mysql當一個黑盒,使用角度來驗證這個結論) 驗證結論的時候,會有很多發現,各位往後看。 三、 實驗環境 vmware10+centos7.4+mysql5.7.22 四、我概述下我的實驗 有4張表,student學生表,teacher老師表,course課程表,sc中間關係表,記錄了學生選修課程以及分數。具體sql腳本,看文章結尾,我附上。中間我自己寫了造數據的腳本,也在結尾。實驗是為解決一個問題的:查詢選修「tname553」老師所授課程的學生中,成績最高的學生姓名及其成績。我來分析一下這個語句:4張表等值join,還有一個子查詢。算是比較簡單的sql語句了(相比ERP動就10張表的哦,已經很簡單了)。我 還會分解這個語句成3個簡單的sql:我來分析下:第一句,就是查詢最高分,得到最高分590分。第二句就是查詢出最高分的學生id,得到第三句就是查詢出學生名字和分數。這樣這3個語句的就可以查詢出來 成績最高的學生姓名及其成績 。接下來我會分別造數據:1千萬選課記錄(一個學生選修2門課),造500萬學生,100萬老師(一個老師帶5個學生,挺高端的吧),1000門課,。用上面查詢語句查詢。其中sc表我測試了下有索引和沒有索引情況,具體見下表。再接下來,我會造1億選課記錄(一個學生選修2門課),5000萬學生,1000萬老師,1000門課。然後分別執行上述語句。最後我會在oracle資料庫上執行上述語句。五、下面兩張表是測試結果
 六、仔細看上表,可以發現:


1、步驟3.1沒有在連接鍵上加索引,查詢很慢,說明:「多表關聯查詢時,保證被關聯的欄位需要有索引」;2、步驟6.1,6.2,6.3,換成簡單sql,在數據量1億以上, 查詢時間還能勉強接受。此時說明mysql查詢有些吃力了,但是仍然嫩查詢出來。3、步驟5.1,mysql查詢不出來,4表連接,對我本機mysql來說,1.5億數據超過極限了(我調優過這個SQL,執行計劃和索引都走了,沒有問題,show profile顯示在sending data.這個問題另外文章詳談。)4、對比1.1 和5.1 步驟sql查詢,4表連接,對我本機mysql來說 ,1.5千萬數據查詢很流利,是一個mysql數據量流利分水嶺。(這個只是現象,不太準確,需要同時計算表的容量)。5、步驟5.1對比6.1,6.2,6.3,多表join對mysql來說,處理有些吃力。6、超過三張表禁止join,這個規則是針對mysql來說的。後續會看到我用同樣機器,同樣數據量,同樣內存,可以完美計算 1.5億數據量join。針對這樣一個規則,對開發來說 ,需要把一些邏輯放到應用層去查詢。總結: 這個規則 超過三張表禁止join ,由於數據量太大的時候,mysql根本查詢不出來,導致阿里出了這樣一個規定。(其實如果表數據量少,10張表也不成問題,你自己可以試試)而我們公司支付系統朝著大規模高並發目標設計的,所以,遵循這個規定。在業務層面來講,寫簡單sql,把更多邏輯放到應用層,我的需求我會更了解,在應用層實現特定的join也容易得多。 七、讓我們來看看oracle資料庫的優秀表現:看步驟7.1,就是沒有索引,join表很多的情況下,oracle仍然26秒查詢出結果來。所以我會說mysql的join很弱。那麼問題來了,為什麼現在使用很多人使用mysql呢?這是另外一個問題,我會另外說下我的思考。看完本篇文章,另外我還附加贈送,所謂摟草打兔子。就是快速造數據。你可以自己先寫腳本造數據,看看我是怎麼造數據的,就知道我的技巧了。 八、附上部分截圖  九、附上sql語句和造數據腳本 

use stu;
drop table if exists student;
create table student 
  (  s_id int(11) not null auto_increment ,
     sno    int(11), 
     sname varchar(50), 
     sage  int(11), 
     ssex  varchar(8) ,
     father_id int(11),
      mather_id int(11),
      note varchar(500),
     primary key (s_id),
   unique key uk_sno (sno)
  ) engine=innodb default charset=utf8mb4;
truncate table student;
  delimiter $$
drop function if exists   insert_student_data $$
create function insert_student_data()
 returns  int deterministic
    begin
    declare  i int;
      set i=1;
      while  i<50000000 do 
      insert into student  values(i ,i, concat( name ,i),i,case when floor(rand()*10)%2=0 then  f  else  m  end,floor(rand()*100000),floor(rand()*1000000),concat( note ,i) );
      set i=i+1;
      end while;
      return 1;
    end$$
delimiter ;    
select  insert_student_data();
select count(*) from student;
use stu;
create table course 
  ( 
     c_id int(11) not null auto_increment ,
     cname varchar(50)
     note varchar(500), primary key (c_id)
  )  engine=innodb default charset=utf8mb4;
truncate table course;
  delimiter $$
drop function if exists   insert_course_data $$
create function insert_course_data()
 returns  int deterministic
    begin
    declare  i int;
      set i=1;
      while  i<=1000 do 
      insert into course  values(i , concat( course ,i),floor(rand()*1000),concat( note ,i) );
      set i=i+1;
      end while;
      return 1;
    end$$
delimiter ;    
select  insert_course_data();
select count(*) from course;
use stu;
drop table if exists sc;
create table sc 
  ( 
     s_id    int(11), 
     c_id    int(11), 
     t_id    int(11),
     score int(11) 
  )  engine=innodb default charset=utf8mb4;
truncate table sc;
  delimiter $$
drop function if exists   insert_sc_data $$
create function insert_sc_data()
 returns  int deterministic
    begin
    declare  i int;
      set i=1;
      while  i<=50000000 do 
      insert into sc  values( i,floor(rand()*1000),floor(rand()*10000000),floor(rand()*750)) ;
      set i=i+1;
      end while;
      return 1;
    end$$
delimiter ;    
select  insert_sc_data();
commit;
select  insert_sc_data();
commit;
create index idx_s_id  on sc(s_id)   ; 
create index idx_t_id  on sc(t_id)   ; 
create index idx_c_id  on sc(c_id)   ; 
select count(*) from sc;
use stu;
drop table if exists teacher;
create table teacher 
  ( 
    t_id  int(11) not null auto_increment ,
     tname varchar(50) ,
     note varchar(500),primary key (t_id)
  )  engine=innodb default charset=utf8mb4;

  truncate table teacher;
  delimiter $$
drop function if exists   insert_teacher_data $$
create function insert_teacher_data()
 returns  int deterministic
    begin
    declare  i int;
      set i=1;
      while  i<=10000000 do 
      insert into teacher  values(i , concat( tname ,i),concat( note ,i) );
      set i=i+1;
      end while;
      return 1;
    end$$
delimiter ;    
select  insert_teacher_data();
commit;
select count(*) from teacher;

create tablespace scott_data  datafile   /home/oracle/oracle_space/sitpay1/scott_data.dbf   size 1024m autoextend on; 
create tablespace scott_index   datafile   /home/oracle/oracle_space/sitpay1/scott_index.dbf   size 64m  autoextend on; 
create temporary tablespace scott_temp  tempfile   /home/oracle/oracle_space/sitpay1/scott_temp.dbf   size 64m autoextend on; 
drop user  scott cascade;
create user  scott  identified by  tiger  default tablespace scott_data  temporary tablespace scott_temp  ;
grant resource,connect,dba to  scott;
drop table student;
create table student  
  (  s_id number(11) ,
     sno    number(11) , 
     sname varchar2(50), 
     sage  number(11), 
     ssex  varchar2(8) ,
     father_id number(11),
      mather_id number(11),
      note varchar2(500)
  ) nologging;
truncate table student;
create or replace procedure insert_student_data
 is 
   q number(11);
    begin 
     q:=0;
      for i in  1..50 loop 
      insert /*+append*/ into student   select rownum+q as s_id,rownum+q  as sno, concat( sutdent ,rownum+q ) as sname,floor(dbms_random.value(1,100)) as sage, f  as ssex,rownum+q  as father_id,rownum+q  as mather_id,concat( note ,rownum+q ) as note from dual connect by level<=1000000;
      q:=q+1000000;
      commit;
      end loop; 
end insert_student_data;
/
call insert_student_data();
alter table student  add constraint  pk_student primary key (s_id);
commit;    
select count(*) from student;
create table course 
  ( 
     c_id number(11) primary key,
     cname varchar2(50),
     note varchar2(500) 
  )  ;
truncate table course;
 create or replace procedure insert_course_data
 is 
   q number(11);
    begin 

      for i in  1..1000 loop 
      insert /*+append*/ into course  values(i , concat( name ,i),concat( note ,i) );      
      end loop; 
end insert_course_data;
/
call insert_course_data();
commit;    
select count(*) from course;
create table sc 
  ( 
     s_id    number(11), 
     c_id    number(11), 
     t_id    number(11),
     score number(11) 
  ) nologging;
truncate table sc;
 create or replace procedure insert_sc_data
 is 
   q number(11);
    begin 
     q:=0;
      for i in  1..50 loop 
      insert /*+append*/ into sc   select rownum+q as s_id, floor(dbms_random.value(0,1000))  as c_id,floor(dbms_random.value(0,10000000)) t_id,floor(dbms_random.value(0,750)) as score from dual connect by level<=1000000;
      q:=q+1000000;
      commit;
      end loop; 
end insert_sc_data;
/
call insert_sc_data();
create index idx_s_id  on sc(s_id)   ; 
create index idx_t_id  on sc(t_id)   ; 
create index idx_c_id  on sc(c_id)   ; 
select count(*) from sc;
create table teacher 
  ( 
    t_id  number(11) ,
     tname varchar2(50) ,
     note varchar2(500)
  )nologging ;
    truncate table teacher;
create or replace procedure insert_teacher_data
 is 
   q number(11);
    begin 
     q:=0;
      for i in  1..10 loop 
      insert /*+append*/ into teacher   select rownum+q as t_id, concat( teacher ,rownum+q ) as tname,concat( note ,rownum+q ) as note from dual connect by level<=1000000;
      q:=q+1000000;
      commit;
      end loop; 
end insert_teacher_data;
/
call insert_teacher_data();
alter table teacher  add constraint  pk_teacher primary key (t_id);
select count(*) from teacher;

BAT等大廠Java面試經驗總結

想獲取 Java大廠面試題學習資料

掃下方二維碼回復「BAT」就好了

回復 【加群】獲取github掘金交流群

回復 【電子書】獲取2020電子書教程

回復 【C】獲取全套C語言學習知識手冊

回復 【Java】獲取java相關的視頻教程和資料

回復 【爬蟲】獲取SpringCloud相關多的學習資料

回復 【Python】即可獲得Python基礎到進階的學習教程

回復 【idea破解】即可獲得intellij idea相關的破解教程關注我gitHub掘金,每天發掘一篇好項目,學習技術不迷路!

相關焦點

  • 阿里規定超過三張表禁止join,為啥?
    題目:《阿里巴巴JAVA開發手冊》裡面寫超過三張表禁止join 這是為什麼?這樣的話那sql要怎麼寫?一般,我對於這種問題,解決方案是查詢官方文檔,要麼查看我的工具書《高性能的MySQL》,在本書的6.3節:重構查詢的方式裡面提到,需要考慮實際情況,看看是否有必要將一個複雜的查詢分解成多個簡單的查詢,並不一定要把所有的工作全都移交給資料庫(轉換思路)!!!
  • 阿里規定超過三張表禁止JOIN,為啥呢?
    作者:e71hao 一、 問題提出 《阿里巴巴JAVA開發手冊》裡面寫超過三張表禁止join,這是為什麼?關注我回復嵩山可以獲取這個完整版。
  • 阿里規範不建議多表Join,可這SQL要怎麼寫?
    阿里開發手冊的描述,禁止多表join:>阿里規範不建議多表Join,可這SQL要怎手冊上寫著【強制】,相信很多同學項目裡面的代碼都不滿足這個要求。但是關鍵問題是:不用join,這SQL究竟要怎麼寫?!分解關聯查詢即對每個要關聯的表進行單表查詢,然後將結果在應用程式中進行關聯。
  • 我想說:mysql的join 真的很弱
    來源:ITPUB博客 作者:e71hao 一、 問題提出: 《阿里巴巴JAVA開發手冊》裡面寫超過三張表禁止join,這是為什麼?
  • 我想說:mysql 的 join 真的很弱
    (給ImportNew加星標,提高Java技能)轉自:ITPUB博客,作者:e71haoblog.itpub.net/30393770/viewspace-2650450/一、 問題提出:《阿里巴巴JAVA開發手冊》裡面寫超過三張表禁止
  • MySQL 的 join 功能弱了?
    關於MySQL 的 join,大家一定了解過很多它的「軼事趣聞」,比如兩表 join 要小表驅動大表,阿里開發者規範禁止三張表以上的 join 操作,MySQL 的 join 功能弱爆了等等。這些規範或者言論亦真亦假,時對時錯,需要大家自己對 join 有深入的了解後才能清楚地理解。
  • MySQL 的 join 功能弱爆了?
    關於MySQL 的 join,大家一定了解過很多它的「軼事趣聞」,比如兩表 join 要小表驅動大表,阿里開發者規範禁止三張表以上的 join 操作,MySQL 的 join 功能弱爆了等等。這些規範或者言論亦真亦假,時對時錯,需要大家自己對 join 有深入的了解後才能清楚地理解。
  • MySQL join 學習
    公式表示就是如下:案例:1 2 3X = {1,2} Y = {a,b,c} X×Y = {(1,a),(1,b),(1,c),(2,a),(2,b),(2,c)}如果對同一個資料庫的兩張表進行 join 操作,例如表 A 記錄 c~1,1~、c~1,2~、c~1,3~,表 B 有 c~2,1~ 以及 c~2,2
  • 阿里專家教你 left join 左表合併去重技巧
    左表(A)的記錄會全部顯示,而右表(B)只會顯示符合條件表達式的記錄,如果在右表(B)中沒有符合條件的記錄,則記錄不足的地方為NULL。使用left join, A表與B表所顯示的記錄數為 1:1 或 1:0,A表的所有記錄都會顯示,B表只顯示符合條件的記錄。
  • Mysql中join的那些事
    但是,join的原理確實博大精深,對於一些傳統it企業,幾乎是一句sql走天下,join了五六個表,當數據量上來的時候,就會變得非常慢,索引對於掌握join的優化還是非常有必要的。阿里的開發手冊中規定join不能查過三個,有些網際網路是明確規定不能使用join的的明文規定,那麼在實際的場景中,我們真的不能使用join嗎?我們就來詳細的聊一聊。
  • SQL表連接查詢(inner join、full join、left join、right join)
    前提條件:假設有兩個表,一個是學生表,一個是學生成績表。
  • left join、right join和join ???
    、 join、 right join和 inner join等等各種 join的區別。顧名思義,就是「左連接」,表1左連接表2,以左為主,表示以表1為主,關聯上表2的數據,查出來的結果顯示左邊的所有數據,然後右邊顯示的是和左邊有交集部分的數據。
  • left join、right join和join,傻傻分不清?
    、 join、 right join和 inner join等等各種 join的區別。顧名思義,就是「左連接」,表1左連接表2,以左為主,表示以表1為主,關聯上表2的數據,查出來的結果顯示左邊的所有數據,然後右邊顯示的是和左邊有交集部分的數據。
  • SQL中JOIN時條件放在Where和On的區別
    (好像這是某一年阿里的面試題)這個問題提出來以後,多數小夥伴的回答是:查詢結果應該是一樣的吧,只是查詢效率不一樣。我當時的回答是,在Inner Join時這兩種情況返回的結果是一樣的,在Left、Right等情況時結果不一樣。案例1、創建測試資料庫和表並且插入用戶測試的數據。
  • left join,right join,inner join,full join之間的區別
    right 以 right join 右側表為主表inner join 查找的數據是左右兩張表共有的full join,在兩張表進行連接查詢時,返回左表和右表中所有沒有匹配的行。例如我們有兩張表:Orders表通過外鍵Id_P和Persons表進行關聯。1.inner join(內連接),在兩張表進行連接查詢時,只保留兩張表中完全匹配的結果集。
  • SQL中 LEFT JOIN 左表合併去重實用技巧
    ON 條件表達式left join 是以A表為基礎,A表即左表,B表即右表。換句話說,左表A的記錄將會全部表示出來,而右表B只會顯示符合搜索條件的記錄(例子中為: A.aid = B.bid),B表記錄不足的地方均為NULL.A表所有記錄都會顯示,A表中沒有被匹配的行(如aid=5、6的行)相應內容則為NULL。返回的記錄數一定大於A表的記錄數,如A表中aid=7行被B表匹配了3次(因為B表有三行bid=7)。
  • SQL Server中的外連接(左連接(left join)右連接(right join))
    1.左連接(left join)1.解釋:將兩個表或兩個以上的表以一定的連接條件連接起來,不但返回滿足連接條件的記錄,而且會返回左表不滿足條件的記錄。2.運行原理:1.用左表的第一行分別和右表的所有行進行聯接,  如果有匹配的行,則一起輸出,如果右表有多行匹配,則結果集輸出多行,如果沒有匹配行,則結果集中只輸出一行,該輸出行左邊為左表第一行內容,右邊全部輸出null2.然後再用左表第二行和右邊所有行進行聯接,如果有匹配的行,則一起輸出,如果右表有多行匹配,則結果集輸出多行,  如果沒有匹配行,則結果集中只輸出一行,該輸出行左邊為左表第二行內容
  • Oracle Inner Join子句(多表連接)
    Oracle INNER JOIN語法簡介在關係資料庫中,數據分布在許多相關的表中。例如,在樣本資料庫中,銷售訂單數據主要存儲在orders和order_items表中。參考以下ER圖結構 -orders表存儲訂單的標題信息,order_items表存儲訂單購買貨物的明細。
  • mysql兩張表批量更新數據 update inner join
    需求:現在有兩張表,需要把一張表的數據更新到另一張表中。
  • SQL Server中的內連接(inner join)
    注意:inner join 可以簡寫為 join1.select . from A,B 的用法1.產生的結果:行數是A和B的乘積,列數是A和B之和。或者說把A表的每一條記錄和B表的每一條記錄組合在一起,形成的是個笛卡爾積。