中國歷代音樂機構的建立，是為上層統治階級、為帝王權貴服務的，都是以雅樂、燕樂、祭祀郊廟、儀仗鼓吹等音樂為其內容，也是我國古代實行音樂教育活動的主要機構和場所。歷代音樂機構在音樂管理、音樂教育、音樂表演等方面，都建立了完備的規章制度和實施法則， 而且在音樂機構的構建上分設其它管理機構，形成規模龐大、結構複雜的音樂教育組織和體系，有效地實施了音樂傳播與教育活動。
據現存的音樂考古資料和歷史文獻記載分析來看，在我國原始社會就已經有了最古老的音樂教育活動。《呂氏春秋·古樂篇》記載的 「三人操牛尾，投足以歌八闋」葛天氏之樂；先秦典籍《尚書》中記載的由夔編制的 「擊石拊石，百獸率舞」樂舞；其中提到的夔，是舜時的專職樂官， 主管樂舞之事，是氏族社會樂舞的組織者、指揮者，而且具有高超的音樂演奏技能，可以說他是原始氏族社 會早期的一位音樂教育家。《呂氏春秋·古樂篇》中也提及到的眾多專職樂官、樂工等等，足以說明這時的樂舞教習和樂事管理，已經有了相當的規範，出現了一些高水平的樂師。
在先秦時期，音樂教育已獲得了它的重要地位，如《周禮》中就把音樂作為教育內容的「六藝」（禮、樂、射、御、書、數）之一。西周王朝的建立後，制定了十分完備的「禮、樂」制度。周初時建立的宮廷音樂機構「春官」，可說是我國古代最早的音樂教育機構和第一所音樂學校。其中的「大司樂」的重要職能之一就是實施音樂教育 （以 「禮樂教育」為其主體），培養的對象主要是 「世子」（王、諸侯的長子）、「國子」（公卿大夫子弟）和 「學士」（平民青年），並且按照「樂德」、「樂語」、「樂舞」三種施教內 容，系統化、程序化的進行音樂教育。周代的音樂教育已經有了相當嚴格的教育程序和教育目標，但是「春官」的真正作用，是為了配合禮樂教育，維護周王朝的最高統治。
在秦統一六國之後，建立了名為 「樂府」的音樂機構，「樂府」的興盛是在漢武帝時期。「樂府」作為宮廷音樂機構，其主要職能是大規模、大範圍地採集民間歌謠，創作、填寫歌辭，創作樂曲進行演奏、演唱活動。此外，還研究音樂理論、製造樂器等等。對少數民族地區的音樂以及外域音樂，也加以吸收、利用並進行改編創作。
漢代「樂府」的樂官、樂師，主要是由出身「倡門」的樂人和來自各地的樂人組成，他們都是很有才華、技藝精湛的音樂家。「樂府」中還有許多「師學」（學員），他們以「樂府」中的樂官、樂工為師，接受器樂、聲樂等各種演奏、演唱技能的訓練，並參與宮廷的各種演出活動。漢代協律都尉李延年，是樂府中最重要的音樂家，善長歌唱和創作，很受漢武帝的賞識，被任命為協律都尉，主持樂府工作。他根據西域音樂創作出「新聲二十八解」，這是汲取西域音樂的精華進行創作的最早記錄。公元前7年，漢哀帝對樂府機構進行了裁減，致使樂府由盛變衰。樂府的設立，雖然在主觀上是為了適應統治階級宮廷享樂的需要，但是通過對各地民歌的採集，客觀上也促進了民間音樂的發展，起到了保存民間音樂的作用，促成了漢代民間音樂的繁榮，對其後音樂文化的發展產生了深遠的影響。
隋、唐時期的音樂教育機構，分為政府管轄和宮廷管轄兩個不同系統，樂工人數有數萬人之多。在政府管轄的系統中，太常寺是掌管禮樂的最高行政機關，由太常卿主管。其下有大樂署和鼓吹署兩個音樂機構，前者兼管雅樂和燕樂，還主管對藝人的訓練與考核，是太常寺的主體機構之一；後者專門管理儀仗中間的鼓吹音樂和一部分宮廷禮儀活動，也即是滷簿與軍樂的官署。由宮廷直接管轄的音樂機構有教坊和梨園。所謂教坊就是宮中訓練、培養樂工的場所。唐玄宗開元年間，教坊空前發展，共有教坊五處，分別是宮中的內教坊、西京的左右教坊和東京的左右教坊。左右教坊各有分工，右多善歌、左多工舞，相因成習。內教坊的伎女分為內人、宮人、搗彈家三類，是專為御前供奉的伎女，也是歌舞藝人中的出類拔萃者。梨園是唐玄宗在內廷設立的音樂機構，與專習歌舞的教坊不同，梨園以教習法曲為主。內廷的梨園由宮廷派內監主管，宮外有分屬兩京太常寺的梨園，人員從太常樂工中精選出來，人數多達千人。唐代的音樂機構是唐代優秀音樂人才的匯集之地，對人才的選拔和培養起到了重要的保證作用，並在教育、表演、組織、管理方面為後世積累了可供借鑑的歷史經驗。
宋、元、明、清時期，音樂文化發展的重心移向了民間，音樂活動不再以宮廷為主，而是以宮廷與民間共同發展為其特徵，民間的音樂活動則顯得更加繁盛，說唱藝術、戲曲藝術也得以確立和發展，並逐漸走向成熟。此時，音樂社會生活發生了重大變化，音樂的活動中心開始分化，多種藝術形式呈現出嶄新的面貌，宮廷音樂機構逐漸消解，規模也沒有前世那麼龐大，傑出的宮廷音樂家越來越少，音樂教育行為逐漸轉向民間，音樂教育活動呈現出廣泛的社會性。這個時期的宮廷音樂機構，基本上沿襲了隋唐時期的模式，設有太常寺、大樂署、鼓吹署、教坊等音樂機構。太常寺主要掌管、演奏宮廷雅樂，用於郊廟祭祀、朝賀典禮等場所，同時還教習音樂、編寫教材、制定考績制度，把教習雅樂作為一項重要的音樂教育活動。
宋代教坊初期完全沿用舊制，分為四部———大曲部、法曲部、龜茲部、鼓笛部。後又陸續從各地吸收了許多優秀樂工，隨之教坊規模不斷擴大，藝術質量明顯提高。宋代教坊的主要任務是為宮廷演奏燕樂、創作燕樂。
南宋教坊幾經興衰，撤而復置，名存實亡。到了宋孝宗時，教坊機構才被廢止。元代宮廷設太常寺、大樂署等機構，分別管理執掌雅樂、郊社宗廟之樂。音樂的教育活動也是以雅樂為其主要內容。明代的太常寺仍然掌管雅樂，教坊掌管宴饗之樂，民間俗樂大量滲透宮廷雅樂和燕樂之中，俗樂成為宮廷音樂傳教的主要內容。清代宮廷只保留太常寺音樂機構，僅有少量的雅樂傳教活動。
中國古代音樂教育機構的建立，促使了宮廷音樂、文人音樂、民間音樂相互融合與進一步延續和發展，中外音樂文化在此也得以廣泛地傳播和交流，與此同時，音樂教育機構和體制本身也更加完善和健全。音樂教育機構還為宮廷和民間培養了諸多優秀音樂人才，在教育、表演、組織、管理等方面，都為後世積累了豐富的可供借鑑的歷史經驗。