禪宗是一宗中國化了的佛教，據說是源自釋迦牟尼佛在靈鷲山說法時的拈花一笑，由此衍生了傳心的佛教法門。一般認為，中國禪宗之初祖以心始向南朝梁武帝大通元年(520)來到中土的菩提達摩，或稱菩提達摩。《續高僧傳》中有菩提達摩的本傳，談道：「菩提達摩，南天竺婆羅門種。神慧疏朗，聞皆曉悟，志存大乘，冥心虛寂。通徵徹數，定學高之。悲此邊隅，以法相導。初達宋境南越，末又北度至魏。隨其所止，誨以禪教。於時合國，盛弘講授。乍聞定法，多生譏謗。有道育、慧可，此二沙門，年雖在後，而銳志高遠，初逢法將，知道有歸。」達摩初到中土弘傳禪法時，遇到了諸多困難與譏諷。但時有道育、慧可二位沙門卻堅持追隨達摩之道。
其中的沙門慧可，又稱僧可，被中土禪宗稱為二祖，時「遇天竺沙門菩提達摩，遊化嵩洛，可懷寶知道，一見悅之，奉以為師，畢命承旨。從學載，精究一乘，理事兼融，苦樂無滯，而解非方便，慧出神心，可乃就境，陶研淨穢，埏埴方知。」然而，慧可的傳道之路亦十分艱辛，慧可「後以天平之初，北就新鄴，盛開秘苑。滯文之徒，是非紛舉。時有道恆禪師，先有定學，王宗鄴下，徒侶千計。承可說法，情事無寄，謂是魔語。乃遣眾中通明者，來殄可門。」禪修之說早在達摩之前已經有之，達摩、慧可所傳之禪，在當時一些禪師看來，形同「魔語」。當時已經名噪鄴都的禪師道恆對慧可採取了打擊、排擠的做法，甚至勾結賄賂官府，幾欲置可於死地：「恆通深恨，謗惱於可，貨球俗府，非理屠害，初無一恨，幾其至死。恆眾慶快。」顯然，在禪宗最初的發展道路上，是充滿了危險與艱辛的。然而，隨著唐代禪宗的正式確立，以其「不立文字，直指人心」的方便與機敏，很快成為中國佛教的一枝奇葩。一說，禪宗在佛經上的所本，最初菩提達摩多依止者是《楞伽經》，這可由慧可傳中看出：「初，達摩禪師以四卷《楞伽》授可曰：我觀漢地，惟有此經，仁者依行，自得度世。」後至六祖惠能(亦稱慧能)所依主要為《金剛經》，惠能在還未出家之時，「偶聞廛肆間誦《金剛般若經》，能凝神屬垣，遲遲不去。問曰：『誰邊受學此經？』曰：『從蘄州黃梅馮茂山忍禪師劫持此法，雲即得見性成佛也。』能聞是說，若渴夫之飲寒漿也。」
一部佛教禪宗史是一部宗教史、思想史，也是一部有關禪趣的歷史。這裡無法觸及這一龐大的課題，好在有大批優秀的禪宗史著作，可供學習與鑑賞。但對於歷史上禪宗建築的情況，特別是禪宗最初成宗的唐代時期的情況，相應的研究卻比較少，這顯然是因為缺乏相應資料的原因。關於禪宗寺院的建築，相關的資料是少之又少。人們一般提起的是唐代禪師百丈懷海的《百丈清規》。其實，《百丈清規》中主要的內容也並非涉及建築問題的，只是從字裡行間或能多少透露出來一些建築的信息。