平安時代後期，北宋刊本開始東傳日本。公元983年，日本僧人奮然赴中國，如前已述，贈中國已鐵失之鄭玄注《孝經》，宋太宗以國內新刊的《大藏經》回贈。這部宋版《大藏經》，便是中國宋刻本傳入日本列島之濫觴。11世紀初，日本政權的實際操縱者藤原道長的日記《御堂關白記》「寬弘七年（1010年）十一月二十八日記載中國商人獻上「折本注文選、同文集」雲。所謂「折本」，即是「印刷本」，此處無疑是指宋刻《昭明文選》與《白氏文集》。
可以這樣說，平安時代近400年間，由於中日雙方的共同努力，以日本貴族知識分子為主要橋梁，中國文獻典籍以同時代在世界上罕見的規模東傳日本，從而對日本文化的發展，尤其是對日本漢學的形成，做了有力的奠基。平安時代那種歌舞昇平的景象結束了，代之而起的是以將軍為首領，以武士為主體的，長達400年的互相徵伐，全國雖然名義上仍然有一個天皇，但是，天皇不是被將軍挾持，就是政令不出京城，並且自公元1331年至公元1392年間，竟然也還出現過兩個天皇，這便是日本史上的南北朝時代。
戰爭嚴重摧殘了文化。由平安朝400年間建立起來的文化事業，幾乎被破壞殆盡一在這近4個世紀中傳入日本的中國文獻典籍，如《本朝見在書目錄》所著錄的1500餘種唐代與唐代以前的抄本，也大部分毀於這數百年之間。當時，在日本的國土上，唯一遠離戰火的是寺廟，一線學脈，便維繫於此。於是，寺廟中存在的文化，便成為這一時代日本文化的主流。
本來，中國儒學文化曾受到佛學的排斥，然而，這一時代中國大陸本土佛教中禪宗的發達，為儒佛兩家的關係帶來了新局面。禪宗是佛教傳入中國之後形成的一個具有中國特色的宗派。它不立文字，反對其它宗派繁雜的經典論說。它以坐禪內觀為主，超絕一切官能，擺脫一切知識，既無可以依據的經典，又無必須祈禱的對象。禪宗的本旨主張非有非無，有無俱存，有空俱空。所謂「兩頭俱截斷，一劍倚天寒」，這就是它的境界。所以，禪宗鼓吹在一棒一喝之下，頓開茅塞；在以心傳心之中，見性成佛，由此便可獲得萬古不變的真理。
禪宗在宋代逐步昌盛。這一時代在中國文化史上，正是宋人以「義理之學」，排斥與替代「漢唐訓詁之學」的時代。宋人程朱陸楊學派，在宇宙觀、方法論以至倫理學方面，提出了許多新的觀念。誠如思想史研究家們指出的，宋代儒學的理念與方法論，與禪宗十分接近。例如，禪宗以見性成佛為主，宋學以窮理盡性為宗:禪宗主張回復自己的本原，宋學主張探求自己的本性。事實上，禪宗的性相與宋學的性理，在內涵中有相似之處，而坐禪內觀與靜坐省察、頓悟與豁然貫通幾乎同出一轍，而且，它們都主張果用禁欲主義來淨化本性。這樣，佛教與儒學在此之前無論怎樣地對立，而禪宗和宋學卻似乎是可以交互為用的。曾經一向視若水火，互為剋星的儒佛二家，開始形成了一種新的形態。
日本佛教自13世紀起，發生了劃一時期的變化。從6世紀傳入日本的傳統佛教，以研究經典和祈禱法會為主，天台宗、真言宗等具有無可爭辯的權威地位。當時，京畿地區集中了諸大名寺，寺院中皆皇族公卿出身。此種形式的佛教，實際上是一種「貴族佛教」。隨著將軍武士在政治鬥爭中的勝利，平安時代的世卿貴族政治逐步瓦解，貴族佛教的權威也隨之動搖。其動搖的原因固然是因為舊佛教的高級僧侶營私利、逞私慾、腐敗墮落，達於極點。但還有兩個更主要的原因，其一是原有的貴族佛教不能適應新起的武士階級的意識的需要。武士的出身雖然是多元的，但不管他們來自何處，既為武士，就得為其主子馳驅效命，他們剛愎慓悍，出入於生死之門。
於是，在精神世界上，便需要一種與他們的生活狀態與心理狀態相一致的麻醉劑，以期得到安慰。他們沒文化，不能像貴族佛教徒那樣去研讀經典；也沒有時間和精力，像貴族佛教徒那樣去祈禱法會。他們要求一種簡明易了、直接通快地反映他們意志的宗教—這便是禪宗。其二是當時鎌倉將軍北條氏在爭奪政權的過程中，也急於要掌握教權。原有的舊佛教是世家公卿的勢力，鎌倉將軍在擺脫舊佛教勢力的過程中，對於從中國引進與日本舊教沒有關係的禪宗，有著極大的興趣。鎌倉大佛的建立，表示了將軍幕府與京貴族佛教的抗衡。
正是在這樣的形勢下，原本在宗教社會下層僧侶中流傳著的對於異派的欲求，由於武士階級在政治上的勝利，和當時幕府政策上的需要，因而得以強烈地表現出來。於是，禪宗作為新佛教的主流而開始風靡日本。中國在南宋寧宗時，仿印度釋迦牟尼在世時有鹿苑、祗園、竹林、大林和那爛陀共五等精舍，在江南禪宗中，定臨安徑山萬壽寺、北山靈隱寺、南山淨慈寺、明州阿育王山廣利寺和太白山景德寺為「五山」。另外，又以釋迦牟尼園寂後的項塔、牙塔、齒塔、發塔、爪塔、衣塔、缽塔、錫塔、瓶塔、盥塔共十塔，於「五山」之外，再定「十剎」。這「五山十剎」，便是南宋禪宗的基地。
13世紀日本鎌倉幕府便依中國「五山」之名法，在其政治中心鎌倉，取建長寺、園覺寺、壽福寺、淨智寺、淨妙寺為「五山」。14世紀中期，禪宗勢力終於打進京畿地區，公元1338年至1342年，京都定南禪寺、天龍寺、建仁寺、東福寺、萬壽寺為「五山」，其後，妙心寺、大德寺、臨川寺又為「準五山」。從而，日本開始了文化史上一個新時代一五山文化時代。