五代宋初，有荊浩、關仝、董源、巨然以及李成、範寬，共同將山水畫藝術推向一個高峰。荊浩總結唐人「水暈墨章」之法，繼承吳道子和項容山水理路，採二人之所長，有筆有墨，成一家之體；關仝學荊浩，後出藍，創「釘頭皴」，成自家山水；董源學李思訓、王維、鄭虔諸家，創「蜷曲皴」，畫面渾厚華滋；巨然創「披麻皴」，有「淡墨輕嵐」一體，筆墨朗潤。李成學荊、關，創「捲雲皴」，筆墨蒼潤；範寬師荊、李，筆墨沉著，氣象雄闊。另有米芾父子，創「橫店集墨法」，號稱「米家山」。
至南宋，李唐、劉松年、馬遠、夏圭，所謂「南宋四大家」。他們在前人的基礎上，各有發揮，獨創出自己的山水樣式。李唐畫樹如「點漆」，創「大斧劈皴」；劉松年學李唐，變「全景山水」為「小景山水」；馬遠比李唐的「大斧劈皴」更方勁，善畫活水，且只畫全景的一個角落，故稱「馬一角」；夏圭學範寬，善畫雪景與長卷，構圖常偏側一邊，故稱「夏半邊」。
至「元四家」，中國山水畫又抵達一個新高峰。黃公望、王蒙、倪瓚、吳鎮，他們的山水作品各具面目，而且更加注重文人畫氣質，尤其是提出了一個富有時代特徵的審美概念 ——「逸」。黃公望說：「畫當以天趣為妙，畫一窠一石，當逸墨撇脫，有士人家風，不同畫工之流」。倪瓚說：「逸筆草草，不求形似，惟寫胸中逸氣耳」。
明清之際的山水畫創作，很少開拓之功，雖然有董其昌等人極力鼓吹「復古」，然而已無濟於一味模仿與臨摹的時風。至清「四王」，山水畫徹底趨於程式化。
「筆墨當隨時代」。在沉寂了相當長的一段時期之後，至20世紀，湧現出一批極富創造力的山水畫家，比如黃賓虹、傅抱石、潘天壽、李可染、陸儼少，他們集前人之大成，吐故納新，繼往開來，把中國山水畫重新推舉至一個新高峰。
中國山水畫，之所以延綿不絕而歷久彌新，是與中國獨到的山水文化不可分割的。原始的陶片刻畫中，即有山水形象，那或許是一種天生的自然崇拜。至於後代的畫家們，寄樂荒野，優遊林泉，與山水精神相往來，已然超脫了山水物象之本身；至於石濤所言「山川使予代山川而言也，山川脫胎於予也，予脫胎於山川也，搜盡奇峰打草稿也，山川與予神遇而跡化也」，則是完全與自然山水融合一體了。即便在家中的書齋，賞讀著一幅山水畫，也是可以臥遊，可以坐忘，甚而仰天長嘯的。
「外師造化，中得心源」，「超以象外，得其環中」，希望自然環境與人文社會的和諧，實現「天人合一」的理想，完成浪漫與現實的完美統一，是中國古代山水畫家的終極追求。純真而經典的藝術，作為一種精神生活，其存在價值，並不僅僅是針對畫家或者欣賞者本身，而在於為整個人群服務，提供一種物質生活之外的詩意生存的可能，這，在科技文明高度發展的新世紀，應該給我們更多的啟示。