山水畫派雖然種類繁多，但是，如果要按照其使用的墨色來分類的話，還是大致可以分成兩個大類的，一個大類就是以五彩顏料作畫，展現的是彩色的世界，而另一個大類，自然就是發揮墨法的功能，展現的是黑白的精神。
使用彩色顏料作畫，根據其所用材料的不同，還可以分成若干個小類。其中最著名的，自然是青綠山水了。南宋時候的「二趙」，也就是趙伯駒、趙伯驌等畫家，最擅長的就是青綠山水。它主要使用石青、石綠等礦物質作為主要的色調，有的繪畫著色濃重，色彩炫目，被稱為大青綠，但是，也有些畫，只是在水墨淡彩的基礎上著色，所以，叫做小青綠。
如果繪畫的顏料中，不僅有石青、石綠，還夾雜有泥金的話，那麼就應該要叫做金碧山水了。要知道，如果僅僅是畫鬱鬱蔥蔥的山林，那麼，用綠色便已經足夠，不過，如果還要畫出那些雕梁畫棟的建築物，尤其是要畫皇宮之類的，那麼自然要顯得金碧輝煌一些，加入一點泥金，那真是再合適不過的了。「李思訓著色山水，用金碧輝映，自為一家法」，由此可見，這種繪畫的方法，是從唐朝的時候，便開始用了。
加上了金色之後，色彩自然是要豐富一些了，不過，如果繪畫之中，只有綠色，而沒有紅色等其他顏色的話，未免會讓人覺得略微有些單調，所以，淺絳山水便應運而生了。這種繪畫的形成比較晚，據說，是起源於五代董源，而興盛於元代黃公望。
根據《芥子園畫傳》說：「黃公望皴，仿虞山石面，色善用赭石，淺淺施之，有時再以赭筆勾出大概。王蒙復以赭石和藤黃著山水，其山頭喜蓬蓬鬆鬆畫草，再以赭色鈞出，時而竟不著色，只以赭石著山水中人面及松皮而已。」我們可以看到，這種用赭石在水墨勾勒的基礎上著色的方法，的確是可以起到畫龍點睛的效果，為山水畫增色不少。
而山水畫中的另一大類，自然就是純以黑白作為主要色調的水墨畫了。水墨畫相傳起於唐朝，王維對它大為推崇，認為這是一種單純又自然，而且有極強的象徵性，能夠激發人無窮聯想的繪畫方式，所以，他提出了「水墨為上」。
不過，可不要以為，水墨畫就缺少可觀性了，中國古代向來有「墨即是色」的說法，通過把握墨的濃淡變化，也可以製造出層次感，所以又有「墨分五彩」的講法。「江南董源傳巨然，淡墨輕嵐為一體」，如果水墨的色度掌握得好的話，的確是可以用來替代五彩繽紛的顏色，產生同樣的層次感的。用來描繪那些重巒疊嶂的崇山峻岭，波濤澎湃的江河湖海，恐怕還是非常適合的呢。