眾所周知，明朝官員俸祿低得可憐。清朝入關後，也仿效了這一制度。這就使得清朝官員的俸祿總體水平依然不高。
按照制度，清朝正七品的知縣，每年只有45兩年俸和45斛祿米。最高等級的正一品官員，每年也只有180兩年俸和 180斛祿米。如果以當時的白銀的購買力來看，這樣的俸祿足夠普通家庭過日子了。可官員要養活一大家子人，包括差役、幕僚、家丁、門房等隨從人員，都得自己掏腰包，還要在官場上迎來送往，開銷非常大。這點俸祿，根本是入不敷出。
為了生存，清朝的官員就像明朝官員那樣，採取「火耗」「羨餘」等方式，在正稅之外徵收附加稅。這些附加稅統統進入官員的口袋，形成一種「灰色收入」。對於這種情況，順治皇帝、康熙皇帝都是知道的，但是沒有處理，默認這種既成事實。
官員們有了「灰色收入」，卻給老百姓造成了嚴重的經濟負擔，以至於怨聲載道。到了雍正時期，有了將「火耗」歸公的建議。
1723年，山西巡撫諾岷第一個向朝廷提出，實行「火耗」歸公和養廉銀制度，「將通省一歲所得耗銀提存司庫，以二十萬兩留補無著虧空，餘分給各官養廉」。
雍正皇帝批准了這個建議，在山西試行養廉銀制度。
1724年，山西布政使高成齡建議在全國進行推廣，「臣請敕下各直省督撫，俱如諾岷所奏，將通省一歲所得耗銀約計數目先行奏明，歲終將給發養廉、支應公費、留補虧空各若干一一陳奏，則不肖上司不得借名提解，自便其私」。由於此事牽涉很廣，雍正皇帝命總理事務王大臣、九卿集體討論。大家都覺得，實行「火耗」歸公，不是長久之策，不妨暫時在山西試行。
不過，雍正皇帝很贊成這個制度，他力排眾議，下了一道長篇諭旨，指出，官員私下徵收「火耗」是非法的，弊端很多，採取「火耗」歸公，再以養廉銀的方式給官員增加收入，是「上不誤公，下不累民，無偏多偏少之弊，無苛索橫徵之擾，實通權達變之善策」。
就這樣，在雍正皇帝的全力推動下，養廉銀制度在全國範圍得以施行。
養廉銀的多少，根據官員級別的高低、所在地域經濟條件的好壞等情況來綜合決定。總督的養廉銀最高，每年有2萬兩銀子上下。巡撫的養廉銀其次，每年有15000兩銀子上下。比如，雍正皇帝誇獎不已的「模範督撫」、河南巡撫田文鏡每年的養廉銀額達28900餘兩。在總督、巡撫以下，布政使、按察使、道員、知府、知縣等地方官員，都能夠獲得一筆不菲的養廉銀，數額是俸祿的數倍乃至於十倍。
那麼，養廉銀有沒有讓清朝的官員變得更為廉潔呢？
應該承認，在養廉銀實施之初，的確起到了一定的澄清吏治的作用。官員們有了養廉銀，不再巧立名目地向老百姓伸手。同時，在「火耗」歸公的過程裡，「火耗」數額普遍降低，因此老百姓的負擔有了一定程度的減輕。
不過，隨著時間的推移，養廉銀制度依然出現了問題。
養廉銀制度實施後，受益最多的是總督、巡撫等級別的封疆大吏，下級地方官員養廉銀並不高。九品一下未入流的吏胥差役，除了俸祿外，沒有一分養廉銀收入，這使得他們有了尋找「灰色收入」的衝動。
此外，一般的京官也沒有什麼養廉銀。他們只能利用手裡的權力，與地方官員進行「交易」。地方官員通過「炭敬」「冰敬」「別敬」等名目繁多的陳規，向京官繳納銀兩。於是，滋生了新的問題。
綜合而論，雍正皇帝推行的養廉銀，除了讓一部分官員賺得盆滿缽滿外，並沒有起到養廉的作用。