墨和筆一樣，在我國有極悠久的歷史。元陶宗儀《輟(chu)耕錄》說：上古無墨，竹點漆為書，中古以石磨汁，或雲是延安石液。至魏晉時始有墨丸。今天我們從地下出土的文物資料看，「上古無墨」之說是不確實的。西安半坡仰韶文化陶器上就有墨畫的人面魚紋、鹿紋、植物紋飾，墨寫的符號文字；商代不僅有朱書玉片，而且還有墨書獸骨、墨書陶片。只是上古人所用的墨不是現在的煙墨，而是石墨一類的礦物墨，漢以前石墨應用甚廣。
《淮南子·真訓「今以涅染緇(za),則黑於涅。」其中「涅」,即是可做黑色染料的礦石。「緇」,黑色。《周書》(即《逸周書》)記載周初有「涅墨之刑」。是用刀刺刻犯人額、頰等處，再塗上墨，稱為「黥(qing)」、「墨刑」。《戰國策》有「鄭周之女，粉白黛黑，非知而見之者以為神」的記載。「黛」,青黑色染料，婦女以之畫眉。幾此種種，都可看作是墨的其它用途。
陶宗儀講：至魏晉時，開始有用漆煙、松煤等混合做成的墨丸。因此，晉人多凹心硯，以便磨貯墨汁，這一說法當有所據。至唐代末，著名墨工李超與其子庭珪、庭寬，俱能做墨。寬之子承宴宴之子文用，都能繼承祖傳墨法。
據說李庭珪墨，有貴族曾誤落一丸於池中，認為被水浸壞了，因而也不撈取。過了一月多，又把一件金器掉到池子裡，於是就讓會水的人去撈，把那丸墨也撈上來了，那丸墨光澤不變，表裡如新，這位貴族這才對這丸墨珍視起來了。李庭珪的墨到了宋宣和年間比黃金還難得。
宋代蘇東坡也是制墨的專家。他還曾把他的制墨方法教給金華墨工潘衡。潘衡墨上印「海南松煙」、「東坡法墨」即為此。蘇東坡曾說：有一位叫潘谷的人，作墨精妙，鑑定絕詣。據它書記載，潘谷驗墨，摸索便知粗細。有一天，黃山谷取一小錦囊，裡邊有半丸墨讓潘谷鑑定。潘谷隔著錦囊一摸，即放在几上，點頭說：天下之寶也。取出來一看，原是李庭珪所做。又另外取一小錦囊，裡邊有一丸墨。潘谷也隔著錦囊一摸，嘆息道：我現在老了，不能再做到這樣的水平了。取出墨丸一看，原來是潘谷青年時所做的。
到了清代制墨精良者當推安徽徽州胡開文、曹素功等。現在，墨除作書畫之用外，也成了特種工藝美術品之墨論其種類，有松煙、油煙松煙製法是：取高山之松，燃燒取煙，加鹿膠和之。後世墨上印以「黃山松煙」字樣，就是取高山之松制墨之意，然未必都真是黃山松所制之墨。油煙製法是以麻油油煙和膠傲成。桐油油煙不黑，但經濟，所以油煙墨中，真正麻油油煙者少，桐油油煙者多。鹿膠少，今多以牛膠代替。又有制墨者就中加少許香料，使其芬芳宜人。還有加麝香、珍珠、犀角等責重原料制墨的，十分考究。什麼樣的墨好？
《東坡志林》記司馬溫公(司馬光)評茶與墨說：茶與墨正相反。磨研時，聲膩「入觀」者良，如果聲粗，甚至有砂粒「打硯」之聲，就是劣墨墨貴重，同樣大小，重者好，粗、雜者輕，細、純者重；墨貴陳，古舊者好，所以歷代書畫家都喜歡存古墨、用古墨，甚至把新墨放置十年以上取用。因為陳墨色黑而且有光澤。
已故花鳥畫家田登五先生以古墨畫八哥鳥，其背部黑潤且泛紫光，幾乎與真羽毛無異，更兼先生善用墨，「墨分五彩」,且得古墨之助，所畫八哥筆墨傳神、顧盼多情，令人嘆為觀止。
用墨，古人總結其用墨經驗認為，作書作畫，墨要新磨。磨墨時要重按緩轉，這樣研出的墨汁細色鮮。墨研成後必須停十分鐘左右，然後取筆蘸墨書寫，就會有墨光浮動紙上。《漢溪書法通解》講：「凡作楷欲幹，然不可太燥。行草則燥潤相雜，以潤取妍，以燥取險。墨濃則筆滯，燥則筆枯，亦不可不知也。」今日書畫用墨，多用現成墨汁。但須注意：①墨汁注入硯池之後，最好加水少許用墨錠研磨一下，使其質更細膠更勻：2墨汁瓶中不可加水，以免發臭；③硯池中未用完之墨也應倒掉並將觀池洗逄因為蓄墨乾涸(he),微粒粗，不宜存用，且易損硯。墨汁中有膠大者，不經加上，不宣在生宣紙上書寫。因為膠易溶於水，一經託裱，墨即隨膠洇(ⅶm)出，使字跡模糊。裱工往往須先將書畫蒸過或加礬於漿糊之中，使紙變硬變脆。一般習字，使用墨汁則十分方便，硯池蓄墨亦可，不必過分講究，浪費時間。西安華山牌書畫墨汁、北京一得閣書畫墨汁都是比較好用的。