朱元璋曾寫過這樣一首詩："我有千行鐵汁，一生不為兒女哭。忽聽昨日常公鬧，淚灑枯坤草木溼。"自認為不粘小節，"男兒有淚不輕彈"的朱元璋，聽到將軍常遇春去世的消息後痛哭流涕，感慨失去了自己的臂膀。而常遇春光，確實值得朱元璋重視。
常遇春經常被拿來與朱元璋的另一位大將徐達比較。朱元璋和徐達是小有關係，他剛起步，回到家鄉鳳陽，徐達自然就歸他指揮了；而常遇春則不同，他一開始並沒有跟著朱元璋混，據史料記載，兩人的相遇頗具戲劇性。
出生於1330年的常遇春，正值元末亂世。他不甘於平庸，類似陳勝那樣"嚴全知洪古知"的性格，雖然家裡只是窮苦的農民，每每逢春卻不願種一輩子田，選擇打熬筋骨，學習武術。此外，他的基本條件也不錯，身材高大，長相偉岸，很快就精通武藝，熟悉各種兵器。
寧願打工也要習武常逢春，當然不願意過平平淡淡的生活。《明史·常玉春傳》說，有一天，常玉春"困臥田中，夢神得一盾，一呼曰："起，汝主至。""驚，太祖駕到，即來拜。"這件事發生的背景，是常玉春要去投奔綠林大盜劉據，卻棄他而去。
當時，天下有無數大大小小的勢力，常逢春飢，想找一份工作，也想去找一位認可自己，能為自己做出貢獻的"伯樂"明主。沒想到，他在懷遠一帶找工作，做起了劉合力的主要戰鬥力量，卻發現劉合力這個人除了搶劫，沒有別的本事。
失望之餘，常春打算脫離劉恆。據《明史》記載，朱元璋騎馬過田時，無意中看到一個正在睡覺的大個子（常遇春），恰巧夢到神人指點，告訴他老爺來了，別去睡覺！起床！於是常春醒了，來到朱元璋身邊，從此成了朱元璋手下的一員大將。
當然，一開始他並沒有受到重視，因為朱元璋覺得常遇春只是一個莽漢。《明史紀本索》記載了常遇春向朱元璋懺悔的過程。起初，朱元璋的態度很冷淡。他說："你是不是餓了，吃不飽了，要不要來這裡混飯吃？"這話說得很直白。
常玉春的態度很誠懇："如果我只是想吃辣喝酒，跟著劉據搶劫，金銀不缺，酒肉不缺。但劉據胸無大志，你有對待百姓的胸懷，明主之風，我想你能成就大事，所以才選擇去找你，我願意為你鞍前馬後，為你贏得一番事業！"
朱元璋終於看了他一眼，問道："你能不能過河與我一戰，"春天到了，他拍著胸脯向他保證，朱元璋指哪兒就打哪兒，當先鋒。從此，常遇春奇襲取衢州，大戰九華山，射殺了陳友諒手下猛將張定邊，救了朱元璋，隨後還破了元朝大統，立下汗馬功勞。
有歷史學家曾對常遇春的一生做過總結，說朱元璋得到常遇春，就註定了半壁江山要改姓朱，對常遇春的評價很高。但常春並不長壽，明太祖洪武二年（1369年），常春在行軍途中病逝，年僅40歲，他的出現，仿佛真的是為了幫助太祖打江山。