開國上將陳錫聯出生於湖北省紅安縣，他是個苦孩子，父親陳永厚是個石匠，在當時有這種手藝的人養家餬口是不成問題的，但是在陳錫聯3歲那年父親在幫人家蓋房的時候發生了事故，掉下來的石樑將陳永厚砸成了重傷，不久後就傷重不治。
陳錫聯的父親去世後，家裡的日子非常的艱難，僅有的一畝田要養活五口人（陳錫聯及他的母親、兩個姐姐、出生不久的弟弟)是根本不可能的，一家人主要靠母親沒日沒夜的給人紡線織布來維持生計。窮人的孩子早當家，陳錫聯從記事起就幫助母親勞作，稍微大一點就給地主家放牛，當長工，在這段歲月中他沒有少受僱主的毒打。
1929年，黃（安）麻（城）光（山）根據地建立，遊擊隊在陳錫聯的家鄉活動，他嚮往新的生活想加入遊擊隊，孩子是母親的心頭肉，陳錫聯的母親堅決不同意，但是陳錫聯思前想後還是下定決心在一天夜裡假裝睡著，然後等著母親、姐姐、弟弟都睡著後，他走出家門毅然參加了遊擊隊，這一年陳錫聯14歲。
陳錫聯參加的那支遊擊隊，隊長是日後的開國大將徐海東，副隊長是詹芳才，不久之後徐海東領導的這支遊擊隊正式改編成了紅軍，在部隊轉戰別處之前陳錫聯回家看望了母親，看著長高長胖的兒子，母親百感交集，也默認了陳錫聯的選擇。
1931年11月7日，鄂豫皖根據地的紅軍改編為紅四方面軍，陳錫聯也成了連政治指導員，之後他歷任紅30軍紅88師263團營政治委員、團政治委員，紅4軍第10師副師長、紅11師政治委員、紅10師師長等職務，陳錫聯任紅11師政治委員的時候20歲，是紅四方面軍最年輕的師政治委員，他也被人親切的稱作「小鋼炮」。
全面抗戰爆發後，陳錫聯任八路軍第129師385旅769團團長，他率該團挺進山西忻口戰場，夜襲日軍陽明堡機場摧毀日機24架。陽明堡之戰讓陳錫聯聲名遠揚，他的家鄉人也知道了八路軍有一個叫陳錫聯的團長打仗很厲害，後來母親託人給八路軍總部寄了一封信，收到信的陳錫聯熱淚盈眶，他將母親的信一直珍藏在身邊閒暇之餘經常拿出來看一看。
解放戰爭期間，陳錫聯任中原野戰軍第3縱隊司令員，3縱是中野的核心縱隊之一，陳錫聯是當時所有縱隊司令員中最年輕的，他和陳再道、陳賡也被稱為劉、鄧大軍中的「三陳」。
1947年6月，劉、鄧大軍主力採取無後方的千裡躍進的進攻樣式，直搗大別山區，陳錫聯率3縱搶渡淮河，快速突進到大別山北麓，在十幾天內解放了宛西9個縣城及大片地區，為大軍立足奠定了基礎。
劉、鄧大軍在大別山建立根據地，這讓敵人非常的恐慌，1947年11月，蔣任命白崇禧為蘇、皖、鄂、豫、贛五省的」剿匪「總司令，抽調了14個師（33個旅）的優勢兵力向大別山根據地進行全面進攻。就在大別山的劉、鄧大軍各縱隊積極的展開對敵鬥爭的時候，6縱隊的政治委員杜義德卻無意中找到了陳錫聯的母親。
6縱的部隊當時就在陳錫聯的家鄉一帶活動，有一個帶路的年輕人和6縱的指戰員們聊天，說他叫陳錫禮，他有個哥哥叫陳錫聯參加紅軍20年了，聊天的一個指揮員聽了大吃一驚，說這恐怕就是3縱隊的司令員陳錫聯的弟弟吧，於是這個指揮員連忙向6縱隊的政委杜義德匯報了，杜義德派了幾名戰士把陳錫聯的母親用小推車接到了3縱司令部。
陳錫聯的母親60多歲了，雖然她近20年沒有見兒子，但是一進司令部，從一幫人中還是一眼就認出了陳錫聯。母親相見，這種感情用言語是無法形容的，陳錫聯和母親說了一晚上的話，天亮後部隊要急行軍，陳錫聯只好依依不捨的和母親告別。
雖然陳錫聯已經是我軍的高級指揮員了，但是他也是沒有多少個人物品的，母親要走他想給送點東西卻也沒有，最後陳錫聯將自己用的毛毯、被子留給了母親。
送走母親後，陳錫聯率部投入到積極的對敵作戰中，3縱指戰員冒著嚴寒轉戰千裡，連續戰鬥18天，粉碎了敵人的多路進攻。