何劍南先生1912年出生於洛寧縣西山底鄉張溝村，其父何席珍是個小有名氣的鄉村私塾教師。他給何劍南起名叫魁勝。何劍南是賀氏族中的鴻字輩，上學的時候又起名鴻祚，字書伍。「劍南」這個名字是他自己後來起的。
何劍南小時候在父親的嚴格督導下，讀完了「四書」、「五經」。後來，他到距張溝五裡地的西山底街縣立第二高小讀書。第二高小是「三初」之首張升初(張鵬舉)創辦的。當時，那所學校已開設新課程，如英文、算學、歷史、地理等。並且倡導破除迷信，打神像，解放婦女，宣傳女子放足。這對從私塾走出來的何劍南的思想有很大的衝擊。不久，張升初被害，第二高小遷到了趙村，何劍南失學回家。
這時已受到新教育、新思潮影響的何劍南很想外出求學，但因家裡貧困，願望難以實現。不久有了一個機會：何劍南的三叔何三震膝下無子，見侄兒聰明伶俐，便向兄長何席珍提出把劍南過繼給自己。何席珍是個崇尚封建禮教的人，何況還有長子何旺，就答應下來。何三震家庭經濟情況較好，就送何劍南到開封繼續上學。
這大約是1933年的事。在開封求學期間，何劍南認識了本縣坡頭村的雷光華閱讀了一些進步書刊，同時苦練書法。有一次他回家，曾在手腕上綁兩塊磚頭練懸筆字。他父親從他背後奪他手中的筆，也沒有奪走。
1934年，劍南在省度量衡檢査所謀得一個三等鑑定員職務、幹到第二年被派回洛寧縣任徵收主任。1936年春天，他又被保送到省徵收人員訓練班學習。結業後，省財政廳委派他到淮陽縣稅務徵收處的田賦處任組長。任職期間，名聲顏佳。不久，劍南的結髮妻朱葉病逝，遺下一子京武，託嫂嫂撫養。他又同開封人郭玉芝結了婚，郭氏性格溫柔，比劍南小十二歲，對他體貼入微。但不久，抗日戰爭爆發了，劍南懷著一腔熱血報國無門、決心去找共產黨。
1938年，他隻身出走至涇陽縣安吳堡，參加了共產黨辦的「西北青年軍政訓練班」。經過一個多月的短期訓練，他奉命回洛寧與雷志德老先生聯繫開展工作。在家鄉，他交結了曲書城、郭中立、徐元卿等許多地下黨員，共同宣傳抗日救國。當時，縣中學剛結束不久。磨頭村現代中學分校也被國民黨當局勒令停辦，西山底附近學生失學的很多。劍南就與王宏博、張效渠、楊清昶等人在郭中立和張萬鎰的協助下，創辦起洪嶺學校，招收學生不收學費(沒有課本)。不料，有人向當地國民黨軍告發說劍南是共產黨分子。
一天，一個連的中央軍包圍了劍南家住的張溝村，崖頭上還架起了機關槍，要抓他。所幸的是，劍南事前已從小山底(在西山底北邊)韋喜如那裡得到了消息，躲進了李家墳，才倖免於難。
是年冬，何劍南利用和西山底聯保主任高逢堯的親戚關係，請高出面成立了景陽抗日救亡宣傳隊、放足隊、圖書社等，開展抗日救亡宣傳活動。當時在河大上學的朱中華、彭彥如和以教師身份為掩護的地下黨員邢雲章都參加了這些活動。正避難在家的康啟英(張承訓的太太)、中央軍困長段國傑和地方上一些有錢的鄉紳，如郭水固(郭中立的伯父)、朱彥章(朱中華的父親)彭碌碡(彭彥如的父親)等，都很支持這些活動。他們捐錢捐書(段國傑從外地寄回了一大批抗日書刊)，景陽圖書社的圖書達到了五千餘冊。田秀山把自家山底街的門面房讓出來作圖書社社址，借書的人很多。每逢、八集日，他們把書擺出來讓人們自由閱讀，看書的人也很多。
他們還帶領宣傳隊上街演唱抗戰歌曲和救亡話劇，並且不定期出壁報。宣傳的效果在很短時間內就看到了，如西山低保的各村女孩子都放了纏足。這些活動只搞了幾個月，大概是從1939年春節到麥收。還沒有到署假，國民黨縣當局又勒令洪嶺學校停辦。大部分學生不願上雷焱把持的縣師，也沒錢上私立的濟汴中學都想去當時還沒有淪陷的盧氏求學。劍南很支持他們，對那些品學兼優但家裡很窮的青年，便解囊相助。楊生光(楊標)、趙龍崗、王魁元等，都曾受過他的資助。