胡志明出生於儒生家庭，從小受家教薰陶，加上個人的刻苦努力，他有?深厚的漢學功底。投身革命後，無論走到哪裡，都會趁興寫詩，其中不少詩句廣為流傳。
一九五○年十一月，胡志明秘密前往北京，同中國領導人商談援助越南抗法問題。路經廣西南寧時，偶遇西南軍區副司令陳賡。一九二四年至一九二七年胡志明在廣州從事革命活動時，陳賡正在黃埔軍校學習，兩人早已相識。這次與老朋友重逢格外高興，便趁興寫了一首《贈陳賡》：
當年遇君一青年，
如今統兵握帥權。
雄兵百萬悉聽命，
捍衛革命固滇邊。
越南抗法戰爭期間，根據越方的要求，中方向越南派出了軍事顧問，並於一九五○年三月任命三野十兵團政委韋國清為軍事顧問團團長。胡志明對此非常高興，經常到顧問團駐地看望大家。一次，胡志明不遠數十裡前去看望韋國清，但不巧韋國清和其他顧問已去了前線。第二天，胡志明便派人送來了一首漢文詩：
百裡尋君未遇君，
馬蹄踏碎嶺頭雲。
歸來偶過山梅樹，
每朵黃花一點春。
一九六六年夏的一天，胡志明把中國大使館一秘文莊請到主席府說，他看見中國《人民日報》上刊登了毛澤東暢遊長江的消息，便寫了如下一首詩：
欣聞你暢遊長江，
得悉你身體健康。
我在越南忙抗美，
遙祝你萬壽無疆。
說罷，便就詩的內容和寫法徵求文莊秘書的意見。文莊秘書問，可否拿到大使館，發給北京。胡志明把詩又看了一遍後說：「算了吧，沒有寫好。」上述的詩句是文莊秘書憑記憶記下來的。
二十世紀六十年代，中蘇關係日趨惡化，雙方展開了尖銳的論戰，中方發表了一系列批判蘇聯現代修正主義的文章。當時越南的抗美鬥爭正處於關鍵時刻，需要同時爭取中國和蘇聯這兩個社會主義大國的支援。越方雖也表示要反對現代修正主義，但沒有點赫魯雪夫的名。胡志明採取許多巧妙和含蓄的方式向中方表明他的反修立場。一九六二年九月底，彭真率中方人大代表團訪問越南。在代表團離開越南前夕，胡志明在宴會上發表了熱情洋溢的講話，表示「越中兩黨、兩國的關係是團結、團結，永遠團結。」並把唐代詩人王昌齡《芙蓉樓送辛漸》詩中的兩句詩「洛陽親友如相問，一片冰心在玉壺」加以改造說：
北京親友如相問，
一片冰心在玉壺。
短短兩行詩，意在不言中。
不少人都知道胡志明有一本漢文詩集《獄中日記》。一九四二年至一九四三年胡志明在廣西被國民黨政府地方當局關押一年多的時間裡，先後寫了一百多首漢文詩。這些詩用樸實無華或近似口語的語言，揭露了國民黨統治下犯人遭受的非人待遇，表達了對勞苦大眾的深切同情，反映了一位無產階級革命家的堅強意志和寬闊胸懷。
在被關押期間，國民黨第四戰區政治部一名叫伍甘華的職員，曾悄悄地對胡志明有過不少照顧。為此胡志明寫過如下一首詩：
伍科長與黃科員，
兩人見我太可憐。
殷勤慰問和幫助，
這像冬寒遇暖天。
一九四五年日本投降後，根據盟國的界定，將由中國派軍到越南接受侵越日軍的繳械。伍科長此時的軍銜已是大校，也跟?蔣軍到了越南。而此時的胡志明更成為了越南民主共和國的主席。一天，伍甘華來到越南民主共和國臨時政府的駐地，求見胡志明主席。胡志明走進客廳，同伍甘華親切握手，互致問候。胡志明見伍甘華似有些涼意，便對身邊工作人員說；
「你先陪客人，我到那邊去一下。」
說罷，胡志明快步上樓，幾分鐘後回到客廳，手上拿?一個用報紙包?的小包。胡志明用中文對伍甘華說：
「分手的時候，心情很激動，我沒有什麼送你，十分不好意思。因為我們國家剛剛解放，正如你所知道的那樣，困難很多。請你收下這件小小的衣服，穿在身上會暖和些，也算是我的一點心意。」
伍甘華起立，伸出雙手接過小包。這時工作人員突然發現胡志明身上那件毛衣不見了。伍甘華也看出了問題，無比激動。他滿含淚水說：
「主席閣下送給我的既是無價的禮物，又是溫暖的真摯感情。我將珍藏這神聖的紀念，永遠不會忘記今天這最榮幸的時刻。」
送走客人後，工作人員問：
「天氣這樣冷，您為什麼不先讓我們去準備一份禮物，卻把自己身上的毛衣脫了下來？」
胡志明說：
「你去看看倉庫，還有什麼東西可以送人？」
《獄中日記》作為越南文學寶庫中的珍品和進行革命傳統教育的教科書，六十多年來一直在越南人民特別是青少年中廣為流傳。一九六○年八月，郭沫若發表長文，高度評價胡志明的《獄中日記》。郭老先引用了其中的一首詩：
讀《千家詩》有感
古詩偏愛天然美，
山水煙花雪月風。
現代詩中應有鐵，
詩家也要會衝鋒。
之後，郭老寫道：「全部一百首詩，二千七百多字，就只有這一個『鐵』字。然而，如果我們仔細吟詠起來，卻差不多首首都有鐵，句句都有鐵。為什麼，就因為作詩的人有百折不撓的精神，有衝鋒陷陣的精神。」「讓我們放聲高呼：鐵的精神萬歲！鐵的文藝和鐵的詩歌萬歲！」
一九九○年，中國人民出版社出版了《獄中日記》，作為對胡志明誕辰一百周年的紀念。