劉半農出生於江蘇江陰,中學的時候因為對學校保守的教育體制不滿和失望,前往上海發展,成為一名編輯。他天資聰穎,而且國文功底很好,悟性高,再加上勤奮和才情,很快成為上海灘文壇上一個十分活躍的小說新秀。經過幾年奮鬥之後,在上海灘聲名鵲起,被人稱為「江陰才子」、「文壇魁首」。
劉半農在上海曾與陳獨秀有過一次難忘的會面,陳獨秀慧眼識珠,把他推薦給了蔡元培。這個中學都沒畢業的鄉村青年成了北大的老師。北大是新文化運動的發祥地,也是新文化思想的中心,進入北大後,劉半農變成了新文化運動的急先鋒,開始在《新青年》上發光發熱。
劉半農曾經為了要編一本「罵人專輯」,在報紙上刊登啟事,徵求各地的罵人語言。語言學家趙元任見到啟事後,立即前往,用湖南、四川、安徽等地的方言把他「痛罵」了很長時間。隨後周作人也趕來,用紹興話「罵」了一頓。此後,他又去拜會著名學者章太炎,被章用漢代和唐代的罵人話,從上午「罵」到中午,再告訴他典出何處。
劉半農到北京大學後,自知資歷淺,所以十分勤奮,講課也很受學生歡迎。但在這個學院派佔統治地位的地方,他依然被一些人視為不入流。於是他開始發奮攻讀博士,並在蔡元培的支持下公費赴英留學,後來轉到法國,獲得法國國家文學博士學位,成為第一個獲得以外國國家名義授予的最高學銜的中國人。
劉半農在學成回國的海輪上,寫下詩作《教我如何不想她》,這個「她」字就是劉半農發明的。這一年秋天,他回到北京大學擔任國文系教授,兼任北大研究所國學門導師,建立了語音樂律實驗室,成為中國實驗語音學奠基人。
1931年11月18日晚,劉半農邀請好友聚會,其中包括徐志摩。徐在席間接過電話後笑盈盈地說:「我明早八點北飛。明晚此時,當與小曼共飯也」。劉半農打趣道:「飛空之戲,君自好之,我則不敢嘗」。徐志摩回應:「危險在所難免,我自甘之。我苟飛死,君當為我作輓聯。」劉半農笑答諾。殊不知這成了二人最後的會面。
1931年11月19日早8時,徐志摩搭乘中國航空公司 「濟南號」郵政飛機由南京北上,他要參加當天晚上林徽因在北平協和小禮堂為外國使者舉辦中國建築藝術的演講會。當飛機抵達濟南南部党家莊一帶時,忽然大霧瀰漫,難辨航向。機師為尋覓準確航線,只得降低飛行高度,不料飛機撞上開山,當即墜入山谷,機身起火,機上人員(兩位機師與徐志摩)全部遇難。關於他遇難的原因,除直接原因林徽因外,還與陸小曼遲遲不肯答應北上,以及大霧影響、主機師王貫一前晚準備女兒婚事忙到很晚,飛行時精神太差有關。沒想到劉半農一語成讖。
斯文·赫定是位世界著名探險家,劉半農的死在一定程度上要歸因於他。斯文·赫定70大壽時,瑞典皇家地理學會計劃出版紀念文集,向劉半農約稿。出於對赫定的尊敬,劉半農決定寫一篇有關北平、綏遠沿線方言聲調的論文,為他祝壽。但在考察途中,劉半農染上了致命的回歸熱,之後又被庸醫誤診,不久便與世長辭,年僅43歲。