在整個二戰中，真正在戰場上長期地、有組織地、大規模地進行違反國際法的化學戰的國家只有日本。日本對化學武器的研發肇始於第一次世界大戰後期，其誘因是德法英等國在第一次世界大戰中相互間對敵國的化學戰取得了極大的成功，從而刺激了日本軍事當局對化學戰的興趣。經過10多年的潛心研究和試驗，到侵華戰爭爆發前，日本生產化學毒劑和製造化學武器的技術逐漸成熟，在短短的20年時間裡，日本已經建立了包括研究、生產、訓練和作戰等一整套進行化學戰的體系。
在進行了蓄謀已久的準備後，日本隨即違背國際法，肆無忌憚地把罪惡的化學武器用於侵華戰爭中，對中國軍民實施了滅絕人性的化學戰。日軍不僅在戰場上對軍人實施化學戰，並且還把化學戰的罪惡毒手伸向了手無寸鐵的平民百姓。
他們把中國當成了化學武器的試驗場，日軍在侵華戰爭中使用的化學毒劑大致可分14類，百餘種。主要有以下幾大類：
一、糜爛性毒劑，包括芥子氣和魯易氏氣。這種毒氣對人體的傷害是造成皮膚和肺部嚴重潰爛。 為了保密起見，日軍把芥子氣毒劑標註為「黃一號」，當中又根據製造工藝的不同區分為甲、乙、丙型號，把用芥子氣製造的化學炮彈稱為「黃彈」，外面塗以黃色標識。 二、光氣，這是一種窒息性毒劑。日軍將其命名為「青一號」，外面塗以藍色的標識。 氫氰酸，又稱「氰化氫」、「氰酸」，是造成人體全身性中毒的毒劑，毒性最強，被命名為「茶一號」，外面塗以茶色標識。
三、催淚性毒劑，是通過刺激人體眼、鼻、口腔等黏膜而使人流淚的一種毒劑，被命名為「綠一號」，外面塗以綠色標識。
四、噴嚏性毒劑，又稱為「嘔吐性毒劑」，主要是以二苯氫砷為代表，被命名為「赤劑」，用這種毒劑製造的武器被命名為「赤彈」或「赤筒」。赤彈和赤筒區別只在於前者是把毒劑填充到炮彈中，後者是把毒劑填充到金屬罐中。
從1941年到1945年，日本軍隊製造的各種化學毒劑數量超過7400噸，其中噴嚏（嘔吐）性毒劑和糜爛性毒劑在侵華戰爭爆發後被大量用於中國戰場。 根據上述毒劑，日軍分別製造了各種毒氣炸彈、毒氣筒、毒氣投射機、撒毒車、撒毒器、毒氣噴射器、毒氣彈等武器。
日軍的侵略行徑遭到了我國軍民的強力抵抗，在進攻受阻時，日本就會滅絕人性地使用化學毒劑。在1937年進攻南京時，第10軍甚至提出了包圍南京後用「芥子氣彈、燃燒彈等對南京進行徹底的連續一周的轟炸，使南京成為廢墟」的作戰方案。
由於中國軍隊防化手段十分落後，日軍在中國戰場上初期試驗性的化學戰取得了很好的戰略效果。隨著中國軍民更加頑強的抗擊，陣地戰的爭奪更加激烈，日軍對化學武器的使用範圍和規模逐漸擴大。
每每在作戰的關鍵時刻，即圍攻堅固的中方陣地、突圍、掩護撤退時使用化學武器。1938年臺兒莊戰役、安慶戰役、徐州會戰、武漢會戰中日軍都大規模的使用毒氣，毒氣的毒性也逐步升級，從使用催淚性毒劑發展到使用嘔吐性毒劑，甚至於使用糜爛性毒劑及芥子氣和魯易氏氣。僅在9月間，就使用毒氣60餘次，平均每天2次。
1939年4月，在河北河間戰鬥中，日軍一個聯隊被我八路軍全殲，為了挽回敗局，日軍施放毒氣，造成我軍官兵500多人中毒，師長賀龍及旅長王震也中毒負傷。百團大戰時，日軍每於作戰不利時就施放毒氣，前後共達11次之多。
由於地道戰給日軍以沉重的打擊，日軍開始「掃蕩」冀中，其中一個重要內容即是尋找機會在地道中使用毒氣。在定縣北疃村，日軍一次性用毒氣殺害了手無寸鐵的800餘名平民，造成了著名的「北疃慘案」。同樣在河北井陘縣，日軍對藏匿在黑水坪村附近山洞的村民施放毒氣，致使男女老幼150多人全部被毒死，只有1人倖免。
1945年，日軍敗局已定，日軍最高統帥部下達了將未來得及使用的化學武器「秘密處理」的命令，日軍在驚慌失措中，將大量毒氣彈遺留在中國，特別是東北地區，形成了多個日軍毒彈遺存現場。
1997年，中日兩國作為締約國同時加入聯合國《禁止化學武器公約》。1999年7月，中日兩國正式籤署《關於銷毀中國境內日本遺棄化學武器備忘錄》，日方承諾在10年之內即2007年4月前銷毀遺棄在華的化學武器。但至今仍未完全處理完成。