二戰時，世界上包括中國在內的許多國家的編制通常為班、排、連、營、團、旅、師、軍。而日軍別出心裁搞了一個不一樣的編制，它的體系為分隊、小隊、中隊、大隊、聯隊、旅團、師團。可別輕易地把日軍的編制和我國的編制混為一談。
日軍的編制在結構和規模上顯得與眾不同。比如當時國軍師一級的標準規模普遍在一萬人左右，而日軍的師團一級規模參考了一戰時美軍的編制，規模和火力的配備上都很強大，一個師團的人數都將近三萬人了。所以在抗戰中日軍的一個師團就相當於國軍的一個軍。
抗戰時，由於日軍注重佔領水陸交通線，在進攻時為了與國軍在戰線上保持兵力上的平衡。通常在後方留一個旅團休整，然後用師團直屬炮兵配合一個聯隊進攻，另一個聯隊防守炮兵陣地。
國軍以營為最小的防禦單位，在面對日軍一個加強聯隊進攻時，基本扛不住。周圍的其它部隊又不敢把部隊分開。日軍空中有偵察機，國軍又害怕日軍另一個聯隊進攻，不敢進行增援，即便有增援的營，也起不到太大的作用。
所以當日軍破口後，把另一個聯隊插入國軍的防禦戰，切斷其後路，被打殘的聯隊死守炮兵陣地，等待日軍後方休整的旅團前來合圍。消極的防守和日軍的作戰迅速，國軍通常只能放棄防線，日軍通過飛機轟炸和地面部隊的分割包圍，導致國軍在撤退的過程中損失慘重。
日軍的分隊相當於國軍的班，為日軍編制中最小的戰鬥單位。通常三個分隊加小隊部為一個小隊，相當於國軍的排。日軍的中隊規模要比國軍的連大，通常在180人左右，通過加強後的少數中隊有可能配有重機槍甚至迫擊炮等。中隊之上的大隊規模相當於國軍一個小團，人數在1100人左右，有三到四個步兵中隊，一個機槍中隊，一個炮兵小隊或中隊。
步兵聯隊下轄三個步兵大隊，一個炮兵中隊，還有運輸隊等直屬部隊。聯隊為日軍單一兵種最大的作戰單位。旅團是侵華戰爭中的編制，根據戰爭的變化各個階段都不同，大約在3000到8000人，下轄有兩個步兵聯隊。
旅團過了就是師團，是日軍中的戰術兵團。1888年，日本原有的六個按地域劃分的鎮臺改稱師團。序號從第一師團到第六師團。1891年又成立了近衛師團。
師團下轄兩個旅團、四個步兵聯隊，還有工兵、炮兵、輜重兵、騎兵等聯隊。日本把這七個最先成立的師團視為第一等部隊。在後來的日俄戰爭中又相繼成立了好幾個師團。最後保留了十七個作為日軍戰前的常備師團。
隨著日本侵略野心的膨脹和戰爭的需求，日軍的師團也從最初的十七個擴大到兩三百個。分為甲、乙、丙、丁四等。
甲類師團是日軍永久的常備軍，裝備精良。人數將近三萬人。共有十七個。除了近衛師團，其他十六個都參加過侵華戰爭。後來大量被調往太平洋戰場、東南亞戰場與美軍作戰。
乙類師團是日軍的支援作戰師團，戰鬥力僅次於甲類師團。隨著太平洋戰爭的爆發，大量的精銳師團被調往太平洋戰場、東南亞戰場。這時候乙類師團開始挑大梁。戰爭結束後，曾有70個乙類師團在中國戰場向國軍投降，另有20個調往太平洋戰場和東南亞戰場與美軍作戰。
丙類師團戰鬥力比較弱，大多數為新兵，缺乏炮兵和騎兵，只能擔任守備任務。抗戰進入相持階段，敵後遊擊戰發展迅速。日本帝國主義的兵力消耗極大，於1942年組建了丙類師團。戰爭結束後，有超過30個丙類師團向國軍投降。師團番號在110師團到300師團以內。
丁類師團的番號在110師團到300師團以外，戰鬥力弱。主要被用於掃蕩和治安戰。戰爭結束時有超過20個丁類師團向我軍投降。
其實遊擊戰在抗戰期間所起到的作用也是很大的，雖然比起正面戰場上的大會戰，規模太小。但根據曾在日軍華北方面軍參謀部任職的加登幸太郎的回憶：「整個方面軍一天平均死傷50名。50名雖不多，但一年就有18000人離開戰列，是大消耗戰」。遊擊戰積少成多，一年下來幾乎都快要消滅日軍一個師團了。相當於正面戰場上大會戰的斃敵人數。可見遊擊戰爭的威力是相當大的。