日本從日俄戰争勝利之後，日軍上層就陷于海陸軍的激烈矛盾之中。在戰略制定和軍備發展問題上，一直有“海主陸從”和“陸主海從”的争執，反映在戰略上就是“南進”與“北進”的争執。反映在軍備建設上，日本海軍的裝備是當時世界上最先進的，但是日本陸軍的裝備卻比西方先進國家差。與此相反，德國的陸軍裝備非常先進，但是德國的海軍卻非常薄弱，無法和英國海軍較量。
一、步兵輕武器
二戰時日本軍隊的單兵裝備遠低于美國和德國，主要步兵輕武器還是三八式步槍，而美軍、德軍和蘇軍都是沖鋒槍和突擊步槍。這主要是因爲日本窮，雖然和當時的中國比，小日本可能夠強大了，可和其他歐美列強比，實在就差遠了。日本軍工并不發達，尤其是陸軍裝備十分落後，輕武器甚至不如國軍嫡系部隊的歐洲貨。日本落後的裝備使日軍在張鼓峰和哈勒欣河戰役中面對蘇聯機械化部隊的打擊占盡劣勢，參戰部隊損失率超過50%，一些部隊的損失超過80%。日本直到戰争後期才有一支海軍陸戰隊裝備了百式沖鋒槍，還是實驗性質的。實驗得出的結論是日本不适合裝備沖鋒槍，所以一直沒有将沖鋒槍列爲步兵标準武器。其原因有二：1）日軍戰術嚴重落後，還認爲步槍打的準，所以甯可保證步槍和彈藥的質量（其實連這個也沒有做到），也不浪費資源造沖鋒槍（沖鋒槍對彈藥的需求量遠遠超過步槍，而且不及步槍準）。2）日本工業生産力有限，無法大量的制造沖鋒槍和彈藥。和日軍正好相反的是蘇軍，蘇軍二戰時的沖鋒槍産量最高，使用最廣泛，前線的步兵幾乎都放棄了步槍而改用沖鋒槍。原因也很簡單，蘇軍對德作戰是靠人海戰術和武器數量優勢，需要不間斷的用新兵補充戰場損失。所以蘇軍士兵接受的訓練很短，不可能去花時間練習槍法。沖鋒槍要比步槍好用多了，也不講究标準設計，非常适合蘇聯人的戰術。
日軍二戰時陸軍單兵裝備大至如下：
士兵：6．5毫米38式步槍，30式刺刀，94甲水壺，前後盒彈匣（120發子彈），鋼盔等。
将校：94式手槍，望遠鏡，軍刀，地圖囊，将校水壺。
日軍還有一種特殊裝備—89式擲彈筒，這是一種類似微型迫擊炮的東西，其結構是一節底部封閉的圓筒後接一段鋼管用于握持，鋼管底部再鉸接一底座，類似迫擊炮的座钣，發射微型榴彈，無支架及瞄準具。可以用來填補迫擊炮與手榴彈之間的支援火力空白，威力不比手榴彈強多少。與槍榴彈相比不占據步槍槍口，但相對槍挂榴彈發射器并無任何優勢，作爲一種單兵面殺傷武器，曾普遍裝備一線部隊。
二、日本陸軍的作戰編制
日軍的基本單位是師團，它有多種編制。在抗戰爆發時，日軍有十七個常設師團是日軍的常備軍，番号依次爲近衛、一至二十（内欠十三、十五、十七、十八師團）。編制爲四單位制，即師團下轄二個旅團，旅團下轄二個步兵聯隊，步兵聯隊轄有三個步兵大隊，大隊下轄四個步兵中隊、一個機槍中隊（八挺重機槍）、一個大隊炮小隊（二門70mm步兵炮），步兵中隊轄三個步兵小隊，小隊轄一個機槍組（二挺輕機槍）、一個擲彈筒組（二個擲彈筒）和二個步槍組。師團還轄有一個炮兵聯隊、一個辎重聯隊、一個工兵聯隊、一個騎兵聯隊（四個騎兵中隊與一個機槍中隊）以及其他部隊。此時的師團分爲兩種，一是馱馬制，炮兵聯隊轄有四個大隊（三十六門75mm山炮與十二門75mm野炮），步兵聯隊轄有一個聯隊炮中隊（四門山炮）、一個步兵炮中隊（四門步兵炮），總編制爲28500人。一是挽馬制，炮兵聯隊有三十六門野炮與十二門120mm榴彈炮，步兵聯隊轄有一個聯隊炮中隊與一個速射炮中隊（37mm速射炮四門），總編制爲25000人。此外還有以下一些獨立的特種兵部隊：騎兵旅團（轄二個騎兵聯隊與一個騎炮兵聯隊、一個裝甲車隊）、坦克聯隊、獨立工兵聯隊、獨立野炮聯隊（三十六門120mm榴彈炮與十二門75mm野炮）、獨立野戰重炮兵聯隊（二十四門150mm重榴彈炮）、野戰重炮兵聯隊（十六門100mm加農炮）、獨立重炮兵大隊（八門150mm加農炮）、迫擊炮大隊（中型迫擊炮三十六門）、獨立山炮兵聯隊、電訊聯隊、鐵道聯隊等等。
抗戰爆發後，日軍又重新組建了十三、十八兩個新編常設師團，又組建了一批特設師團。所謂的特設師團是指由常設師團的預備役人員所組成的部隊，其番号爲常設師團、聯隊的番号前加一百。其編制大體與常設師團相同，隻是騎兵聯隊變爲騎兵大隊（二個騎兵中隊與一個機槍小隊），挽馬制師團的炮兵聯隊爲三十六門野炮與十二門山炮。特設的馱馬制師團人數爲28200人、挽馬制爲24400人。同時在做戰時日軍給各師團配屬特種兵及補充人員等，可使一個師團指揮的人馬達四萬人以上
在侵華戰争中，由于作戰消耗，同時日軍感到四聯隊制師團行動不便，又搞出了三單位制師團與獨立混成旅團兩種編制。三單位制師團的編制爲師下轄一個步兵團，步兵團下轄三個步兵聯隊，聯隊下轄三個步兵大隊與一個步兵炮中隊（四門步兵炮）。步兵大隊無大隊炮小隊，炮兵聯隊爲二十四門山炮或野炮，騎兵聯隊改爲搜索聯隊，其他如辎重、工兵等後勤部隊也大爲減少，編制人數爲12800人。獨立混成旅團轄五個步兵大隊與一個炮兵隊、通訊隊、工兵隊、辎重隊等，總人數約5000人。步兵大隊轄三個步兵中隊與一個機槍中隊（四挺重機槍）、炮兵隊轄一個山炮中隊與二個野炮中隊。這兩種部隊都是主要做爲守備用途的，同時具有小規模的野戰能力。
到了武漢戰役結束之後、由于戰場的擴大與戰争消耗，日軍越來越多将三單位制師團與獨立混成旅團投入了第一線。因此、日軍進行了編制上的調整，将三單位制師團的後勤部隊予以補充，使總人數達到了1.5-1.7萬人。獨立混成旅團的步兵大隊改爲轄四個步兵中隊與一個機槍中隊，總人數達6000-7000人。該編制僅限于一線部隊，守備部隊仍爲原編制。另外又開始将四單位制師團改爲三單位制。
太平洋戰争爆發之後、日軍又編組了兩旅團制師團。師團下轄兩個步兵旅團，旅團轄四個步兵大隊、步兵大隊轄四個步兵中隊與一個機槍中隊（八挺重機槍）。師團無炮兵、僅直轄工兵隊、辎重隊與通訊隊，總人數爲11980人。
到了一九四四年、日軍又将師團分爲甲乙丙三種（此時己無四單位制師團了）。甲種師團有兩類、一類爲原有的常設師團、總人數爲2.1萬人，擁有三十六門75mm山炮或野炮。一類爲原有的特設師團與三單位制師團，總人數爲1.8萬人。乙種師團也是三單位制師團、隻是沒有炮兵聯隊與騎兵（搜索）聯隊，總人數爲1.4萬人。丙種師團即兩旅團制師團。同時、日軍又出現了獨立警備隊與獨立步兵旅團兩種編制。獨立步兵旅團的編制與兩旅團制師團所轄的步兵旅團相同，人數爲5100人。獨立警備隊下轄六個步兵大隊、大隊下轄三個步兵中隊與一個機槍中隊（四挺重機槍），無特種兵（在此處、特種兵指步兵以外的其他兵種），總人數爲4900人。
一九四五年、日軍對兵力編制做了最後一次調整、大緻有以下幾點、1、給丙種師團的步兵大隊增編一個步兵炮中隊。2、将獨立混成旅團的步兵大隊改爲轄有四個步兵中隊、一個機槍中隊與一個步兵炮中隊，人數達1500人的大編制。旅團炮兵則轄有六門野炮與十二門山炮，同時其工兵、辎重部隊也予以擴編，使其總人數達8000人以上。3、編組了丁種師團，其編制大體與丙種師團同，但無特種兵。其步兵大隊的機槍中隊隻有四挺重機槍，步兵小隊僅有一挺輕機槍與一個擲彈筒。
以上就是抗戰時期日軍編制的全部情況了。
三、裝甲部隊
日軍由于當時上層思維模式的束縛，對于軍隊的機械化認識不夠，看不到坦克戰術對戰争的影響，所以機械化進程遠不如歐洲各國。日軍裝備的坦克是輕型坦克，隻是在太平洋戰争的最後時刻才研制真正的中型坦克—4型坦克。最初日軍的坦克型号是89式，用于我國喜峰口戰役，以後被很快的淘汰了，89式是日軍第一種坦克。95，97輕型坦克（号稱中型坦克而已）隻是懸挂不同。94輕型偵察坦克、95式、97式是日軍在二戰的主要坦克裝備，就是現在的影片中經常露面的那些坦克，橫掃東南亞的日軍坦克也是它們。日軍最好的97式，還是停留在鉚接車體，小口徑47mm短炮的基礎上，大概與t26，ii式，iii式坦克一個級别。
日軍要稱機械化還差得遠，光是有戰車不算，還要看其它車輛的配屬。日本部隊連一般卡車都不多，更不要提其它輪型或履帶載具。初期的日本戰車炮連近至100公尺數台齊發都不能擊穿美國m3輕戰車的正面裝甲，火力之差由此可見。末期的炮雖然可以擊穿，不過老美也有m4了。日軍當時有四個戰車師團的建制，其中兩個隸屬侵略東南亞的南方軍，一個配置給滿州的關東軍，最後一個駐守本土，侵華派遣軍一個都沒有。太平洋戰争後期美軍侵占菲律賓的戰役中，日軍在馬尼拉郊區使用坦克師團與美軍m4戰車交火，200輛97式被擊毀達到180輛，完全失去戰鬥力。
日本不研制重型坦克的原因，也和不裝備沖鋒槍的理由相似：國力貧弱。對比美國的2000萬噸和德國1800萬噸的鋼産量，日本每年隻能出産區區400萬噸劣質鋼，并且大多數鋼鐵和軍費用來建設海軍，以至日本的所謂裝甲部隊，在裝備落後的中國步兵面前耀武揚威，但在諾門坎和密支那，在裝備精良的蘇軍和中國駐印軍裝甲部隊面前，簡直不堪一擊。
日軍的師團主要是以步兵爲主，坦克是按需要臨時配置。在二戰中，日軍沒有集中使用坦克的例子，在同蘇聯的兩次作戰時也是這樣的，所以會被朱可夫大敗于偌門坎。在昆侖關一役，日軍是距險而守，而不是真正意義上的坦克戰役。日軍在二戰時還沉湎于日俄戰争時期的肉彈戰術，所以不難想象爲什麽日軍會在太平洋戰争時期會有各種自殺攻擊形式了。在這個前提下，部隊的機械化就是天方夜談了。所以，日軍在二戰期間實際上還是停留在一戰的地步，盡管他們的裝備比1914年要好得多。日軍由于沒有專門的舟橋部隊，所以對于一些重裝備的及時投入戰鬥是有影響的。