日军最小的战术单位是分队，相当于天朝军队的班和北洋军的棚。每个分队人，包括分队长、4名机枪射手和名步枪兵。有轻机枪一挺，编制四人（组长、射手、两名携弹药的副射手），这四人配备自卫手枪，在战斗中有时也携带步枪（机枪射手除外）；名步枪兵，每人一支单发步枪。特别加强的部队中，加强班会多配置一个两人携带的掷弹筒（由排掷弹筒班，拆解一个组，支援到班）。
日军的一个小队，稍稍大于天朝军队的排和北洋军的排，一般由人小队部、三个人分队和一个装备三个掷弹筒的人掷弹筒分队构成，共4人。加强配置时，每个分队人，加强一个掷弹筒，整个小队人（把其它排的掷弹筒班，支援过来）。而为了应付天朝的游击战，日军还曾有另一种小队编制：每小队个分队，每分队人，只有个分队配置机枪，加正副排长，全小队人。
日军的一个步兵中队比起天朝军队的一个连就已经大出不少了，相当于北洋军的“队”。包括一个人的中队部：有中队长，执行官，个军士，4个卫生员，军官的勤务兵，司号员，个通信员；个4人的小队。共人，步枪支，轻机枪挺，掷弹筒具。有时会加强-4挺重机枪甚至-门迫击炮或九二步兵炮（由营拆解支援到连）。
日军一个人编制的大队是中队之上的编制，与同期的天朝军队相比，它远大于一个营，但又明显小于一个团，处于营团两级之间，相当于北洋军的营。日军的大队包括人的大队部，一个人的运输中队（有大车和骡马），有的大队将所属的运输中队合并到更上一级的联队里。四个步兵中队（一些大队只有个）；一个机枪中队（除了一般的步兵中队外，日军还有机枪中队的编制，有4人的中队部和个机枪小队和个弹药小队，每个小队4挺重机枪，共挺，4人。）；一个人的炮小队（个人的小队部，个人的弹药分队，两个人的炮分队各装备门毫米九二步兵炮），极少的部队配备一个人的炮中队（包括一个人的弹药小队，两个人的炮小队各装备门步兵炮）。在这些少量的炮中队