第十二师团又称久留米师团，编组地：久留米。第12师团在1898年被设立，由来自福冈、佐贺、长崎（九州北部，含大分县一部分）的官兵构成的。
福冈从古代就是和中国、朝鲜有相当程度的交流。福冈县人也很开放和富有人情。佐贺县以前是锅岛藩，锅岛藩的武士以对君主的忠诚而闻名。另外有着「佐贺武士走过的地方连草都不长」的谚语（这句谚语在日语中是形容恶贯满盈之人的）。长崎县在幕府晚期与中国和荷兰有着非常广泛的经济和文化上的交流。虽然有接受国际文化的开放性，但是缺乏积极性。
平时编制的第12师团，配属有野战重炮兵旅团（野炮兵连队一个，独立山炮兵连队一个，野战重炮兵连队二个）和重炮兵连队（旧要塞炮兵队）三个、高射炮连队一个、战车连队。作为对中国大陆展开侵略扩张时的重要师团而存在。
日俄战争一爆发，第12师团被编入黑木为桢大将所率领的第1军。日俄战争之后，从1918年8月开始约一年间，第12师团出兵西伯利亚干涉了俄国的革命。
1932年的128上海事变中，师团主力虽没有出动，但是派出了以三个步兵大队、一个山炮大队为基干组成了混成第24旅团（旅团长：下元熊弥少将）于1932年3月前往上海。旅团在上海的吴淞口登陆成功，与在吴淞镇—庙行镇—大场镇一线固守的国军张治中的第5军混战成一团。占领了庙行镇。之后与第九师团（金泽）一起攻下了南翔镇。5月5日，《淞沪停战协定》被签订之后，旅团奉命回国。
1936年4月，日军第十二师团奉命到中国满州驻屯，隶属关东军。1937年中日战争爆发的时候，师团的二线预备役部队组成了日军第18师团。1941年7月小仓大佐的第14联队被编入新设的日军第25师团。在满州期间，第十二师团的主要任务是扫荡当地的抗日游击队。1944年11月，第十二师团被派往台湾。第十二师团是从朝鲜釜山港经海路前往台湾的，途中，载着第十二师团步兵的运输舰中的3艘被美军潜水艇击沉。1945年1月，虽然遭受了一定的损失，第十二师团主力陆续到达台湾，在台湾西海岸担当防卫。就这样，这支生力军在没有和美军交过手的情况下，在台湾无条件投降了。