山本五十六任海军省次官期间，日本侵华战争全面爆发。然而在日本军部内部，对待侵华战争的态度却不一致。一些强硬派认为，中国不堪一击，主张立即解决中国问题。以海军省为代表的人则认为，日本对外扩张的真正敌人是苏美等国，不能把力量消耗在中国大陆。山本五十六就属于后者。据说，他曾经对知心朋友武井大助说：“陆军中的这些混蛋们，果然挑起了战火，简直要把人气疯了。我从此戒烟，直到这次事件结束为止。”他对陆军的反感，经常是公开化的。据说在一次陆海军首脑同时参加的会议上，山本五十六坐在一位陆军将军旁边。会议开始后，这位将军大发议论，山本五十六感到十分乏味，就把他的椅子悄悄往后挪了挪，结果让这位将军扑通一声摔在地上。还有一次，陆军次官东条英机炫耀陆军飞机的性能和战斗力，山本五十六竟尖刻地说：“实在了不起，你们的飞机也能飞了。不过，你可别忘了，有人常说：‘海上的雄鹰，陆上的鸡。’”这句话引得哄堂大笑，只有东条英机和山本五十六本人面无表情。然而，不管山本五十六和海军省如何努力，也无法左右形势的发展，日本政府已决心在华大打一场。从七七事变到1937年年底，不断对华派兵遣将，并以4万多人的代价于年底占领上海。国内外局势日益向着山本五十六意愿相反的方向发展。