他陷入了两种磨难之间：一方面，他看到资源贫乏的日本不仅要与美国，而且还要和中、英、荷，也许还和苏联同时作战的暗淡前景；另一方面，他要承担作为联合舰队司令长官必须执行的职责的压力。为了取得印尼的石油，向南方作战，必须避免美国太平洋舰队从夏威夷出发打击日本的侧腹，还需要把美国太平洋舰队阻挡在南方水域之外，至少在头几个关键月份中应做到这一点。如何才能办得到呢？自山本登上"长门"号之后，他就在苦苦思索这个问题。
山本认为，依靠海军历来对美作战的正统的战略思想，是不可能完成上述任务的。长期以来，日本海军奉行的是以日俄对马海战为依据的大炮巨舰主义的舰队决战战略，坚持以战列舰为核心的传统作战方式。自从1905年日本海军大将东乡平八郎在日本海大海战中大胜沙俄舰队以来，日本海军就充满着海上争霸思想，并把美国视为其在西太平洋争夺海上霸权的主要敌人。日俄战争以后，日本在1907年制订的《帝国国防方针》和《帝国用兵纲要》就提出了建设"八八舰队"、确定对美采取截击作战的战略方针。所谓截击作战，就是基本原封不动地采用在对马海战中截击歼灭沙俄波罗的海舰队的东乡战略，即以战列舰为主力的联合舰队利用地理条件以逸待劳，伺机同美国海军主力进行决战并加以歼灭。以后虽几经修改，但其基本方针未变。在1936年修订的《帝国用兵纲要》中规定：一旦日美开战，陆海军首先协同攻占菲律宾和关岛，迫使美舰队远渡重洋进至西太平洋实施进攻作战，"我则把前卫线推移到马绍尔群岛一线，使主力舰队在小笠原群岛和马里亚纳群岛一带求敌决战。"
日本的海军将领们把未来事件的进程看成是这样：一支强大的美国舰队向西挺进，长途跋涉远道而来。这时，日本以南洋各群岛为基地，用潜艇和陆基飞机不断削弱美国舰队的力量，待其实力削弱到大体和日本舰队的实力相匹敌或弱于日本舰队时，以战列舰为核心的日本舰队进入有利的战略位置，寻机与之决战；双方都横过空阔的洋面，把各自的舰隻排成战斗序列，打出所有的炮弹，当硝烟和火光散去之后，日本的胜利将自然浮现出来，美国的钢铁巨兽将一隻跟一隻地凄凉地瘸着脚朝家逃窜，或者舰首向上，如同向大海行死亡前的敬礼，然后永远消失。
在山本看来，这种战略思想是一厢情愿的，不过是军令部的那些年轻参谋脱离实际的纸上谈兵而已。战争一旦爆发，除侥倖外，谁也不会相信战争会按着这个模式发展下去。山本的好友掘涕吉在战后整理的《五峰录》中总结山本的看法时说：不论是海军大学所进行的沙盘演习，还是军令部所提出的对美作战的战略计划，实际上都是脱离实际的主观臆断，是主观主义的产物。以军令部的作战计划而论，如前所述，概括起来包括这样四点内容：一、日本主动攻下菲律宾；二、迫使或诱惑美国舰队前来救援；三、在马里亚纳群岛一带逐步削弱敌舰队的力量；四、进行舰队决战，一举全歼前来之敌。这纯属用想当然代替现实的概念游戏。是把敌人的行动规范在自己想像之中的脱离实际的主观臆断，不过是一厢情愿而已。既然如此，那么对于保证日本侧翼不受美舰队干扰，同时又要把主力用于南方战役的课题，山本就必须找到有效的答案。
1940年3月，联合舰队举行演习。山本站在当作靶舰的战列舰上观看航空部队在统一指挥下进行白天鱼雷攻击演习。
长机率领着成群飞机，越过战舰的密集炮火，向下俯衝，鱼雷从战舰的桅杆掠过，划出一道白光，接连向舰腹衝去。演习用的鱼雷是不会爆炸的，当撞上舰体后，鱼雷即浮上水面冒出白烟，演习完毕后可再收回。山本看到这一情景，心里十分高兴，他情不自禁地向站在身旁的参谋长福留繁少将问道："参谋长，能不能用飞机攻进夏威夷？"
福留中等身材，结实，有着肥厚的胸膛和健壮的肩膀。这位海军大学的优等生，是一名不折不扣的舰炮专家。美作家高尔登·普朗格在他的名着《我们沉睡在黎明》中这样描写他："他的头脑不像山本那样突然爆出主意，许多主意在他头脑中像植物生长那样慢慢地成熟。""他支持向南扩张，但他缺乏山本那种先知先觉的睿智、个性和训练。"此刻，他正疑惑不解地看着山本，像在听天书。
的确，夏威夷距离日本有3000海里之遥，若要击溃夏威夷的美国太平洋舰队，就得牺牲大量的机动舰队，在袭击之前，如被对方巡逻机发现，反有被歼灭的危险。把仅有的航空母舰投入具有赌博性的战争，值得吗？
两个月后，5月7日，在东太平洋举行大规模演习的美国太平洋舰队，没有像往年那样演习后返回西海岸，而是接到了就地停泊于珍珠港的命令。美国总统罗斯福想利用太平洋舰队进驻夏威夷对日本施加压力，以遏制日本的南进。
可是，罗斯福自己却没有想到，恰恰是他的这一行动激发了在大洋另一端的山本五十六袭击珍珠港的决心。
1940年11月，山本和他的同届同学吉田善吾、岛田繁太郎同时晋升为海军大将。海军军阶达到顶点的山本更加卖命。同月，为响应政府南进的号召，他率联合舰队进行进攻荷属东印度的图上演习。在演习过程中，山本更加