受普鲁士军事传统影响的曼施坦因曾经对纳粹當干预军队事务表示不满，后来在1938年2月初受弗立契奇事件牵连而被免去副总参谋长职务，调任莱比锡第18步兵师师长。1938年9月，在德军侵占捷克斯洛伐克过程中.出任勒布指挥的第12集团军的参谋长。
1939年9月，德国实施“白色计划”，闪击波兰。曼施坦因在波兰战争中担任德国南方集团军群(司令为龙德斯泰特)司令部参谋长。10月，曼施坦因调任西线新编组的A集团军群(司令为龙德斯泰特)司令部参谋长。波兰战争结束之后，希特勒就开始策划进攻西欧诸国。1939年10月19日和29日，陆军总司令部根据10月9日的希特勒指令而制订颁发的“黄色计划”。
曼施坦因在深入研究黄色计划的内容和全面分析作战双方的情况之后，认为黄色计划有模仿“施利芬计划”之嫌，难以出奇制胜，故而主张：西线攻势的目标应该是在陆地寻求决战；攻击的重点应该放在A集团军群方面而不应放在B集团军群方面，A集团军群应从地形复杂却能出敌不意的阿登地区实施主攻，挥师直指索姆河下游，这样才能全歼比利时的盟军右翼，并为在法国境内赢得最后胜利奠定基础；A集团军群的兵力应由2个集团军增到3个集团军，此外还需增加强大的装甲部队。此即著名的“曼施坦因计划”的要旨。曼施坦因的主张得到A集团军群司令龙德斯泰特的赞同。从1939年10月到1940年1月，A集团军群司令部先后以备忘录的形式6次向陆军总司令部提出上述建议，仍未得到同意。
也许是陆军总司令部对曼施坦因一再要求改变作战计划感到厌烦，1940年1月27日，曼施坦因奉命离开集团军群司令部，出任新组建的第38军军长。然而曼施坦因感到幸运的是，在希特勒的副官施蒙特的帮助下，于2月17日得以当面向希特勒陈述意见，并得到希特勒的完全同意。2月20日，陆军总司令部颁发包含曼施坦因建议的作战计划。结果，德军在战争发起后的6个星期内横扫西欧诸国，大败盟军。
1940年6月5日起．曼施坦因率部发起进攻，快速渡过索姆河和塞纳河，直抵卢瓦尔河。如此快速的进攻，连德军装甲部队亦感到惊奇。6月，曼施坦因晋升为二级步兵上将。7月，获得骑士十字勋章。
1941年6月22日，纳粹德国发动侵苏战争。北方集团军群的任务是先向东普鲁士前进以歼灭波罗的海地区的苏军，然后再向列宁格勒前进。战争伊始，勒布的北方集团军群就突破了苏联西北方面军的防线。曼施坦因部奉命从梅梅尔以北和提尔斯特以东的森林地区向东突破以达到德温斯克的大路，于6月26日攻占德维纳河上的公路桥和铁路桥，致使苏军损失70辆坦克和许多火炮。曼施坦因对此颇为得意。9月12日，曼施坦因被调往南方集团军群，出任第11集团军司令并兼管罗马尼亚第3集团军。曼施坦因的任务是向两个不同的方向进攻：一方面，沿亚速海北岸大致向罗斯托夫方面前进，以继续追击东撤的苏军；一方面，同时应优先考虑攻占克里米亚，以积极影响土耳其并解除罗马尼亚油田可能遭受的空中威胁。但是，因为兵力有限和地形复杂，曼施坦因认为同时完成上述两项任务是不可能的。那么，两项任务是同时执行还是安排先后顺序呢?这个本应由最高统帅部决定的问题，现在是由集团军司令曼施坦因决定的，首先集中力量攻占克里米亚。在经过彼列科普地峡和亚速海两个方向的作战之后，德国最高统帅部似乎也认识到仅凭1个集团军无法同时在两个方向作战，遂命令曼施坦因专门担负征服克里米亚的任务。10月31日，曼施坦因攻战阿尔马，被分为两段的苏军分别撤往刻赤半岛和塞瓦斯托波尔要塞。曼施坦因于11月16日占领刻赤半岛，12月17日开始进攻塞瓦斯托波尔。由于苏军的顽强抵抗，德军攻而未克，损失惨重。12月26日，苏军在该地区发动反攻，在刻赤半岛登陆作战，迫使守岛德军撤离刻赤(德国第42装甲军军长施波奈克因此被撤职)。1942年元旦，曼施坦因晋升为一级上将。1月15日，曼施坦因被迫集中3个半师的兵力再次攻占刻赤半岛的菲奥多亚港。苏军随后发动数次反攻，均被曼施坦因击退。4月中旬，曼施坦因晋见希特勒，就他拟订的今后进攻计划进行磋商。希特勒同意曼施坦因的计划：该部先攻占刻赤，再攻克塞瓦斯托波尔，然后横渡刻赤海峡，进入库班，截击从顿河下游退往高加索的苏军。5月8日，曼施坦因在德国空军的火力支援下，以6个德国师和3个罗马尼亚师的兵力突破苏联克里米亚方面军的刻赤防线。5月15日，曼施坦因以伤亡7500人的代价攻入刻赤，俘虏苏军17万人。6月7日，曼施坦因再次发起对塞瓦斯托波尔要塞的进攻。7月4日，德军在损失2万余人后俘虏苏军9万人。德军在克里米亚半岛的重大胜利，使曼施坦因名噪一时。就在7月，曼施坦因被希特勒晋升为元帅。
