在这种形势下，为保卫人民抗战胜利成果，组织军队连续发起消灭拒降日伪军的作战，先后解放了淮阴、淮安、盐城，高邮成了华中腹地最后一个日伪军拒绝投降的城市。

此时，高邮城内驻有日军独立混成第九十旅团两个大队和一个炮兵中队共一千一百余人，还有伪第二方面军第四十二师及伪县保安大队、警察大队五千余人。

高邮以南的邵伯驻有日军、伪军，高邮邵伯之间的车逻坝也驻有伪军。十二月上旬，老蒋部下的国民政府军队第二十五军进占扬州后，命令高邮日伪军不得擅自弃城，企图利用高邮的日伪军配合徐州的军向华中解放区进犯。

高邮位于华中解放区南线，地处京杭大运河东岸，南控扬州、北扼两淮，是苏中连接苏北的水陆交通要道。高邮城四周为湖泊河流所环抱，城墙又高又厚，工事坚固。

日本投降后，在国民党顽固派的支持纵容下，日伪军征用了24万民工，又在高邮城外筑起一道长10公里的坚固城垣，修筑了大量炮楼、碉堡，以便孤注一掷加强守备。日伪军自恃城池坚固，粮草充足，有国民党撑腰后，日伪军非常骄横，对组织军队送去的要其投降的通牒置之不理，还扬言“北攻宝应，收复失地”。

高邮是国民党军沿运河北上攻击华中解放区领导机关驻地两淮(淮阴、淮安)的必经之地。当时老蒋军声称，运河是道大门，高邮是把大锁，只要占领高邮，就等于打开了大门之锁，就可以长驱直捣两淮，置组织于死地。

老蒋积极调兵遣将，企图利用日伪军固守高邮，以此为跳板进犯华中解放区。面对此情，时任华中军区副司令员兼华中野战军司令员先后三次向军委和军部建议进行高邮战役。

第一次建议发出后，军委复电同意，华中军区和华中野战军进行了周密部署并投入了紧张的战前准备。第二次建议认为，日伪军拒不缴械投降，我军攻城歼敌，师出有名。

在兵力部署上，集中第七、第八纵队先打高邮和邵伯，第二次建议又获新四军军部批准。弓已在手，箭已上弦，然情况突变，华中主力奉命北调，返津浦路方向开展破击战。

司令员手持电令心急如焚，第三次起草长达千言的电报，据实陈述，详析利弊，再次建议先组织高邮战役。军部收到粟电后，终于接受了司令员的建议并组织实施。

根据地的各界和政府给予野战军以大力支持，专门成立了支前总后勤部，帮助部队安排生活，提供物资，运送弹药，组织担架救护队，仅高邮县就调集了一万五千余民工，五百只民船，帮助部队运送粮食和弹药等物资，还组织了三千余名民兵配合作战。

战役分两个阶段进行：第一阶段，收复邵伯，肃清高邮外围并围困高邮;第二阶段，总攻高邮，坚决打援并全歼守敌。

十二月十九日夜，新四军各参战部队和地方武装在南北四十公里、东西二十公里的战场上向日伪军同时发起进攻。

华中野战军攻城部队悄悄进入指定地点。七点整，司令员下达了攻击命令，第七、第八纵队及军区参战部队共十五个团在南北八十里、东西四十里的战场上，同时向高邮城外围据点展开了猛烈地攻击。

司令员亲自部署指挥战斗，采取“围三阙一”的战法，集中火力、兵力从东、西、西北三个方向分三路同时进攻，诱使日军向南突围进行围歼。

到二十日中午，高邮城外围据点除东门宝塔外，均被第八纵队扫除。高邮城已处于新四军的包围之中，日伪军龟缩城里负隅顽抗，城楼上的警戒大部分换上了日军士兵，并不断加固城防工事。

二十一日，姬鹏飞指挥的第七纵队也攻克了高邮南面六十六里的敌伪重镇邵伯，歼敌近千人，切断了日伪军南逃退路，并沿邵伯、丁沟之线构成对扬州、泰州国民党军的防御。

同日，第八纵队在扫除高邮外围据点后，直逼城下，一面作攻城准备，一面对日伪军发动了强有力的政治攻势以瓦解日伪军。

战斗中，司令员一直坐镇前线指挥所，当军队突进邵伯街，消灭了伪军，把日军压缩在镇北据点内时，他随即带领参谋人员进入邵伯街直接指挥，集中兵力、火力，从北、东、西三面进攻。

日军支撑不住，拼命向南突围，进入预伏的堵截范围，很快被歼灭。扬泰线外围战斗共拔除日伪据点十六处，歼灭日军一百多人，伪军四千余人，切断了出援之敌的通道。

邵伯战斗结束后，司令员夜赶往高邮，听取高邮外围作战和八纵下一步攻城准备情况汇报。二十二日凌晨，司令员又与八纵司令员陶勇来到高邮城外东北角村子，视察地形并作详细部署。

日军城防城高垣厚，碉堡林立，工事坚固，河道纵横，易守难攻。城东门外地势平坦，城门内是日军司令部驻地，是日军兵力、火力部署的重点所在。

司令员主张釆用声东击西战法，即在城东造成强攻声势，吸引和牵制日军主力，以便军队从城西北方向和南门方向攻击入城，出奇制胜。

为减少攻城伤亡，司令员提出可利用夜晚将交通壕挖近城墙，同时以草袋、麻袋装土，在距城墙数十米、百把米外，将低胸墙工事一律堆成与城墙同高，甚至高过城墙的半月形堡垒，架上机枪，以强大的火力压制城墙上的敌人。