淮海战役自1948年11月6日开始，至1949年1月10日结束，共分三个阶段。
第一阶段
1948年9月24日济南失守后，国军总部以为华东野战军需要长时间休整，未能料到华东野战军在济南战役损失不大，能迅速南下进攻徐州，结果大意轻敌。粟裕为迷惑国军，特意在山东开了十几台大功率电台，不停向外发出指令，国军误认为华东野战军主力依然在山东。使徐州剿匪总司令部部署调整、兵力调动也趋缓慢。1948年11月1日中共中央军委决定中原野战军7个纵队，共约15万人，以及部分地方部队与华东野战军共同进行淮海战役，参战兵力达到60万人。实际上，约50万解放军开始从不同方向秘密夜行，在国军不知情下扑向徐州。
徐州剿匪总司令部总司令官刘峙作战无能，故在战斗前，国军布阵极为不利，与解放军作战处于被动及被分割攻击。国军尚未按“徐蚌会战计划”南移，1948年11月5日，刘峙见国军各兵团均已报告在正面发现解放军主力有扑向徐州之势，便遵从蒋介石之意，将徐州周边部队向徐州收缩靠拢，然后再图向淮河一线撤退。命令黄百韬第7兵团、李弥第13兵团退回徐州东郊；经蒙城向蚌埠调动的孙元良第16兵团，经宿县（存在时间1912年-1992年，今安徽省宿州市）北上退回徐州；邱清泉第2兵团退回徐州西郊，死守徐州。1948年11月6日，国军调动华中剿匪总司令部的12兵团进至太和、阜阳地区东援，徐州、蚌埠战场国军兵力增加到70万人。
华东野战军按计划于1948年11月6日夜间发起淮海战役，各部队向预定目标开进，发现国军正在收缩，当即转入追击。黄百韬第7兵团因奉令等海州第9绥靖区的第44军西撤，推迟至7日西开。华东野战军借此延误，追上正在渡大运河的第7兵团，负责殿后之第7兵团第63军、第100军83师被迅速歼灭。黄百韬见势不妙，希望李弥第13兵团协助撤退。李弥拿出刘峙命令，执意按计划回撤，拒绝援助。1948年11月8日，防守运河一线之第3绥靖区四分之三以上之官兵，在中国共产党地下党员、绥靖区副司令官何基沣、张克侠率领下，举行贾汪起义。之后，解放军迅速通过第三绥靖区防区。10日，解放军先头部队、山东兵团主力，歼灭第7兵团西撤之先头师，切断第7兵团退路。第7兵团渡过大运河后，走到碾庄时，第64军军长刘镇湘建议，依靠第13兵团在碾庄留下的军事工事，与解放军大战一场。同时，国防部发来电，称可交战，如能击退敌人再走亦可，这样第7兵团就在碾庄犹豫了一天，最后决定迎战解放军。结果解放军行军速度超出预料，在一日之内，华东野战军三个纵队，就攻占碾庄与徐州之间曹八集等各据点要道，11日，华东野战军将第7兵团合围于碾庄地区。
此时徐州南方战况，由于宿县之孙元良第16兵团北撤徐州，而协防宿县之刘汝明第4绥靖区也向南撤。由于刘峙指挥慌乱，蒋介石决定1948年11月10日把杜聿明调回任徐州剿匪总司令部副总司令兼前进指挥部主任，具体负责指挥作战；同时命令邱清泉第2兵团和李弥第13兵团由徐州向东攻击，为黄百韬第7兵团解围。在蚌埠，以第9绥靖区改组建第6兵团，以第4绥靖区改组建第8兵团，两兵团将协同沿津浦铁路两侧向宿县推进。至此，徐州、蚌埠战场国军兵力增加到80万人，而据《国民党视角下的大决战》，实有兵力50多万。
1948年11月16日，中原野战军攻占张绩武驻防的宿县（存在时间1912年-1992年，今安徽省宿州市），切断了徐州守军向蚌埠之退路。鉴于淮海战役规模越打越大；11月16日中共中央军委决定组成淮海战役总前委统筹华东、中原区事宜，邓小平同志为总前委书记。淮海战役总前委成立后，中原野战军指挥部驻地临涣文昌宫（时属安徽省宿县，今安徽省濉溪县临涣镇），成为淮海战役总前委驻地。蒋介石下令黄维第12兵团及蚌埠之李延年第6兵团、刘汝明第8兵团向北推进，重占宿县。
自11月13日起，徐州国军以邱清泉第2兵团和李弥第13兵团协同攻击全力解第7兵团之围。开始粟裕令华东野战军第7、第10、第11纵队组成阻援兵团，由10纵司令员宋时轮、政委刘培善统一指挥，在侯集、林佟山至大许家地域，实行正面防御阻击徐州国军东援；以苏北兵团各纵队从徐州东南侧击第2、第13兵团增援，在潘塘附近发生激战。在22日第2兵团被华东野战军阻于离碾庄12公里处大许家一线，无法突破。11月19日，华东野战军全力加快对第7兵团的围歼作战，至1948年11月22日，华东野战军将第7兵团10万人全部歼灭，第7兵团司令官黄百韬阵亡。
第二阶段
国军第7兵团被歼灭后，由蚌埠进军的李延年第6兵团、刘汝明第8兵团担心被解放军攻击而拖延北进，造成从华中剿匪总司令部增援向宿县进军的第12兵团（司令官黄维）位置突出、孤立，在解放军的阻击下，这3个兵团无法靠拢徐州打通徐州—蚌埠间联系，战场形势对国军极其不利。第12兵团由蒙城出发渡过涡河，1948年11月21日，第12兵团到达南坪集并渡过浍河，发现解放军有合围之势，于23日夜转向东南方向的固镇转移，企图向李延年第6兵团靠拢。中原野战军集中兵力合围黄维第12兵团。
1948年11月23日，为便于指挥围歼黄维兵团的作战，淮海战役总前委移驻临涣以东15华里、浍河北岸的宿县小李家村（时属安徽省宿县，今安徽省濉溪县韩村镇淮海村）。小李家村是个有三四十户人家的普通小村庄。村周围柏树环绕，郁郁葱葱，比较隐蔽。这里位于徐宿铁路与徐阜公路之间，是敌“南北对进，打通徐蚌，三路大军会合”的预定地点，每天都有几批敌机临空侦察或过往，总前委驻在这里，是敌人意料不到的。据阵中日记记载，总前委偶尔移驻小李家村附近纪家、周殷圩等，尔后又复返小李家村。
1948年11月25日，中原野战军7个纵队将国军第12兵团包围于宿县西南之双堆集（时属安徽省宿县，今安徽省濉溪县双堆集镇）。11月27日，黄维指挥第12兵团乘合围尚不严密以4个师兵力为先头向东南方向全力突围，其中第85军第110师师长、中共地下党员廖运周率部阵前倒戈，使黄维突围计划失败，军心动摇，士气一蹶不振，只得就地固守待援。此时，国军已处在被动挨打的地位，由于第7兵团被消灭，徐州东线已完全暴露；徐州往蚌埠之退路，亦因宿县被中原野战军占领而切断。而黄维第12兵团也被解放军合围，有被全歼之危险。
1948年11月28日，蒋介石在南京召开军事会议，不得不下令徐州驻军第2、第13、第16三个兵团放弃徐州向江南撤退，徐州剿匪总司令官刘峙离开徐州调到蚌埠指挥第6兵团、第8兵团再次北援，由徐州剿匪副总司令杜聿明指挥30万徐州守军，于1948年11月30日放弃徐州向西南沿永城、涡阳撤退。华东野战军发现国军撤走即以7个纵队30万人发起追击、拦截。同时，由于南线李延年兵团缩回蚌埠，华东野战军又从南线另抽调3个纵队加入北线对杜聿明集团的围攻。杜聿明部途中接到蒋介石命令向东南出击，解救黄维第12兵团，邱清泉第2兵团、李弥第13兵团、孙元良第16兵团不得不转攻东南，最终12月4日被华东野战军包围在永城东北陈官庄地区。12月6日，第16兵团因协调错误，自行突围，大部被歼灭。
中原野战军对黄维第12兵团采取大量土工作业的近迫攻坚战法，对第12兵团合围圈不断缩小，至12月初，第12兵团粮弹不足陷入困境，只能靠有限的空运补给。此外，华东野战军又抽调5个纵队加特种兵纵队由华野参谋长陈士榘指挥，加入对第12兵团的围攻。第12兵团副司令胡琏因回家奔丧最初没有随军，第12兵团被围后乘飞机进入双堆集包围圈。1948年12月6日，中原野战军、华东野战军对第12兵团全线发起攻击，1948年12月12日发起总攻，至15日第12兵团残部各自突围被歼灭，消灭了国军12万人，俘虏第12兵团司令黄维，副司令胡琏搭乘战一团战二营代营长甘义三之座车，单独突围逃出（这部战车为战车二营突围指挥车，仅此车有突围路线地图及资料），但坦克被解放军击中亦受重伤，嗣即在上海接受手术。
1948年12月16日晚，刘、陈、邓驱车前往华野指挥部驻地安徽萧县蔡洼村同粟裕见面。蔡洼村距总前委驻地小李家村约一百华里。17日早上，谭震林也从山东兵团驻地赶来。刘伯承、邓小平与粟裕、谭震林自在中央苏区分别后，已有十几年没见面，这次战地相聚，心情格外兴奋。总前委五位领导，第一次聚在一起商讨战事，也是淮海战役中唯一的一次聚会。
12月17日整整开了一天会，鉴于杜聿明集团插翅难逃，未成为会议的议题，会议主要研究渡江作战计划与部队整编方案。会间，五位领导在华野指挥部的小土屋前合影留念。他们面带微笑，目视远方，眉锋舒展，可见其胸中似有百万雄兵，脑海里已有千条韬略。他们将继续指挥华东、中原两大野战军去夺取淮海大战的全胜。
会后，邓小平回到小李家，刘、陈赴西柏坡向中央汇报工作，并参加中央政治局会议。不久，也复返小李家。谭震林返回山东兵团驻地。
第三阶段
由于已消灭了国军34个师，邱清泉第2兵团、李弥第13兵团之22个师被包围，为配合平津战役对傅作义集团之分割包围避免其迅速决策经海路南逃，解放军对合围的杜聿明部暂缓攻击，进行了20天休整，向杜聿明发动政战宣传与劝降，消耗其心理，为围歼杜聿明部做最后准备，虽然杜聿明拒绝投降，但瓦解了国军官兵士气。合围圈中的国军粮弹两缺，虽有空投补给，但远不够用。1948年12月19日被围的国军曾谋划空军掩护下突围，亦无力执行。
1948年12月30日，邓小平率淮海战役总前委指挥部离开宿县小李家村，经过徐州，1949年1月1日，来到河南商丘。当时，商丘是淮海战役支前总兵站，车站的站台上、仓库里到处是各种各样的支前物资，商丘车站已经变成一座座的炮弹山、炸药山、粮食山、布匹山、服装山、军鞋山。看着眼前这堆积如山的支前物资，邓小平脸上绽开了笑容，正是由于后方的同志们想尽办法，保障了前线所需要的一切物资，才有了淮海战役的胜利啊！他找到商丘总兵站的同志和中野负责商丘支前工作的杨国宇，对他们说：“搞得不坏嘛，应该给你记一功！”
总前委指挥部设在商丘以南十几公里处的张菜园村。这时，刘伯承、陈毅去西柏坡向中央汇报工作尚未返回，粟裕、谭震林正在前线指挥围歼邱、李兵团的作战，邓小平一人坐镇总前委，既要指挥前方作战，处理各种电文、报告，又要总结淮海战役各项工作，部署中原野战军的休整、补充任务。
平津战役解放军完成了对北平、天津等地的分割与包围之后，1949年1月6日，解放军向青龙集、陈官庄地区被围的杜聿明部发起总攻，9日消灭第13兵团大部，残部撤往第2兵团防区。1月10日战斗结束。徐州剿匪总司令部副总司令兼前进指挥部主任杜聿明在安徽省萧县张庄寨镇张老庄被俘，是淮海战役终结的重要标志。徐州剿匪总司令部前进指挥部副主任兼第2兵团司令官邱清泉阵亡，第13兵团司令官李弥逃脱。李延年第6、刘汝明第8兵团随后放弃淮河以南、长江以北地区，撤往江南，淮海战役结束，解放军占领了长江以北大片土地。