1948年11月淮海战役爆发后，从华中增援淮海战场的国军第12兵团，被我中野全军与华野一部围歼在双堆集地区。当我军最后发动总攻之时，敌兵团两位司令黄维与胡琏竟扔下部队乘装甲车仓皇逃窜。而胡琏在突出我军包围后，居然对其他人说：黄维突围失败全是因为他心太软，不敢对自己人开枪。
1948年11月6日，国共两军最大规模的决战——淮海战役正式开始，面对解放军在鲁南、豫东一带集结的华东野战军、中原野战军近60万精锐，蒋介石一方面紧急收缩陇海铁路沿线的4个兵团，又紧急从华中地区调来了最精锐的黄维第12兵团前来助战，以应对即将到来的国共两军最大决战。
淮海战役中，他指挥的第12兵团下辖4个军12万余人，是国民党军精锐兵团。但是，由于在浍河地区优柔寡断、廖运周战场起义、消极防守待援，黄维兵团处处被动挨打，最后遭受中原野战军、华东野战军联合进攻，被全歼在双堆集。
淮海战役打响后，黄百韬兵团被华野包围在了碾庄地区。为了给黄百韬解围，刘峙派出了邱清泉兵团和李弥兵团，结果在徐东被宋时轮挡住，根本冲不过去。蒋介石无奈之下，又把黄维兵团投入了战场。此时华野既要在碾庄围歼黄百韬，又要在徐东阻击邱清泉和李弥，还要应对徐州的杜聿明，兵力已经捉襟见肘。
在淮海战役期间，国民党方面李延年，刘汝明、邱清泉、李弥、孙元良共5个兵团为何救不出黄维兵团，五个兵团见死不救最大责任就是国民党本身政治性质决定的，用国民党军队自己话说就是“打的再好部队打光了，自己就是一张冷板凳，打的再烂的部队，只要军队还在，依旧可以留任”——劣币驱逐良币，最后剩下都是无能之辈。
1948年11月6日至1949年1月10日，一场决定中国命运的大会战——淮海战役从开始到结束。这场历经60多天，也是中国近代军事史上规模最大的会战，以国民党军队的惨败告终。经此一役，蒋介石的“王牌精锐”损失殆尽，留给他的只有无尽的惆怅和即将到来的大败亡。
1975年2月25日，根据毛主席“四届人大之后，要实行特赦”的指示，公安部向党中央提交了《关于第七批特赦问题的报告》：列入在押战犯名单的共293名，其中13人不能特赦，继续关押。毛主席认为公安部气魄太小了，发话说，全部释放，包括这13人！
