该兵团于1948年2月由原山东内线兵团改编成立，司令员许世友、政治委员谭震林，故亦称“许谭兵团”。1948年3月至7月，相继发起胶济铁路西段战役、潍县战役和兖州战役，共歼敌14.5万余人，解放山东大片地区。
由于陈毅是一个好同志，他高风亮节，为了大局，敢于承担责任，也善于分权给下级，他作为华东野战军司令员兼政委，但华野的军事指挥权却很长时间都由粟裕大将行使，因此，很多网友都认为，粟裕的指挥权，是陈毅让出来的，陈毅不让，粟裕根本没法指挥。
1947年，为了更好的指挥华东战区的山东以及华中野战军，军委决定以两支野战军为主力成立新的“华东野战军”。根据《华东野战军调整方案》，当时新的野战军指挥班子为：陈老总担任司令员兼政委，副司令员粟裕，副政委谭老板，参谋长为陈士渠上将，政治部主任唐亮。
