该兵团于1948年2月由原山东内线兵团改编成立,司令员许世友、政治委员谭震林,故亦称“许谭兵团”。1948年3月至7月,相继发起胶济铁路西段战役、潍县战役和兖州战役,共歼敌14.5万余人,解放山东大片地区。
由于陈毅是一个好同志,他高风亮节,为了大局,敢于承担责任,也善于分权给下级,他作为华东野战军司令员兼政委,但华野的军事指挥权却很长时间都由粟裕大将行使,因此,很多网友都认为,粟裕的指挥权,是陈毅让出来的,陈毅不让,粟裕根本没法指挥。
1947年,为了更好的指挥华东战区的山东以及华中野战军,军委决定以两支野战军为主力成立新的“华东野战军”。根据《华东野战军调整方案》,当时新的野战军指挥班子为:陈老总担任司令员兼政委,副司令员粟裕,副政委谭老板,参谋长为陈士渠上将,政治部主任唐亮。