1973年底，全军八大军区司令调动时，中央军委命令徐立清任济南军区政委。徐立清在济南军区工作一年零九个月，走遍了军区部队驻地徐州、淄博、长山岛、青岛、潍坊、临沂、蓬莱、烟台、海阳、栖霞、威海、刘公岛、日照、连云港，三个野战军、一个省军区、一个守备区、一个警备区和守备师、军分区、人武部及师、团、营、连，他都亲自去调查研究，指导工作，帮助解决问题。他还同军区所在的省、地委密切配合，帮助稳定局势，解决“文化大革命”带来的问题，做好团结工作。
1975年1月，邓小平出任中共中央军委副主席。7月，邓小平和叶剑英副主席召开中央军委扩大会议，提出军队要整顿的方针。9月，徐立清奉命调回北京，再任总政治部副主任，仍主管全军干部工作。当时，军队的干部工作被“文化大革命”搞乱了套，最突出的问题是干部超编严重。徐立清回到总政工作后，积极贯彻中共中央军委副主席邓小平提出的以“三项指示为纲”、“军队要整顿”的指示，着手解决军队存在的“肿”、“散”、“骄”、“奢”、“惰”等五个方面的问题。他首先抓“消肿”；二是配好领导班子；三是落实干部政策，“解放”干部。当时“四人帮”还在台上，继续施展阴谋诡计，篡党夺权，祸国殃民。由于“四人帮”的作乱，1975年底又发动了所谓“反击右倾翻案风”运动，错误地“批邓”，反对“整顿”。因此，“文化大革命”的错误难以纠正，军队“消肿”工作也停了下来，将要出现的军队的大好形势遭到了更加严重的破坏，在此期间，徐立清同总政广大干部和群众一起，采取种种方式，同“四人帮”特别是同张春桥进行斗争，以最大的努力保持军队的稳定。1976年10月，“四人帮”反革命集团被粉碎，徐立清积极投入了揭批“四人帮”的斗争。虽然当时的斗争形势非常复杂，但徐立清坚持实事求是，主张正确处理两类不同性质的矛盾。由于在总政机关对一些问题一时认识不一致，使他一度受到很大委曲，他的心脏也更加衰弱，不得不安上心脏起搏器。1980年1月，徐立清被免去总政副主任的职务，任命为成都军区第二政委，6月改任第一政委兼中共成都军区党委第一书记。根据当时他的身体状况，一些领导劝他注意身体，让他掌握一下大政方针就行了，可是徐立清一到任即抓紧调查研究，忘我地进行工作。他维护民主集中制，从不个人说了算。他善于集中正确的意见，敢于负责，勇挑重担。他坚决拥护和贯彻中共十一届三中全会以来的路线、方针和政策，把中央的政策同军区部队的实际结合起来，对军区部队的建设作出了显著成绩。他是一位有胆识有魄力的“好班长”，兢兢业业，卓有成效地完成了党所赋予的任务，受到了广大指战员的敬重和爱戴。