老将主动的引退，使得双方没有撕开脸皮，李伯阳报以琼浆的给了三人莫大的殊荣，凡是三人在第二十七军的子侄辈的职位都升了一级，有能力的亲信都得以继续在军队任职。
就在通告发出的三日后，李伯阳突然宣布成立第二十七军编遣委员会，他自任委员长，各师长分任执行委员。所谓编遣委员会，就是对第二十七军庞大的军力进行整编缩编。
此刻第二十七军有五个师，每师辖三旅，每旅辖三团，全军共有48个团，兵员逾9万人，兵力上是第一军的4倍，实力冠绝北伐军，这也是蒋介石为何会放低身段寻求李伯阳这个学生支持的原因，同样也是芜湖与南京近在咫尺，而孙传芳却不敢轻启战端的原因。
庞大的军力固然使得李伯阳影响力倍增，但凡是有利必有弊，弊端就是需要以贫瘠的皖南支撑庞大的军费，以皖南的财力物力来说，勉强只能能养一个师，多出的四个师则需要靠建设银行养着，但自从改旗易帜以来，建设银行在五省的分部都被孙传芳查封，如此一来李伯阳手中财源枯竭，只得裁军缩编。
按照李伯阳的预想，第二十七军将会裁掉三个师的兵力，整编后的第二十七军将辖有两个师，计划裁兵4万人。
这种裁军法可谓是伤筋动骨，从军官来说将会有数以千计的军官降级或裁编，李伯阳一经提出就遭到了大多数将领的反对。
罗群道：“缩编我同意，但不应该是现在，孙传芳在南京集结了七万大军，一旦我军缩编，孙传芳失去忌惮，必然会向我开战，到时我军将陷入被动。”
“是啊，且不说有孙传芳虎视眈眈，军长，咱们坐拥强军却憋屈在皖南这片小地方太久了，现在我们兵强马壮，应该分兵向外扩张，就拿皖北的陈调元开刀，打下了皖北也就有了军饷，还怕养不起兵吗？”戚子超沉声道，他是典型北洋将领的心态，心思只要有了地盘，还怕养不起军队吗？再说以李伯阳的本事早该当个一省督办坐坐了。
“没错。”
刘赤忱愤愤不平的嚷道：“现在各军都在扩编，凭什么独独咱们军缩编，咱们军可是一次军饷都没有领过，军长，就这么就把部队裁掉，弟兄们的心寒呐。”
李伯阳苦笑一声，将领们强烈反对，只能暂且把裁军整编的日程向后拖，同时给武汉军委会致电，讨要军饷。
武汉军委会收到讨要军饷的电报后也很为难，要说第二十七军易帜以来为北伐立下了大功，多少该发些军饷，但8万人的军实在是远远超出了编制，最后军委会只能把这个难题交给了蒋介石。
蒋介石收到电报，自然不会亏待二十七军这个嫡系，当即命财政部长宋子文下拨军费五十万，这五十万不同于给李宗仁的‘五省通用卷’，而是真金白银的汇票。
这五十万对于别的军来说可能是够了，但对于第二十七军来说只是杯水车薪罢了，李伯阳只得继续和蒋介石讨要军费，蒋介石纵然有心给第二十七，但无奈北伐军有二十几个军，大多数的军只能就地筹款，他这个总司令也不好厚此薄彼，只能命人给李伯阳送来一百万的‘五省通用卷’，让他就地筹款。
李伯阳接到‘五省通用卷’后苦笑，这不就是军票吗，以前在北洋的时候都没有盘剥百姓，现在成了革命军，他怎么好意思以北伐的名义盘剥地方，而且这通用卷都是五十元和百元的大票，与当时的物价极不相符，只得拿着一堆纸无计可施。
最终还是董思白建议说：“皖南百姓受军长恩惠久矣，百姓均愿为军长效劳，可将这些军票下发各县，通告政府不得强迫，让百姓自由兑换，以解决军费问题。”
李伯阳如今困于军费，只能按董思白的意思办，将一百万的通用卷下发皖南二十三县，本以他想，能兑换二十万已经不错，等十天后从各县传回消息，说各地商民团地踊跃自发的兑换使用，一百万大洋已经源源不断的送到芜湖。
仅在芜湖市一个地方，两天内就兑换了五十万的军票，让李伯阳感慨万分，但由此他更加坚定了裁军的决心。
将领们都很意外，就连董思白也疑惑不解道：“军长，军饷既然已筹齐，为何还要裁兵。”
李伯阳正色道：“承蒙皖南百姓信任，这次的军票顺利兑换，但要继续养目前的兵力每月还需大量的军饷，不能每月都向百姓摊派军票，因而裁军一定要继续下去，况且兵不在多，在于精，这次裁军也是我深思熟虑的整编，这是我的决议，服从执行吧。”
将领们只能把异议压在心里，开始执行裁编。
首先是董世武的江防师，缩编为旅，兵额定于一旅两团4000人，直接裁减了近万人的兵力，董世武大为不满，为了安抚董世武，李伯阳亲自登门，与董世武斩了鸡头拜了把子，并向军委会报备后，晋升他为少将旅长加中将衔，这才让董世武转喜。
其次是其他四个师，这四个师裁编时出现的问题最多，各师都堪称精锐，手心手背都是肉，裁起来最让李伯阳头疼，一连七八日都在无尽的吵闹扯皮中度过。
期间在皖苏边境、皖浙边境上，联军主动进攻和第二十七军发生了大小十数次激战，双方各有损失。
李伯阳没有想到的是最终为他解决裁兵的人会是蒋介石，第二十七军裁军的消息传回南昌时，正值第一军扩编，黄埔第四期大批的毕业生来到南昌，蒋介石正愁扩编部队俘虏兵太多，严重影响了部队的战斗力，正瞌睡就来了枕头，他当即给李伯阳拍了一份电报，命第二十七军裁减下的兵不许遣散，人和枪他都要了。
李伯阳就开始算账了，裁减下的士兵遣散经费就要几十万大洋，如果第一军肯接收，则意味着能省下这笔钱，他便回电蒋介石，人可以‘支援’给第一军，但有两个要求：其一，接收士兵的同时必须接收军官；其二，枪可以给，但要拨给第二十七军一些弹药；其三，第二十七军的部队番号做出调整。
蒋介石很快复电，一切应准。
不仅如此，蒋介石给武汉的军委会联席会议寄去一份亲笔信，赞扬第二十七军率先裁兵，为各军做了表率，特变更番号为新一军，另外让财政部再拨五十万的军费，以示嘉奖鼓励。
新一军这个番号一出而掀起了千重浪，谁不知第一军是总司令蒋介石的黄埔嫡系，如今第二十七军转眼就成了新一军，等于向外界宣告，第一军同样是黄埔嫡系。
最先感到不安的是唐生智，谁不知第二十七军的大名，在五省联军时就以善战闻名，而在德安一战中更是击败了孙传芳嫡系的卢香亭主力，赫赫威名在外，一个军足以抵两个军看待。
随着裁减军队的离去，剩余的四个师完成了裁兵，缩编为2个整编师，每师辖2旅、旅辖三团，一个师兵额定于2万人，全军加上军直属部队，共有近6万人。
整编后的作战序列和编制装备为：
国民革命军新一军
军长：李伯阳
副军长：刘稳
参谋长：罗群（黄埔一期）
副参谋长：关传钧（安徽讲武堂第六期）
军法处长：毛德章（黄埔一期）
副官长：杜汉山