湘军要跑路，吴捷自然不能让他们轻易得逞。
曾国藩身边只有一千五百湘军，孤军陷入敌境，情况极其凶险。他之所以冒险渡江，向义宁州方向撤退，一方面可以增援武昌为借口，另一方面在于这条路径较短，便于湘军逃命。
从南昌至义宁州，直线距离并不远，顶多一百来里，中间却有神雾山、百丈山等大山相隔，道路崎岖，人迹罕至。直至现在，两地仍不通高速公路，需要从武宁县或者宜丰县绕行。
曾国藩认为，有大山相隔，敌军便不能借助水师、骑兵优势追击湘军，有利于湘军出逃。
他预料得不错。湘军走这条险道，翻山越岭前往义宁州。左七军、右二军都不便追击，只能靠地方民兵袭击湘军。
左七军军长冯桂芳负责打击湘军曾国华部，他干脆绕至义宁州背后，切断湘军退路。
普承尧见势不妙，要求撤军。曾国华则力主坚守义宁州，接应曾国藩撤军。最后，曾国藩是等到了，湘军却伤亡惨重，折损大半。
两部湘军合流，在左七军接连打击下，只剩不到两千人马，最终退入湖北通城，元气大伤。
毕金科、李元度这一路湘军，谨遵曾国藩指示，以反攻抚州、广信两府为名，自南昌撤往浙江。左七军在赣东兵力单薄，毕金科的湘军折损了三分之一，只剩两千人马，最终撤入浙江。
赣南一带，广东绿营也不经打，被太平军黄文金、周庭森部击溃。
整个江西，只剩南昌一座孤城，城内原有近万名绿营兵勇。湘军撤退后，时人皆知南昌已不可守，绿营兵勇纷纷溃逃。江西文武大员皆无斗志，大小官绅开始预留退路。
南昌是江西省会，也是清军在江西的最后一座堡垒。她是“粤户闽庭，吴头楚尾”，“控蛮荆而引瓯越”，“襟三江而带五湖”，是华东地区一颗耀眼的明珠。
吴捷已经肃清江西境内的湘军，啃过了最硬的骨头，自终于轮到吃南昌这块肥肉了。
5月中旬，吴捷率军抵达南昌。
江西巡抚文俊有守土之责，率领绿营守卫南昌。但此时的南昌，内部被敌工处的特工渗透得千疮百孔，守军士气低落；外部被左七军、右二军团团包围。文俊想要守住南昌，无异于痴人说梦。
5月15日，两门105mm榴弹炮运抵九江城下。这是中兴公司枪炮厂定型生产的新型火炮，定名为1856式105mm榴弹炮，首批生产四门，带有试验性质。
为此，吴捷正式改组炮兵，成立炮兵师，首任师长由左七军参谋长卢波克兼任，复兴委员为为郑光聪。
卢波克毕业于米国西点军校，炮兵科班出身。郑光聪出身火药世家，在湖南郴州率领全族投奔吴捷。
105mm榴弹炮甚为笨重，使用铁制轮子。炮兵师先用船只运送两门火炮至南昌江面，然后使用八匹骡马拖拽，才将火炮运至炮阵地。
炮阵地位于南昌城西门外。这里靠近赣江，本是一处繁华的地方，大名鼎鼎的腾王阁便建于此。
1853年，太平军赖汉英进攻南昌，江忠源带楚勇守城。为防止太平军借城外民居攻城，江忠源将西门外一带的建筑付之一炬，就连腾王阁都不放过。
之后，不少客栈、商铺又在南昌城西门外重建，却远不如以往繁华。
此次左七军进攻南昌，特意避开西门外民居，以西门旁的城墙作突破口。
南昌城内的江西绿营已经毫无抵抗意志。左七军炮阵地已经抵近至城墙外一里半，守军依然不敢发炮射击，任凭左七军炮兵在城下随意走动。
据城内特工发回的密报，绿营都司吴锡光已经决心投降，正在加紧串联绿营官兵。此公曾是左七军手下败将，在建昌之战中投降，花了八万两银子赎身。
城内绿营官兵无心抵抗，江西大员们也六神无主。巡抚文俊召集城内官员开会，只有江西布政使、按察使、南昌知府三名文官、数名绿营军官参加。
几人商量来商量去，也商量不出守城之法。文俊只好撂下狠话，要大家死守城池，城在人在，城亡人亡。可背地里，文俊又开始装备粗布衣裳，准备趁乱逃跑。
左七军已向守军发出最后通牒，要他们无条件投降。城内尚无回应，吴捷等不到文俊的回书，决定如期攻城。
左七军已从各个方向包围南昌，只等大炮轰开城墙，就将攻入南昌城。
历来军队攻城，往往以城门作突破口。因为古时候的城门多为木制，厚度有限，抵御火炮的能力不如城墙。守城一方则经常堵死城门，以减少城防压力。
吴捷有105mm重炮，有穿甲弹，足以轰破南昌城墙。这一次，他饶有兴致地来到炮阵地，亲自验看105mm榴弹炮的威力。
火炮已经推入炮位，助锄也埋入了土中，以减少火炮后座。这种105mm已经很接近现代火炮，但由于仓促上马，很多结构并不完善。
例如，现代火炮反后座装置包括驻退机和复进机。中兴公司新研制的1856式105mm榴弹炮设计有驻退机，却没能发明成功复进机。
没有复进机，火炮每打一发炮弹，就会向后移动炮身，无法自动恢复至原先的位置。这一方面会损伤埋在地下的助锄，另一方面也会降低火炮射速，影响火炮精度。
为了攻打南昌，为了庆祝炮兵师的成立，中兴公司仓促生产了四门105mm榴弹炮，交付炮兵师。
吴捷来到火炮前，发现炮兵师师长卢波克正在组织训练。十几个炮兵连长正在紧张地计算射击诸元。
吴捷观摩片刻，哑然失笑，说道：“卢师长，这次轰击九江城墙，炮阵地距城墙仅有五六百米，肯定要使用直射。这么近的距离，直接轰就是，还计算什么射击诸元？”
卢波克坦然说道：“会长，我给他们出的题目是，炮阵地在五公里以外，观察所位于现地，目标为九江城墙，无风，请他们计算射击诸元。
“这些炮兵连长是炮兵师的苗子，我把他们带到炮阵地，让他们在火炮前计算射击诸元，现场观摩105mm火炮射击，感受实战氛围。”
吴捷点点头。卢波克是炮兵科班毕业，也是左七军的炮兵专家，对炮兵连长一职非常重视。他这种训练方法别出心裁，年轻的炮兵连长们训练积极性很高。
只见他们左手飞快地翻阅着手里的火炮射表，右手拿着铅笔算算画画。不一会儿，一个二十出头的连长抢先交卷。
吴捷瞅了下卷上的名字，上面写着吕大良。吴捷想起来了，吕大良是湖北汉口人，读过书，曾任近卫团一营一连复兴委员。
炮兵师筹建时，从左七军中抽调优秀军官，吕大良主动报名，被卢波克选为炮兵连长。
卢波克扫了眼吕大良的答案，眉头紧皱，当场向吕大良指出错误：“打击坚固工事要使用延期引信，你默认使用瞬发引信，错误！”
吕大良一时大意，写错了答案，懊恼不已。
据卢波克介绍，射表由枪炮厂方面提供，经过了实弹检验，又请数学家李善兰修正。虽说射表精度有待提高，却也足够实战了。
很快的，炮兵准备完毕，吴捷等人进入炮阵地后面的指挥观察所。卢波克下令开炮，一旁的传令兵挥舞令旗，示意炮兵开炮。
两门105mm火炮装填穿甲弹，使用延期引信。炮手看到令旗，沉着发炮。接连两声炮响，炮弹精准命中城墙。
透过望远镜，吴捷清楚地看到，城墙向内凹陷明显，表面的砖石向下剥落。绿营兵早就躲得无影无踪了。
城墙没有倒塌，却也摇摇欲坠。吴捷对一旁的卢波克说：“来四发急速射试试。”
卢波克会心一笑，传令“四发急速射”。
炮阵地上飘起一阵硝烟，刺鼻的火药味飘至指挥所。“咚咚咚咚”接连数声炮响，远处的南昌城墙轰然而倒。
左七军冲锋队抬着长木板，向城墙缺口处奔去。他们使用木板抵挡清军流弹，然而，城头根本就无人抵抗。
冲锋队越过护城河，冲上城墙缺口，如入无人之境。
复兴会的旗帜很快就插上了南昌城头。
南昌，攻克了！