魏宣武带大都督府进了京师，立即发布安民告示，照例封存府库，没收地主土地重新分配，同时禁止土地买卖，组建地方政权机构和部队，以护卫卒、工兵卒和一个独立炮兵旅入京师维持治安、防守城垣，然后派秦汉的第三野战师配二个独立炮兵旅及任柱的骑兵旅继续向热河攻击前进，派傅忠信的第六野战师配一个独立炮兵旅攻取直隶省其余府州县，派吴如孝的第五野战师配一个独立炮兵旅与曾顺的黄河水师一起攻入山东，古大力的第八野战师配一个独立炮兵旅与任三应的骑兵旅往甘肃攻左宗棠部，黄呈忠第七野战师遮护粮道为各路援应、第七野战师的教导旅派出部分精干人员赴直隶各处建立地方部队。各路军分头去讫，魏宣武又发《告各国洋人书》，大意是：“四海之内皆兄弟，只要不助妖，前时所签协议尚有商量余地，今后欢迎各国来华贸易，还将为来华贸易者提供各种便宜，如若助妖，将断绝助妖者外交关系，拒绝与其所有贸易往来。”又发《告全体汉人书》，号召汉人们起来驱逐鞑虏，还我山河。又发《劝满人书》，劝满人放下武器，接受和平，与汉人一起共享天国天堂生活。
1869年2月7日，古大力部到了陕西直罗关，与甘肃刺史赖汉英、总教马三多、统制刘铁柱省制兵会合。陕西巡抚刘典，福建布政使王德榜，记名提督刘锦棠，甘肃巩秦阶道金国琛率记名总兵崔大光、李世颜、罗近秋、黄有功、戴国泰、张志超、朱明亮、张声恒等将拼命攻打太平军甘肃三府，甘肃巩秦阶道金国琛一度攻入固原城内，被固原府太守边正伦、教士陈宇、提辖汪峰拼死杀回。目前，三府外围阵地皆失，清兵已可用云梯直接登城，又挖地道埋炸药炸城，三府已是岌岌可危。古大力集中兵力先击溃围攻平凉的王德榜七十营清兵，击毙崔大光，伤俘李世颜，然后率兵包围固原刘典、金国琛部清兵九十营。刘典、金国琛攻固原本就损折了记名总兵罗近秋等六千多人，又伤了记名总兵戴国泰、张志超等一万多人，记名总兵中能战者只余黄有功一人，士兵也很疲惫，火药弹子都缺，现被古大力部截断粮道，围于固原城下，进退失据，忙派人向左宗棠搬取救兵及调围攻庆阳的刘锦棠部来援。记名提督刘锦棠正张罗掘地道垒土山攻城，又接令，只得带七十营兵回援刘典，途经环县时，人困马乏的清兵被甘肃统制刘铁柱的省制太平军联合回民义军崔伟、马正和部共三万多人打了个伏击，刘锦棠被俘，朱明亮、张声恒被击毙，清军全军覆灭。左宗棠正督雷正绾、刘松山、马得顺、魏光焘、黄鼎、刘端冕、李耀南、徐文秀等部打击董福祥、张俊部义军、围攻马化龙的金积堡。左宗棠接到刘典求援信，也得知了京师已失的消息，此时楚军已与回民军和义军打成一团，无法抽调兵力援助刘典，于是左宗棠写书信给刘典，让他率部突围。不想下书人在刚入固原境时就被太平军村垦士兵识破抓获，古大力看了左宗棠书信，心生一计，让探子营精细士兵化装成下书人，原书带入刘典兵营，一边做好伏击准备。刘典接书，见是左宗棠手迹，不疑有他，当下部署三军突围。刘典亲率大队杀出营来，金国琛部十营断后。古大力故意让前边战士装着力不能支，放刘典突围，待其过半，太平军大队杀出，将缺口堵住，刘典与黄得功带三十多营兵出了围，一路往河州而来。出围不久，就遭到任三应骑兵旅伏击，黄得功受伤被俘，刘典溃围而出，只带数十名亲兵逃走，清军大部被歼。古大力部随后直扑左宗棠大营，左宗棠前有回汉义军后有太平军，腹背受敌，在抵抗了十多天后，传来热河被攻占，两宫并同治在逃跑途中被任柱骑兵追上全部被俘的消息。左宗棠哪里肯信，仍要率楚军顽抗。又相持了二十多天，兰州天道教徒做内应，与古大力所派教导旅相互配合攻占了兰州城，左宗棠大批辎重落入太平军手。接着慈安、慈禧两宫和同治帝宣布退位要求全国清军无条件放下武器的诏书送到，古大力挑选清兵俘虏将诏书送到左宗棠面前，左宗棠长叹一声，召集楚军将领计议，一致同意降了太平军。1869年3月，左宗棠和他的楚军将领都被送入开封教导营，楚军士兵全部放下武器，有愿归家者发给路费回家，有愿参加太平军者编入地方部队。甘肃各地汉、回义军纷纷以城献太平军，其余各府或被攻下或主动请降，金积堡马化龙也主动派人请降，清将何虎臣与河州回民义军马占鳖击败八旗兵，活捉宁夏将军陕甘总督穆图善献于太平军，于是，兰州、平凉、巩昌、庆阳、宁夏、西宁、凉州、甘州、镇西九府，安西州、泾州、固原州、阶州、秦州、肃州、迪化州七州均归了太平天国，甘肃乃定。