1922年2月27日，国军和部分粤军在桂林组织北伐誓师大会，北上讨伐直系吴佩孚。这一回的北伐阻力颇多，对内陈竞存反对北伐，对外湘省督军赵恒锡拒绝北伐军入境。如今已经重回云南的唐继尧不支持北伐，但滇军中的朱培德部宣誓效忠国民政府，参与二次护法。
蒋玉成、古月等人事先极力劝阻孙明德，古月声称攘外必先安内，陈竞存一不是革命党员，二不支持北伐，但却身兼要职，非常危险。应当率先将他踢出局，或者发配到清水衙门监视起来，以免他乘机作乱，但孙明德并未接受该建议，因而就有了今天的誓师大会。
在桂林陆军学院的演兵场上，孙明德发表慷慨激昂的演讲，他率领全体官兵宣誓：“民国存亡，同胞祸福，革命成败，自身忧乐，在此一举。救国救民，为公为私，唯有奋斗，万众一心，有进无退。*”官兵的士气很快得到鼓舞，迫不及待地要为了革命而战。
为了加强革命党在湖南的影响力，孙明德特地使用个人关系将1920年被赵恒惕驱逐的湖南老省长兼革命元老的谭延闿请到国民政府里来，并在其加入革命党后任命其为湖南省长。
北伐军对沿湘江北上，进攻永州。沿途山林荒野较多，赵恒惕对当地的统治也较为薄弱。他一方面花钱贿赂当地被招安的土匪和小军阀部队和自己协力阻击消耗国军，另一方面发电向北洋政府请求支援，自己则是前往衡阳建立了指挥部，同时派出军队在永州附近阻击。
谭延闿发挥人脉优势，提前招揽了一些熟悉湖南地形和局势的亲信，凭借着向导的引领，国军轻而易举的击退赵恒惕的偷袭和埋伏，挺近永州。国军来势汹汹，在重火力的打击下，永州守军仅仅抵抗了两天就向国军投降。
一时间国军长驱直入衡阳，谭延闿随军一同出征，他在当地威望颇高，再加上国军军纪良好，连在当地搜集军粮都花钱买，所到之处民众无不竭诚欢迎。
但在革命的大后方却出现了新的乱子，陈炯明等两广军政官员反对北伐，拒不提供北伐军队的经费和物资供给。包括邓铿在内原本革命党所信任的粤系军人现在也态度模糊，令人失望。北伐军战斗时讲求火力优势，每次战斗消耗甚大，补给的断供确实会造成严重的问题。
对于某些人在背后使绊子，孙明德大统领非常生气，也开始后悔起先前未听从胡蒋等人攘外必先安内的建议来。如今北伐军已经出动，也不好折返讨伐陈竞存，孙明德本想干起革命党人的老本行，搞政治刺杀来威胁陈竞存，却受到廖伯欣劝阻。廖伯欣表示在税改后广州政府中央的财政收入不少，暂且可以供应一些时日。此时打草惊蛇容易提前引爆两派矛盾，不妨等北伐军回师后再秋后算账。
由于后方补给减少，北伐军指挥部决定加快节奏，攻陷衡阳等地站稳脚跟，同时在当地已发行军票的形式搜刮财富供应军需。
3月末，国军自永州出发直攻衡阳，一路攻城拔地势不可挡，迅速兵临衡阳城下。吴佩孚听闻湘南有变，虽然其于北方仍与奉系等军阀对峙，还是派遣了一部分援兵赴湘支援。
为了推延住北伐军进程，为吴军抵达争取时间，赵恒惕派遣亲信叶开鑫于衡阳设防抵抗国军，自己则北上坐镇长沙。叶开鑫按部就班地在衡阳城外设防，准备层层阻击，结果被国军炮兵炸了个头破血流。防线被撕开一道大口子，国军精锐轻步兵很快穿插入内，大量叶军来不及撤退的第二第三道防线就被歼灭。
等缩到衡阳城内后，叶开鑫更不是国军的对手。城墙在火炮前没有防御效果，要塞轻易就被攻城炮和工兵爆破。巷战中由于叶军士气低落，一旦散开在城区后就大量逃兵和投降，外加国军在入城后进行投降有奖的招抚，很快城中叶军就被清理干净了。
已经成了光杆司令的叶开鑫早就和小股亲信一同北上逃跑。到了衡阳之后，由谭延闿领导的新政府以没收□□军阀资产的名义收缴了不少湖南军阀的财富，还用军票当做银元支付，以强买强卖的方式从当地富人那里征收补给物资。
衡阳之惨败震惊了全省，一时间国军不可战胜的留言疯传，省内军阀和各路地头蛇的立场开始动摇，好在吴军第一批援军已经抵达，赵恒惕摆好了阵势，准备应对国军的进一步北伐。