529年3月，北魏乱贼猖獗，规模甚广，而尔朱荣便率领大军平定叛军。陈庆之发现北魏守军薄弱，便于4月率军北上。
北魏的魏将丘大千领兵7万据守，结果被陈庆之在一天内连破三城，丘大千被迫投降。为了阻止陈庆之继续北上，北魏的元天穆也领2万兵马前来，屯驻到了四面环水的考城。
元天穆以为凭借天险，陈庆之的区区7000人马根本无法攻克。然而，陈庆之却在水面筑垒，一举将2万魏军全部歼灭。元天穆败走。
当陈庆之进抵荥阳时，遭到了北魏杨昱所率领的7万羽林军抵抗，始终无法攻破。
而北魏的内部战局也突然转变，尔朱荣用7000精兵剿灭了葛荣的几十万起义军，同时还打败了割据长安的萧宝夤，其他叛乱也被纷纷镇压。
随后，尔朱荣开始集结全部兵力对付陈庆之，让元天穆率领大军赶赴荥阳，又让尔朱世隆率领1万人马进驻虎牢关，截断陈庆之的退路。
可以说，北魏这次动员了国内最精锐的军事力量。此时军事奇才的尔朱荣是要把陈庆之剿灭于荥阳城下。
此时的陈庆之被敌军包围，梁军士兵开始动摇。他让士兵们稍作休息，给他们分析局势。他认为元天穆所带领的大军全部都是骑兵，必然不能与之在平原交战，否则必败无疑。
他们唯一的希望便是在元天穆发动攻击前攻下荥阳。同时，他告诉所有士兵一定要抱着决死一战的信念，不能犹豫，否则只有被对方屠宰的下场。
这些话瞬间让7000士兵情绪激昂。于是在陈庆之的一声令下，立刻对荥阳发动攻击。所有士兵异常勇猛，终于在元天穆形成包围之前攻克了荥阳。
之后，陈庆之又率领3000人马，趁元天穆还未站稳脚跟之时向其发动攻击。
元天穆非常意外，他没想到陈庆之居然放弃城墙的有利地形，主动向高于自己数倍人马的大军发动攻击。
措手不及的北魏军队在最后全线溃败。元天穆带领10余骑仓皇北逃。陈庆之又命士兵进入虎牢关，直接把尔朱世隆吓破了