在陳慶之攻克睢陽的同時，北魏的濟陰王元暉業剛剛率領了兩萬羽林軍前來增援。
得知丘大千已經投降的訊息後，元暉業只能被迫退守考城。
考城是一座四面環水、易守難攻的城池，元暉業顯然是想憑藉地利進行抵抗。
不過在觀察完地形後，久在南方的陳慶之卻搖頭一笑：
“這樣的城池，我在南方見多了，安能阻擋我軍？”
說罷，他命令士兵們浮水築壘，揮師猛攻，不久後便一舉攻陷考城，俘虜了元暉業，繳獲車輛、馬匹數千。
隨後，陳慶之乘勝追擊，連戰連捷，一路打到了滎陽城下。
滎陽距離虎牢關不遠，是洛陽的門戶要地，對北魏來說至關重要，是萬萬不能失守的。
於是，北魏以左僕射楊昱、西阿王元慶、撫軍將軍元顯恭率領七萬羽林庶子、河南良家子駐紮在滎陽，又以爾朱世隆率兵兩萬虎賁鎮守虎牢關，以抵禦陳慶之的進攻。
魏軍兵強馬壯、人多勢眾，而且滎陽是座大城，城牆堅固，地勢險要，所以陳慶之部一連數日，都沒有攻克滎陽，進攻受挫。
此時，元天穆已攻滅邢杲，傳首洛陽，正帶領二十萬臺軍往回趕。
若是繼續久攻滎陽不下，一旦幾十萬魏軍合圍而來，陳慶之一行人肯定只能落得敗亡的下場！
一時間，南梁的軍隊陷入了恐慌之中。
陳慶之解鞍秣馬，激勵麾下眾將道：
“吾至此以來，屠城略地，實為不少；君等殺人父兄，掠人子女，又為無算。
天穆之眾，並是仇讎，我等才 七千人，虜眾卻有三十餘萬，今日之事，義不圖存！
吾等與虜騎不可爭平原，須及其未至平其城壘，方有勝算。
諸君勿要狐疑，自貽屠膾！”
陳慶之是個文弱書生，連最普通的弓箭都拉不開，卻能與士兵同甘共苦，衣食同寢，因而部眾在其激勵之下，全都視死如歸，無不奮勇爭先。
陳慶之本人則親自擂響戰鼓，激勵士氣，在血戰了半天后南梁猛將宋景休、魚天愍率先登上了城牆。
五月二十二日，陳慶之攻陷滎陽，楊昱、元慶等人兵敗被俘！
兩天後，北魏的援軍紛紛而至。
首先到來的是驃騎將軍爾朱兆率領五千騎兵。
原本元天穆還給了爾朱兆萬餘步卒，不過爾朱兆嫌棄步卒行軍緩慢，又看不起陳慶之，因此走到半路便讓西荊州刺史王羆率領步卒在後面跟進，自己只帶了五千騎兵便殺到了滎陽城下。
陳慶之見狀，親率三千騎兵出擊，背城而戰，一舉擊潰了爾朱兆，接著又乘勝追擊，突襲了後面的王羆所部，全都一戰而勝！
隨後，陳慶之就這麼驅趕著潰軍，繼續向前追擊，元天穆麾下的幾十萬臺軍精銳就這麼被自己人衝得七零八落，潰不成軍，在陳慶之的衝殺下死傷慘重，頓時大敗，元天穆僅以身免，狼狽逃竄。
陳慶之乘勝進軍，兵鋒直逼虎牢關。
鎮守虎牢關的朱世隆聽聞元天穆、爾朱兆大敗的訊息後，感到萬分恐懼，竟嚇得直接棄守虎牢關，不戰而逃了。
。了守可險無，川平馬一是的真就言而之慶陳對，來一此如
