4月9日上午7時，第一兵團右翼指揮顧柱同下令第9軍、第17軍同時發起進攻，北伐軍集中24門山野炮、36門迫擊炮集中轟擊臺兒莊西門，在轟炸了半個小時之後，終於炸開一道近6米寬的缺口。
“弟兄們，衝啊，率先衝進城者，賞100塊現大洋！”
“衝啊！”
“嗷！嗷！衝啊！”
北伐軍帶著勢不可擋的氣勢，不斷向前衝鋒，前仆後繼，第3師第8團王敬酒部率先突入城內，隨即兵分左、中、右三路與守軍展開逐街逐屋的巷戰，孫軍接到的命令是，死守臺兒莊，不可撤退。
因此，他們利用民房、院牆、街口事先佈置好的工事，進行層層阻擊北伐軍先頭部隊。
北洋軍的防守部隊在街口架設起了機槍，第8團被火力壓制在了掩體之後。
“來隊人，給我把對面北洋軍機槍陣地炸了。”
“團座，我來！”
說話之人是黃埔三期畢業生，第8團的一個營長。
“好！”
“一連的跟我來！”
營長率先衝出掩體，後面跟著幾十人，各個手裡拿著手榴彈，左右翻滾朝著前方不斷挪動。
北洋軍的機槍噠噠噠噠的響個不停。
“啊～～～～！來啊！老子不怕你們！”
終於，半分鐘之後，一連的人突入到了敵軍機槍陣地50米之內。
“兄弟們，給我扔！”
數十枚手榴彈在空中劃下一道道完美的弧線，向著北洋軍陣地砸去，大多數於陣地之前爆開，少數正中機槍陣地，北洋軍的機槍瞬時陷入了啞火。
第8團立刻全體衝鋒，短短9、10秒之後，機槍再次射擊，但是此時第八團士兵已經向前衝鋒了幾十米，火力再也壓制不住，北洋守軍開始出現膽怯，於是有人棄槍逃走，剩下的人選擇跟著向後跑，僅有少數的人頑強抵抗，最後都被第八團士兵擊斃。
“機槍組掩護，其餘人把手榴彈擰開，隨我繼續推進。”
“是，團座。”
隨著第八團士兵的不斷突進，第九軍其餘各團也相繼進入臺兒莊城內，孫傳方殘部士兵彈藥本就不足，戰鬥數小時之後，很多士兵子彈都被打光，他們開始用刺刀木棍頑強抵抗。
但是冷兵器終究不敵火器。
戰鬥從凌晨七時持續至下午三時許，北洋守軍核心指揮點，臺兒莊縣衙、火車站相繼被北伐軍第九軍攻克。
孫傳方的殘軍被壓縮在臺兒莊城北一隅之地內，首將鄭俊巖見大勢已去，急忙派人向蘭陵方向的直魯聯軍許坤部求援。
但蘭陵方向的直魯聯軍預備隊兩個團2000餘人，被北伐軍第九軍騎兵營牽制，遲遲不能全力南下支援臺兒莊北洋守軍。
與此同時，郯城方向的第17軍也傳來捷報。
