江北軍與日軍在江都城下反複争奪，方鹹五很巧妙地用計将上原勇作的軍隊拖在江都城下，消耗着對方的彈藥與精力，他設置的防線，讓日本人總覺得一口氣就能打下來，卻總是剛剛把腳步踏到江北軍陣地上，便被人打回去。中國人的陣地就像是驢子前面被釣着的蘿蔔一樣，每次都是隻差了一口氣就能吃掉。所以日本人走也不是，留也不是，上原勇作記得差點得了腦淤血，卻也對面前中國守軍的陣地無能爲力。
30日晚間，方鹹五和李士銳判斷，日軍已經成爲了強弩之末，現在可以發起總攻了，于是一方面向軍部報告，一方面着手準備對日軍發起猛攻，以四個師八萬的兵力，對日本6000到7000的疲憊軍隊發起全線反攻。
遵照方鹹五的命令，各參戰部隊立即向日軍發起進攻，第一師由董莊、季莊和管橋一代進攻，第五師由焦莊、孔莊、樊莊、談家莊一代進攻，第八師由曹家莊、陳家莊、蔣莊、大蔣莊一代發起進攻，第九師由黃家莊、毛家莊、年莊一代發起進攻，第十師由倉房、蔣家灣、石家夏一代發起進攻。
淩晨兩點鍾，即31日早晨兩點整，方鹹五下令六個炮兵團對日軍進行第一次炮兵總攻，他下令炮兵們要在一個小時之内把一半的炮彈打光，這可高興壞了被憋成烏龜似的炮兵們。當然，炮兵們雖然心裏不願意一直以來被日軍壓着打，可他們也知道自己的實際情況，江北軍六個炮兵團加起來的火力，還不如日軍一個師團的炮兵火力強大，爲了讓炮兵發揮最大的作用，方鹹五一直以來克制着炮兵的使用。但是方鹹五也沒有完全将炮兵藏起來，他讓一個炮兵團偶爾反擊日軍一兩次，給日軍帶來傷害，也麻痹了日軍，給上原勇作一個錯誤的提示，以爲江北炮兵僅此而已。
晚間江北軍的炮襲，這才真正的給了日本人血的教訓，很多日本士兵連衣服都沒穿便被炸死了。随後淩晨三點鍾，中**隊步兵對日軍陣地發起總攻，八萬餘人的呐喊聲和叫聲震天動地，日軍倉皇不已，上原勇作更是拔出指揮刀大喊：“反擊，反擊，一定要反擊。”
然而中國人的包圍圈讓他們無處反擊，日軍人困馬乏彈盡糧絕，哪裏還有反擊的力量，上原勇作不由得大聲喊道：“我們上當了，中國人一直在積蓄力量，他們就像是拳擊手一樣，一整場比賽都在默默地挨着我們的拳頭，他們不是沒有能力反擊，而是一直在等待我們沒有力量逃走啊。”
上原勇作立即作出判斷，向泰縣撤軍，務必立即撤走，面臨被圍殲的日軍，臨逃跑之前将來不及帶走的糧食，被服，帳篷毫不猶豫地縱火燒毀，将帶不走的大炮也炸毀掉，甚至有一些日軍士兵隻能将陣亡戰友的遺物帶回去，卻帶不回他們的屍首或者骨灰。
這一張網，江北将士們給上原勇作準備很久了，他們豈能讓上原勇作逃走。雙方在黑夜之中的交戰再一次殺紅了眼睛，日軍在絕望之中露出的骁勇也讓中**隊吃了不少苦頭，甚至于日軍在撤軍的時候還反包圍了第十師，幾乎将第十師消滅大半，如果不是夏銘果斷作出判斷并以犧牲自己來換取第十師的勝利，孫傳芳、蔣中正、劉湘等人必然會被日軍擊斃。
不過随着天亮，日軍的戰鬥意志越來越差，反觀江北軍越殺越勇，日軍的中軍大本營設在丁家溝，不少日軍黑夜之中無法從丁家溝撤走，于是留了下來。當江北軍攻入丁家溝的時候，一部分來不及撤走的日軍瘋狂地向江北軍發起進攻，不過最後，這些拼命突圍卻不知方向的日軍被消滅在丁家溝的西側。
5月31日下午，日軍向西突圍的部隊遭到第九師的包抄阻截，日軍發起了自殺式的進攻，他們綁着炸藥沖入江北軍陣地，試圖炸開缺口。第九師師長黃瓒下令組建機槍陣地，務必要留下日軍，雙方在塘頭鎮反複争奪，但随着第九師機槍彈藥告罄，最終黃瓒的部隊被日軍突破了防線，6月1日，第十六師團突破塘頭鎮臨時陣地，向泰縣撤軍。
6月2日早上八點，就在日本讨伐軍左翼第十九旅團剛剛住進泰縣的三個小時之後，第十六師團殘部倉皇逃到泰縣，上原勇作與長岡外史看到了彼此的窘迫之後，紛紛搖了搖頭，不由得歎了口氣。
“此地不宜久留，應立即撤向如臯縣，從如臯縣撤向南通縣的東餘鎮，再由海軍接應撤離。”長岡外史此時此刻也沒有心思與上原勇作鬥心眼了，内鬥是要建立在生存基礎之上的，而今日軍的生存出現了問題，哪裏還有心思内鬥。
“南通和泰興的友軍呢？”上原勇作問道。
“顧不得那麽多了，先要保證第十六師團和第十七師團不被全殲，否則我們就給大日本帝國丢了太大的人了。”長岡外史道。
上原勇作心說我們此次戰敗，已經給日本丢了很大的人了，他歎了口氣，隻能犧牲其他軍隊了。
長岡外史激動地說道：“将軍，現在就走，否則來不及了！中國人有騎兵，有大規模的騎兵啊。”
上原勇作大吃一驚，這下不猶豫了，全軍休整一個小時，丢棄一切負重，立即向如臯縣撤軍。長岡外史實際上是用第二師的騎兵團吓唬一下上原勇作，但他沒想到歪打正着，江北軍還真有一支騎兵部隊，江北陸軍第四師師，師長陳健帶領騎兵部隊向泰縣方向殺來。