20日的上海，依然在激戰當中，這些戰事都在日軍旗艦出雲号的沉沒面前變得不那麽引人注目。
拂曉前，日軍爲了報複中國海軍的夜襲連續發動反撲，但是鬼子明顯力量不足的攻擊遭到了中國軍隊的迎頭痛擊，在損失了幾百人之後，日軍縮了回去。
同日，南京政府成立大本營，以最高當局爲大元帥。編定全國戰鬥序列，劃江蘇長江以南(包括京、滬)及浙江爲第3戰區，以馮玉祥爲戰區司令長官，頒布作戰指導要旨：(1)作戰方針：第3戰區以鞏固首都及保有經濟策源地之目的，迅速圍攻上海附近之敵，并打破敵軍在沿江、沿海登陸之企圖。(2)兵團防區劃分：蘇州河以北，沿黃浦江以西，屬第9集團軍，以張将軍爲總司令。蘇州河以南、浦東及杭州灣左岸，屬第8集團軍，以張發奎爲總司令。晨，我軍分3路發起總攻，第98師全力進攻楊樹浦。第36、87師推進到百老彙路、唐山路、華德路一線。第99師、11師及教導總隊第2團控制江灣、市中心區，爲總預備隊。
最高當局親自下達了上任後的第一份命令－－－向彙山碼頭的日軍發起猛攻！
20日下午4點，中國空軍對彙山碼頭等日軍陣地進行轟炸。
零星的炮擊和交火整個白天都沒有停止過！
晚上各大報館的《号外》調整了早上公布的戰果，擊沉的日艦數量修改爲三艘，總排水量超過一萬噸！
這是在是前所未有的大勝利！
海軍部意識風頭無兩！最高當局一天之中三次去電話褒獎，江陰要塞上上下下都激動不已！
海軍的表現逼迫着陸軍盡快的拿出對應的成績，晚上21點，張将軍下令各部準備于21日零點發起對彙山碼頭的進攻，然後要求參戰各師召開營級以上軍官會議，具體落實集總的作戰方案。
21日零點，第9集團軍除第88師發動牽制行進攻以外，第36師、第87師、第98師向日軍發起全面進攻，此次主攻的部隊是36師，給大部隊在前面開路的是杜聿明少将指揮的裝甲兵團第1營，經兆豐路攻向彙山碼頭.
36師216團團長胡家骥上校指揮2000名官兵在裝甲部隊後跟進，天亮以前就突破日軍好幾條街道，106旅推進至沙泾港、嶽州路、昆明路一線，在天色變白以前與進攻的87師一部會合。
第98師292旅彙山碼頭外圍一帶日軍攻擊，294旅則配合36師，由沙泾港至保定路正面向百老彙路推進。當夜各師進展順利，
天亮後，日本艦隊立刻組織艦炮火力對我軍突入部隊實施火力覆蓋，中國軍隊的步兵在炮擊下舉步維艱，無法即時跟進坦克作戰，失去了步兵掩護的坦克車輛孤軍深入，很快陷入日軍重圍，有些坦克被鬼子的爆破組炸毀，但大多數坦克是被日軍的反坦克炮擊毀，最後僅有3輛戰車沖進了彙山碼頭核心陣地，但很快也遭到日本海軍艦炮的打擊，中彈起火。裝甲營1連連長郭恒健上尉和2連連長鄭紹炎上尉在攻擊中陣亡。
失去坦克之後，36師、87師和98師與日軍在唐山路、兆豐路、彙山碼頭一帶展開血戰，此地段均爲高層建築，日軍居高臨下組織交叉火力，出動裝甲車輛與中國軍隊展開逐街逐巷的戰鬥，戰況空前慘烈！
第36師212團第1營攻至舟山路與華德路之交叉口，遭到兩旁高樓的日軍交叉火力射擊，官兵死傷極多，營長吳垂昆少校身負重傷，帶傷指揮作戰。106旅旅長陳瑞河少将聞訊趕到一線指揮，亦負重傷。
師長宋希濂下令212團團長李志鵬上校接替指揮，并急調215團馳援，繼續猛攻。
該團第2營營長李增少校身先士卒，當場陣亡，該營見正面攻擊無法得手，便從一條小巷迂回，準備從高樓後面攀窗而上，突入日軍陣地。結果該營正在攀登時，日軍坦克突然沖出，切斷了通往街道的唯一一條巷口，然後用燃燒彈猛轟，300多名官兵葬身火海，無一生還！
216團經數小時苦戰，拿下了百老彙路，直沖彙山碼頭，由于戰防炮未能跟上，無法摧毀堅固的碼頭大鐵門，隻得翻牆進入，該團團長胡加骥上校帶上兩名衛兵帶頭翻入牆内，立刻遭到日軍側翼火力射擊，兩名警衛爲掩護團長一死一傷，胡加骥上校也身中5彈！幸未擊中要害。胡團長重傷不下火線，立即組織火力與日軍對射，繼續指揮作戰！
整個36師都殺紅了眼！
與此同時，87師也開始攻擊，259旅戰至午後先後攻占了幾處日軍陣地，但是仍受阻彙山碼頭外圍。261旅已收複楊樹浦，逃出陣地的日軍縱火燒街，企圖阻擋我軍攻勢，但這股日軍的退路被36師切斷，不得不退入英國租界，向英軍繳械投降。
張發奎所部爲協同楊樹浦方面對日軍的進攻，下令第55師337團和一個炮兵營于21日午夜進攻新三井碼頭及其附近之日軍。至22日淩晨4點攻占碼頭，殘敵退往江面軍艦。此外，在浦東長江口沿岸，第57師和55師一個團進入柘林、南橋、闵行之線防禦，并在金山衛至海甯一帶杭州灣北岸構築防禦工事，不久由第28軍等部接替防禦。
這次攻擊作戰雖然将日軍全部壓縮至彙山碼頭内環，但是我軍損失極大。
尤其是裝甲兵團，基本上失去了戰鬥力。其他各師中級軍官死傷頗多。
但是如此慘烈的進攻最終還是失敗了，主要原因有兩個，首先我軍高估了坦克用于城市作戰的戰鬥力，市區的戰争表明，坦克并不适合用于大城市攻堅戰鬥，對此我軍并無認識，這也是德籍顧問也沒有想到的。
其次****并無步坦協同戰術，當時坦克在各國都涉及到一個戰術問題，即步兵如何配合坦克作戰，更不要說剛剛組建裝甲部隊的中國軍隊了。
中國軍隊的作戰計劃的重點仍在突出步兵作戰，對于裝甲車輛并沒有提到如何具體的運用，尤其是步坦協同戰術，别說基層部隊的指揮官，就連很多高級将領都不知道如何運用，在這樣的情況下投入裝甲車作戰，必然大大降低坦克的戰鬥力。
參戰的中國軍隊大多第一次見到自己的坦克，他們甚至以爲裝甲車是無堅不摧的利器，連掩護戰車的步兵也沒有派出，結果沒有了步兵掩護的裝甲車很快陷入了日軍的重圍！裝甲部隊一出場就損失嚴重，使得步兵的士氣也跟着受到了打擊！
好在側翼穿插這一戰術獲得了成功，可以說21日一天的戰鬥對上海日軍形成緻命一擊，日本海軍陸戰隊的最後防線已處于崩潰邊緣。
22日淩晨，上海日軍向東京發出了告急的電報，他們甚至直接在電文中這樣寫到：
“淞滬中國軍隊戰術勇猛，裝備精良，如24小時内不能得到陸軍師團的增援，則上海戰事糜爛，皇軍的失敗将不可挽回！”
電文中多次提到黃浩然的99師，稱99師是中國軍精銳之中的精銳，在上海多次制造皇軍的慘劇，陸軍要對99師格外的重視！
日軍的憎恨應該是黃浩然最喜歡的禮物了！
他和他的99師都很享受這樣的“榮譽”！
.......................................................................................