張自忠率五十九軍余下部隊21日下午冒雨奉令向費縣集結，欲威脅進攻日本第十師團左側背。3月22日晨，五十九軍到達費縣縣城。不料被張自忠打得壹籌莫展的板垣征四郎，突聞張自忠部他調，忙糾集殘部、調派援軍，向臨沂發起猖狂反攻。龐炳勛以疲憊之師孤軍應戰，只有招架之功，被迫退守臨沂以東，並頻頻發出求援的急電。蔣介石獲知臨沂戰局緊急，即於23日致電張自忠，命五十九軍速返臨沂。
五十九軍浴血奮戰七晝夜官兵都沈浸在對死去戰友的懷念之中心情十分沈重；加之往返奔波，備極辛勞，官兵們對於戰區朝令夕改的不當指揮頗有怨言。為安撫軍心，鼓舞士氣，張自忠先後到180師和38訓話。張克俠參謀長在日記中寫道：“軍長訓話時，官兵皆哭，誠亦傷心事也。多少可愛兒女，已血灑疆場矣！”當晚10時，五十九軍以強行軍回返臨沂。全軍官兵浴血奮戰，誓死堅守陣地。給”鐵軍”以極大殺傷。29日，中國援軍20軍團騎兵團和57軍333旅先後到達臨沂。30日，張自忠下令反攻，日軍抵擋不住，師團長阪垣征四郎丟棄了大衣和手杖，落荒逃命。第二次臨沂戰役勝利結束。3月30日，軍事委員會軍令部致電李宗仁指出：“張軍堅忍抗戰，斃敵累累，希傳諭慰勉。”兩次血戰，59軍傷亡慘重，僅連長就傷亡120名。號稱“鐵軍”的日寇精銳第5師團兩次敗北。日軍第五師團從3月3日發起臨沂作戰，苦戰至月底，仍未能越雷池半步，這對於日本“鐵軍”來說，實在是太難堪了。板垣征四郎寢食難安，惱羞成怒，幾欲自殺。
李宗仁指出：“最大收獲，就是將板恒、肌谷兩師團擬在臺兒莊會師計劃徹底粉碎。造成臺兒莊血戰時，肌谷孤軍深入為我圍殲的契機。”殲敵5000余人的兩次臨沂戰役本身就是臺兒莊戰役的有機組成部分，臨沂是獨立於臺兒莊方面的另壹個主戰場，臨沂戰役的意義遠遠超出了序幕戰和外圍戰的範圍。張自忠因臨沂戰役的勝利升任第二十七軍團軍團長，兼五十九軍軍長。1938年10月，張自忠升任第三十三集團軍總司令。後兼第五戰區右翼兵團總司令。
從1938年11月到1939年4月初，短短4個月裏，張自忠指揮所部接連在鄂北進行了4次中小規模的戰役，殲敵不下4000人。其中二月的京山之役戰績尤佳。蔣介石特致電張自忠說：“貴部堅強抗戰，屢挫兇鋒，使戰線穩定，厥功甚偉。特賞洋二萬元，代備死傷官兵撫慰等臨時補充之用。”國民政府主席林森簽發命令，授予張自忠寶鼎勛章壹枚。1939年5月2日，國民政府又頒布命令，為張自忠加授上將軍銜。
1939年5月，日酋岡村寧次調集4個師團、兩個旅團及坦克、炮兵、工兵等特種部隊約12萬人兵分兩路大舉進犯鄂北的隨縣、棗陽地區。張自忠壹面命正面部隊死守，壹面火速派2個師迂回到敵後方，兩面夾擊包抄日軍。他還親自率騎兵第九師及總部手槍營渡過襄河向敵猛攻，攔腰截擊敵軍主力，在田家集大敗日軍，粉碎了日軍圍殲第33集團軍的企圖。隨後第五戰區左右兵團全線反攻，壹舉收復棗陽、桐柏等地區。史稱“鄂北大捷”。同年12月，日軍又集中大量兵力向駐守長壽店地區的第33集團軍所屬第132師等部陣地進攻，雙方激戰7晝夜，132師陣地多次被突破。張自忠決定用奇兵打敵神經中樞的戰法挫敗敵人。他調第132師的第359團另配1個營，令其於夜間繞道偷襲日軍設在鐘祥縣的總指揮部。臨出發前，他鼓勵將士們說：“國家養兵就是為了打仗，打仗就會有傷亡。人總是要死的，多活20年少活20年轉眼就過去了。但死有重於泰山，有輕於鴻毛，為國家為民族而死就重於泰山，否則輕如鴻毛。”在張自忠的激勵下，奇襲部隊當晚潛行30裏路，壹舉端掉日軍總指揮部。正面進攻的日軍驚聞老巢被端，大為恐慌。張自忠指揮部隊趁勢猛烈反攻，打得日軍狂退60裏，大獲全勝。隨棗會戰中國軍隊***殲敵1萬余人。其中張自忠右翼兵團殲敵4500余人，繳獲軍馬74匹及大批軍用物資。此役史稱“襄東大捷”。