1942年3月底，斯大林召開緊急會議，討論了鐵木辛哥元帥提出的進攻計劃。斯大林和鐵木辛哥仍然對戰爭的形式持樂觀態度。盡管壹些人在會上表示懷疑，但斯大林支持鐵木辛哥。他們都認為不能等待德國軍隊采取主動進攻，而是在德國軍隊進攻之前抓住機會。就這樣，在5月12日，整裝待發的蘇聯坦克開始攻擊德國第六軍團。起初，德國軍隊驚慌失措。
蘇聯軍隊對哈爾科夫勢在必得，德國軍隊希望穩定局勢，避免全線崩潰，希特勒為了能取勝放手壹搏，才能有生機，為了贏得這場戰鬥，他派戰略天才曼斯坦擔任戰鬥指揮官。同時，派出了阿道夫·希特勒師、骷髏師和帝國師，然後派出了最先進的虎式坦克和其他先進武器。哈爾科夫反擊開始後，曼斯坦首先率領軍隊向南進攻蘇聯西南方面軍。然後他回到北方，利用蘇聯軍隊的支持。當後方空乏時，他立即占領了哈爾科夫，並以大膽、穿插和迂回的戰略方式徹底擊敗了蘇聯軍隊。
希特勒利用克萊斯特集團軍互相攻擊，戰爭形勢發生了變化，蘇聯第9集團的防線被突破。更令鐵木辛哥元帥沒有想到的是，正面的德軍正屯集著100師的重兵等待著他，保盧斯的第6軍團和克萊斯塔集團軍圍住了蘇聯三個集團軍，蘇軍損失十分慘重。這場戰役給蘇軍帶來的損失是無法估量的：在這場戰爭中，24萬蘇軍被俘虜，成千上萬的紅軍陣亡，方面軍副司令員科斯堅科將軍、第五十七集團軍司令員波德拉斯將軍、戰役集團軍司令員博布金將軍全部壯烈以身殉國。如此大規模的將領人員傷亡，在戰爭歷史上也是不多見的，噩耗傳到蘇聯的時候，全國人民為之震驚。
此役，令蘇軍損失了52個師，大約45200陣亡或失蹤，另有41200人受傷。至3月27日，估計武裝黨衛軍裝甲軍損失了44%的兵力，包括大約160名軍官及4300名在役人員。