К моменту советского наступления в Белоруссии, начавшегося 21 июня 1944 года, численность германской армии на Восточном фронте сократилась до 2,25 миллиона человек по сравнению с 2,6 миллиона к 1 октября 1943 года. За это время на Востоке стало на 30 дивизий меньше. Необходимость перебросить на Запад дополнительно 34 дивизии (из них 21 была вновь сформирована, а 11 передано с других театров) не позволила восстановить численность Восточной армии хотя бы до уровня осени 43-го. Кроме того, после начала вторжения на Запад туда был переброшен находившийся на пополнении в Польше танковый корпус СС, что лишило германские войска на Востоке последнего подвижного резерва. На фронте группы армии «Центр» 38 немецких дивизий (из них 4 – в резерве) сражались против советских 156 стрелковых и 12 кавалерийских дивизий, 2 стрелковых бригад, 10 танковых и 2 механизированных корпусов, 15 танковых, 1 механизированной и 2 самоходно-артиллерийских бригад, а также против 4 пехотных дивизий, 1 танковой и 1 кавалерийской бригады 1-й армии Войска Польского. 700 тысячам немецких солдат противостояли более 2,5 миллиона советских, а в боевых частях перевес Красной Армии был еще заметнее. Даже если бы все солдаты немецкого Восточного фронта были переброшены в Белоруссию, равновесия сил все равно бы не наступило. Командующий группой армий «Центр» фельдмаршал Буш предлагал оставить далеко выдающиеся в неприятельские позиции выступы у Витебска и Бобруйска и сконцентрировать войска для обороны на Березине, что позволило бы значительно сократить протяженность линии фронта и увеличить плотность обороны. Но Гитлер запретил отход. Немецкой разведке было известно, что в летнюю кампанию 1944 года главный удар советское командование планирует нанести в Белоруссии, а вспомогательный – на львовском направлении, причем предполагает, что одновременно в Варшаве вспыхнет антигерманское восстание. Однако кардинальным решением мог быть только отход со всего «белорусского балкона» с одновременным отступлением группы армий «Север» как минимум – до рубежа Западной Двины, а более вероятно – до границ Восточной Пруссии. Такой отход пришлось бы осуществлять в мае и начале июня. Но в этом случае летнюю кампанию 44-го года вермахту пришлось бы начинать на Буге и Немане, что приблизило бы Красную Армию к сердцу Рейха. Теперь Гитлер боролся только за выигрыш времени, поэтому требовал от войск как можно более долгой обороны территорий, прикрывавших границы Германии. Отход из Белоруссии в данном контексте становился бессмысленным.
В ходе наступления фронт группы армий «Центр» был прорван в нескольких местах. Крупные немецкие группировки были окружены в Витебске, Бобруйске и в районе восточнее Минска. 57 600 захваченных там пленных были проведены через Москву 17 июля 1944 года. В начале августа в Варшаве действительно вспыхнуло восстание, подготовленное Армией Крайовой – вооруженными силами находившегося в Лондоне польского правительства в изгнании. Однако Сталин остановил наступление своих войск с захваченных на Висле плацдармов до тех пор, пока немцы не разобьют повстанцев. Германское командование это быстро поняло и в середине августа перебросило 5 танковых дивизий из-под Варшавы на север, чтобы прорубить коридор и восстановить сухопутную связь между группами армий «Север» и «Центр». Эта операция теряла смысл в случае советского наступления на Варшаву. Ослабленные немецкие силы не смогли бы его сдержать, а тем более удержать на севере фронт от Латвии до Одера. Но войска 1-го Белорусского фронта на Висле не сдвинулись с места, пока немецкая 3-я танковая армия пробивалась к Балтийскому морю у Тукумса. В результате группы армий «Север» и «Центр» вновь на короткое время соединились. Но Гитлер отказался дать разрешение на отход из Прибалтики, мотивируя это необходимостью сохранения морских коммуникаций со Скандинавией, а также возможным неблагоприятным воздействием на позицию Финляндии, которая после начала в июне советского наступления на Карельском перешейке все более склонялась к выходу из войны. Финское правительство все равно в начале сентября прекратило боевые действия против Красной Армии, а в октябре советские войска вновь вышли к Балтике и перерезали сухопутную связь группы армий «Север» с Германией. Впоследствии она была оттеснена в Курляндию, где и продолжала сопротивление до конца войны.
В сентябре советские войска заняли пригород Варшавы Прагу на правом берегу Вислы, но восстание поляков уже агонизировало. В начале октября остатки повстанцев, оттесненные от берега реки, капитулировали. В ноябре попытки армий 1-го и 3-го Белорусского фронтов форсировать Вислу севернее Варшавы и вторгнуться в Восточную Пруссию потерпели неудачу.
Зато полный успех сопутствовал Красной Армии в Румынии. Начавшееся 21 августа наступление в Молдавии 2-го и 3-го Украинских фронтов ускорило переворот в Бухаресте. Король Михай арестовал диктатора страны маршала Иона Антонеску и разорвал союз с Германией. Румынские войска повернули оружие против вермахта. Главные силы группы армий «Южная Украина» были окружены в районе Ясс и Кишинева. Только ее штаб и резервные и тыловые части смогли отступить в Трансильванию. В плен попало более 180 тысяч немецких и румынских солдат и офицеров. От Германии отпала и Болгария, правительство которой 8 сентября 1944 года объявило войну Рейху. Но это не предотвратило вторжения Красной Армии в Болгарию. 9 сентября в Софии произошел коммунистический переворот. Правительство возглавил бывший глава Коминтерна болгарский коммунист Георгий Димитров. Болгарская армия вместе с советскими войсками начала боевые действия в Венгрии. В декабре 1944 года Красная Армия окружила Будапешт.
Осенью 1944 года, когда безнадежность положения Рейха мало у кого вызывала сомнение, Гитлер говорил своему врачу Эрвину Гизингу: «В июне 1941 г. я начал борьбу с молохом большевизма, и я доведу ее до победного конца. Единственный противник, хоть в какой-то мере достойный меня, – это Сталин. Я высоко оцениваю его за то, что он сделал из России… и за его военные достижения. Но в конечном итоге волна большевизма разобьется о стальное национал-социалистическое мировоззрение, и я растопчу это восточноазиатское отродье. Два моих других противника – Черчилль и Рузвельт – не представляют собой никакой силы ни в политическом, ни в военном плане. Англия окончательно рухнет, и от ее мировой империи не останется ничего. Америка поглотит все то, что еще останется, а английская империя будет вычеркнута из истории. Я не могу понять глупости этих людей. Они совершенно не видят, какую опасность представляет большевизм, и не понимают, что рубят сук, на котором сидят. Мне хотелось бы, чтобы обе эти державы признали, пока еще не поздно, что они борются не на той стороне, и я отчетливо вижу тот момент, когда стану… стрелкой весов между русскими и англо-американцами. Провидение подсказало мне… что не может быть никаких соглашений с большевизмом, и я никогда не подам руки России».
Поражения, поставившие Рейх на край пропасти, заставили его руководителей обратить более пристальное внимание на РОА и попытаться с помощью генерала Власова и его соратников избежать тотального разгрома. Еще 16 апреля 1943 года, вскоре после создания командования восточных войск, ведавшего коллаборационистскими формированиями, начальник штаба группы армий «Север» генерал Кинцель, критикуя уставы, предназначенные для этих формирований, писал командующему восточными войсками генералу Гельмиху, что в них обходится главный вопрос: «Что будет с их, бойцов восточных войск, Родиной после войны?», поскольку совершенно неверно думать, что они «сражаются на стороне Германии из благодарности за освобождение от большевизма». «Для бойцов восточных войск на самом деле вопрос стоит так: перейдем ли мы из большевистского рабства в рабство германское или мы боремся за свободу и независимость своей Родины?» Для того чтобы такого рода предположение получило хотя бы формальное одобрение, потребовался разгром немецких войск во Франции и Белоруссии летом 1944 года. 14 сентября Власов был принят Гиммлером. Командующему РОА было обещано сохранение России в границах на 1 сентября 1939 года при условии широкой автономии для нерусских народов и казачьих областей. Гитлер и Гиммлер согласились на формирование 1-й дивизии РОА (600-й пехотной). В январе 1945 года начала формироваться и 2-я дивизия РОА (650-я пехотная). Тогда, осенью 1944 года, Германия готовилась к контрнаступлению в Арденнах, рассчитывая нанести решающее поражение западным союзникам и принудить их к сепаратному миру. После этого рассчитывали бросить все силы на Восток и разгромить Красную Армию. Здесь-то и должны были сыграть свою роль дивизии РОА. К тому времени мечты о «жизненном пространстве» на Востоке стали химерой. Гиммлер обещал Власову власть в России, но понимал: генералу никогда не бывать в Кремле. Участие солдат РОА в боевых действиях, по замыслу немцев, должно было деморализовать красноармейцев, вызвать массовое дезертирство и тем облегчить положение вермахта, позволить германским войскам затянуть войну. Но в бой власовские дивизии вступили всего лишь в апреле 1945 года, когда перебегать из Красной Армии на сторону немцев и РОА могли либо сумасшедшие, либо те, кто, не зная о ялтинских договоренностях, надеялся укрыться на территории, занятой англо-американскими войсками. Да и сами власовцы очень скоро ушли с фронта, рассчитывая сдаться западным союзникам. По пути туда они 6 мая вошли в Прагу, оказав помошь чешским повстанцам, сражавшимся с эсэсовскими частями. Но узнав, что Прагу займет Красная Армия, бойцы РОА покинули столицу Чехословакии. Почти все они во главе с Власовым и другими генералами были выданы Советскому Союзу Англией и США. Из более чем 50 тысяч власовцев не более 10 тысяч избежали выдачи. Та же печальная судьба постигла донских и кубанских казаков, сражавшихся на стороне Германии.