По плану операции наступление советских войск было намечено на 14 января. Уже 12 января командование Воронежского фронта предприняло разведку боем. Последовавший удар главными силами принес немедленный успех: венгерские дивизии стремительно покатились назад; не смогли сдержать атаки советских частей и немецкие дивизии 24-го корпуса.
К исходу 14 января 15-й танковый корпус под командованием генерал-майора танковых войск B. Л. Копцова с ходу овладел Жилином, разгромив при этом штаб 24-го немецкого танкового корпуса и штабы его 385-й и 387-й пехотных дивизий. Среди убитых оказался и командир 24-го танкового корпуса генерал-лейтенант Вандель. Продолжая наступление, корпус к утру 15 января овладел Александровкой, а к исходу дня Еремовкой, перерезав дорогу Россошь — Ровеньки.
Наступление главных сил 12-го танкового корпуса вскоре было задержано в районе Михайловки, а затем Митрофановки.
Стремительно наступала лишь его 106-я танковая бригада. Не ввязываясь в затяжные бои за опорные пункты, она в ночь на 15 января овладела Лизиновкой и оказалась в глубоком тылу врага. Командир бригады полковник И. Е. Алексеев решил воспользоваться благоприятным моментом и овладеть Россошью, до которой оставалось лишь 5 км.
Командование итальянской армии довольно быстро реагировало на опасность, нависшую над альпийским корпусом. Уже 15 января, при первых известиях об отступлении венгерских дивизий, оно запросило у штаба группы армий разрешение отвести корпус для того, чтобы выровнять линию фронта. Об этом было доложено Гитлеру, который не только не разрешил отход, но и отказался санкционировать уже согласованную ранее передислокацию 24-го немецкого корпуса с целью усилить фланговый заслон. Это решение имело чисто формальное значение: 24-й корпус уже стремительно откатывался назад под ударами советских войск. Его штаб даже не успел или не посчитал нужным сообщить командующему итальянскими войсками о том, что правый фланг альпийцев остался открытым. Об этом ему «сообщили» советские танкисты, которые на рассвете 15 января внезапно появились в Россоши, где был расположен штаб альпийского корпуса. Лишь 17 января, когда основные пути отхода были уже перехвачены советскими механизированными частями, альпийский корпус получил указание об отходе. В тот же день связь альпийцев с армией прервалась навсегда.
Однако враг, поняв, что в город ворвалась лишь горстка советских танков, стал оказывать упорное сопротивление. Завязался ожесточенный бой, в ходе которого личный состав бригады проявил стойкость, отвагу и массовый героизм.
К середине дня на помощь своему гарнизону немецкое командование бросило авиацию с Евстратовского аэродрома, находившегося в 3 км восточнее города. Под ее ударами стали один за другим выходить из строя танки, а у оставшихся в строю боеприпасы и горючее были на исходе. Бригада вынуждена была оставить Россошь и отходить к железнодорожной станции, которой предстояло овладеть.
В конце дня, когда наступил критический момент, в атаку пошел сам комбриг полковник Алексеев. Его танк ворвался на станцию. Но тут же в него угодил вражеский снаряд, и машина вспыхнула. Гибель комбрига вызвала у танкистов новый прилив ненависти к врагу. Они овладели станцией, захватив на ней несколько эшелонов врага, и удерживали ее до подхода главных сил корпуса. В это же время танкисты под командованием старшего лейтенанта В. Н. Цыганка захватили Евстратовский аэродром, уничтожив на нем несколько вражеских самолетов.
К исходу 15 января к Россоши подошли 30-я и 97-я танковые бригады 12-го танкового корпуса, которыми командовали подполковник Л. И. Курист и полковник И. Т. Потапов. Однако ворваться в город и оказать помощь 106-й бригаде они не смогли, так как противник к этому времени занял прочную оборону на левом берегу реки Черная Калитва и оказывал упорное сопротивление. Только с подходом 13-й мотострелковой бригады и одного полка 180-й стрелковой дивизии утром 16 января сопротивление противника было сломлено и во второй половине дня город был освобожден от немецких и итальянских войск. В ходе боев за Россошь корпус уничтожил до 2 тысяч немцев и пленил 1,2 тысячи вражеских солдат и офицеров.
Командир дивизии «Кунеэнзе», попавший в плен, рассказывал позднее: «С 17 января никаких приказов… я не получал. Связи как с корпусом, так и с другими дивизиями не было. Дивизия все время вела бои с превосходящими силами русских танков и мотопехоты, против которых не имела противотанковых средств, так как при отходе с Дона большая часть артиллерии была оставлена на месте».
15-й танковый корпус после освобождения населенного пункта Еремовка продолжал наступать в направлении Мартыновцы, Шелякино. Но поскольку все силы 12-го танкового корпуса были нацелены на Россошь, утром 16 января командарм приказал 15-му танковому корпусу наступать в направлении Гирлы, Приходин и овладеть Ольховаткой.
Оборонявший Ольховатку сильный гарнизон противника оказал корпусу упорное сопротивление. Тогда комкор генерал Копцов послал группу танков с автоматчиками в обход Ольховатки с запада. Группа с ходу овладела Марьевкой. С падением этого населенного пункта вражеский гарнизон Ольховатки, опасаясь окружения, начал отходить на северо-запад. К исходу 16 января Ольховатка была освобождена, хотя очищение ее от отдельных вражеских групп продолжалось до 7 часов 17 января. В ходе боев за нее было уничтожено до 500 и пленено до 2 тысяч немцев, захвачено большое количество автомашин и 300 повозок.
В бою за Ольховатку особенно отличился личный состав 52-й мотострелковой бригады под командованием подполковника A. Л. Головачева. Моряки, которыми была укомплектована эта бригада, отважно сражались с врагом, проявляя при этом мужество и героизм.
Вслед за танковыми корпусами наступали стрелковые дивизии. 180-я стрелковая дивизия генерал-майора И. Я. Малошицкого и 173-я танковая бригада генерал-лейтенанта танковых войск В. А. Мишулина разгромили противника в районе Митрофановки и к исходу 16 января вошли в Россошь, 37-я стрелковая бригада овладела Морозовкой (5 км северо-восточнее Митрофановки), прикрыв правый фланг армии от ударов противника с востока. 48-я гвардейская стрелковая дивизия генерал-майора И. М. Маковчука с 179-й танковой бригадой полковника Ф. Н. Рудкина двигалась на Ольховатку, а 184-я стрелковая дивизия полковника С. Т. Койды наступала на северо-запад.
Успешно развивалось наступление и на левом фланге армии. Утром 15 января в сражение был введен 7-й кавалерийский корпус генерал-майора С. В. Соколова. Не встречая на своем пути серьезного сопротивления, корпус к исходу 16 января сломил сопротивление 5-й итальянской дивизии и овладел Нагольной и Ровеньки.
В ночь на 17 января армия возобновила наступление. Бушевала метель. Дорога на Подгорное, по которой предстояло двигаться главным силам 12-го танкового корпуса, была занесена снегом и стала непроходимой. Корпус вынужден был наступать на Каменку через населенный пункт Постоялый, где имелась расчищенная противником дорога. Громя на своем пути тылы противника и его отдельные группы, 106-я танковая бригада, в командование которой вступил полковник И. М. Дагилис, к утру 18 января освободила Татарино. Главные силы корпуса к утру 19 января овладели поселком Карпенково.