Вероломное нападение фашистской Германии на СССР нарушило мирный труд совествких людей. 22.06.1941 в Гомельском горкоме партии состоялось экстренное совещание с руководителями партийных, профсоюзных и комсомольских организаций, на котором намечены меры по мобилизации сил и средств на борьбу с фашистской агрессией. В городе прошли массовые митинги. В короткие сроки проведена мобилизация военнообязанных. С первых дней войны промышленность Гомеля стала работать на нужды обороны. Заводы "Гомсельмаш" и "Двигатель революции" наладили ремонт боевой техники и выпуск миномётов, станкостроительный завод им. Кирова и лесокомбинат освоили производство противотанковых мин, спичечная фабрика "Везувий" - ручных гранат. Железнодорожники создали 30 передвижных мастерских для ремонта армейских машин в полевых условиях. Для борьбы с фашистскими парашютистами и диверсантами создавались истребительные отряды, в июле из непризывных добровольцев в помощь действующей армии сформирован народного ополчения полк. Тысячи гомельчан трудились на строительстве оборонительных сооружений. С приближением фронта началась эвакуация. В предельно короткие сроки из города вывезены оборудование 42 промышленных предприятий, запасы сырья и готовой продукции, многие семьи рабочих и служащих. В начале июля 1941 г. территория Гомельщины стала ареной боевых действий. 24 июля из состава Западного фронта был выделен Центральный фронт (командующий генерал-полковник Ф. И. Кузнецов, член Военного совета - секретарь ЦК КП(б) Б П. К. Пономаренко, начальник штаба полковник Л. М. Сандалов), штаб которого дислоцировался в Гомеле. Сюда прибыли также ЦККП(б)Б, СНК БССР, ЦК ЛКСМБ. Противник сконцентрировал на Гомельском направлении 25 дивизий, подкреплённых танковыми и авиационными соединениями. Гомель ежедневно подвергался массированным налётам фашистской авиации. 12 августа 2-я немецкая армия начала штурм города. В течение недели войска 21-й армии Центрального фронта и ополченцы сдерживали ожесточённые атаки противника (Смотрите Оборона Гомеля 1941 г.).

Используя превосходство в силах, 19 августа немецко-фашистские войска ворвались в Гомель. Гитлеровцы установили жестокий оккупационный режим. Они создали в городе несколько тюрем, 5 лагерей смерти и 6 отделений, расстреляли и замучили более 100 тыс. военнопленных и мирных жителей. На плечи гомельчан легло тяжёлоё бремя налогов и поборов. Население в принудительном порядке привлекалось к различным работам. За малейшее невыполнение распоряжений властей угрожали тюрьма и расстрел. В Гомеле постоянно находился немецкий гарнизон численностью более 8 тыс. солдат и офицеров, различные карательные службы.

Советские патриоты во главе с коммунистами вели в оккупированном Гомеле борьбу против захватчиков. Ещё в период оборонит, боёв в августе 1941 г. были созданы Гомельский подпольный обком КП(б)Б, Гомельский подпольный горком КП(б)Б, Гомельский подпольный обком ЛКСМБ, в первые дни оккупации организован Гомельский подпольный горком ЛКСМБ. В августе - сентябре 1941 г. активную борьбу против захватчиков вели около 20 групп, в том числе подпольная группа Бородина Т. С., подпольная группа Железнякова И. И., группы коммунистов Т. В. Блинкова, Л. И. Дегиревского, М. Д. Жизневского, Е. К. Колесникова, Г. И. Королёва, В. И. Сухова и других. Для координирования работы подпольных групп и отдельных подпольщиков в ноябре 1941 г. создан Гомельский подпольный оперативный центр.

Большую работу по срыву вражеских перевозок проводила с декабря 1941 г. подпольная организация на паровозовагоноремонтном заводе. Всего в годы оккупации в Гомеле действовало более 50 подпальных групп. Подпольщики распространяли листовки, вели разведку, вывели из строя городскую электростанцию, 5 цехов предприятий, 6 мастерских, 15 воинских складов, узел связи, 2 фабрики и другие, переправляли к партизанам узников лагерей, военнопленных. В борьбе с немецко-фашистскими захватчиками погиб каждый третий подпольщик. На территории Гомельской области с самого начала немецко-фашистской оккупации зародилось партизанское движение, с ноября 1942 г. действовало Гомельское партизанское соединение.

К осени 1943 г. Красная Армия, успешно развивая наступление, вышла к р. Сож. 26.11.1943 совместными действиями войск 11-й и 48-й армий Белорусского фронта и партизан в ходе Гомельско-Речицкой операции 1943 г. Гомель освобождён от немецко-фашистских захватчиков 23 частям и соединениям, отличившимся в операции, присвоены почётные наименования "Гомельских". Сразу после освобождения в Гомель переехали ЦК КП(б)Б, СНК БССР, здесь дислоцировался штаб Белорусского фронта. В д. Чёнки Гомельского района располагался Белорусский штаб партизанского движения. 01.01.1944 в Гомеле состоялось торжественное заседание в честь 25-летия БССР, в марте 1944 г. - Шестая сессия Верховного Совета БССР 1-го созыва.

Война нанесла городу огромный ущерб. Фашисты вывезли в Германию оставшееся промышленное и энергетическое оборудование, запасы продовольствия, сырья и материалов, на 80 % уничтожили жилой фонд. Погибло более 55 тыс. жителей города, свыше 5 тыс. угнаны на каторжные работы в Германию. Население Гомеля уменьшилось более чем в 9 раз. Ущерб, нанесённый народному хозяйству города, составил более 3 млрд. руб.