Это были части реактивной артиллерии – батареи знаменитых «катюш», которым присваивалось звание гвардейских при их формировании. Тем самым подчеркивалось большое значение нового для того времени средства поражения.
Но подлинным днём рождения советской гвардии считается 18 сентября 1941 года. В этот день приказом народного комиссара обороны СССР четыре стрелковые дивизии Западного фронта  – 100, 127, 153 и 161-я  были преобразованы, соответственно, в 1, 2, 3 и 4-ю гвардейские стрелковые дивизии. Об обстоятельствах, связанных с появлением гвардейских стрелковых соединений, рассказано в воспоминаниях Маршала Советского Союза Г.К. Жукова. Во время его доклада И.В. Сталину вечером 9 сентября 1941 года об обстановке на московском направлении встал вопрос о действиях частей 24-й армии. Жуков отметил, что в сражениях отличились именно четыре эти дивизии. Сталин пометил что-то в своём блокноте, и вскоре последовал приказ, в котором не только говорилось о переименовании дивизий, но и перечислялись причины их успешных боевых действий.
Это должно было стать мощным стимулом для остальных частей и соединений РККА в совершенствовании их боевого мастерства.
Вскоре многие соединения, проявившие героизм и мужество, были отмечены званием гвардейских. Так, уже 21 сентября гвардейской стала 1-я Московская мотострелковая дивизия, отличившаяся в боях под Смоленском, а 26 сентября – 107, 120 и 64-я стрелковые дивизии были переименованы в 5, 6 и 7-ю гвардейские.
Вслед за этим гвардейские части и соединения появились в других родах войск и видах Вооружённых сил. 11 ноября 1941 года в 1-ю гвардейскую танковую бригаду была преобразована 4-я танковая бригада полковника М.Е. Катукова, отличившаяся в боях под Мценском. 26 ноября родилась советская кавалерийская гвардия: кавкорпуса, которыми командовали П.А. Белов и Л.М. Доватор, за героические действия при обороне Москвы были преобразованы в 1-й и 2-й гвардейские корпуса.
В декабре 1941 года появилась первая гвардейская авиационная часть.