Михаил Громов родился 12 февраля 1899 года в Твери в семье военного врача, выслужившего потомственное дворянство. Детство и юность провёл в Калуге, Ржеве, военном городке Мыза Раево неподалёку от железнодорожной станции Лосиноостровская Московской железной дороги, вокруг которой позже вырос город Бабушкин.

Окончил Реальное училище Воскресенского. С 1910 года увлекался авиамодельным спортом и живописью, также добился высоких результатов в тяжелой атлетике (установил в своё время рекорд города Москвы на соревнованиях в одной из дисциплин). В 1916—1917 годах учился в Императорском Московском техническом училище. В 1917 году окончил авиационные теоретические курсы при ИМТУ. В 1917 году был призван в Русскую императорскую армию, где окончил курсы телеграфистов. В том же году впервые поднялся в небо на самолёте «Farman F.30».

В 1920—1922 годах — лётчик-инструктор, в 1922—1924 годах — начальник отделения боевого применения 1-й Московской авиашколы. Весной 1923 года был временно прикомандирован лётчиком-инструктором и командиром учебного авиаотряда к Серпуховской высшей школе воздушного боя, где одним из его курсантов стал Валерий Чкалов.

В период с 1924 по 1930 год находился на лётно-испытательной работе в НИИ ВВС (ГЛИЦ МО им. В. П. Чкалова). В 1925 году Михаил Громов стал участником авиаперелёта Москва — Пекин — Токио, за который был награждён орденом Красного Знамени и удостоен звания заслуженного лётчика.

Военные годы
• декабрь 1941 — февраль 1942 — командир 31-й смешанной авиадивизии (Калининский фронт);

• февраль — май 1942 — командующий ВВС Калининского фронта;

• май 1942 — май 1943 — командующий 3-й воздушной армией;

• май 1943 — июнь 1944 — командующий 1-й воздушной армией;

• 1944—1946 — начальник Главного Управления боевой подготовки фронтовой авиации ВВС.

По окончании войны продолжил службу в Советской армии, с 1946 по 1949 годы — заместитель командующего Дальней авиацией. В 1949—1955 годах — начальник Управления лётной службы МАП СССР. C 1955 года — в запасе.