Родился в 1905 году в Смоленске. В 1920-1922 годах проходил службу в Рабоче-крестьянской Красной Армии. В 1928 году повторно призван в армию Смоленским городским военным комиссариатом. Участвовал в польском походе РККА.

С первого дня Великой Отечественной войны – на её фронтах. Воевал помощником по материальному обеспечению 288-го стрелкового полка 64-й стрелковой дивизии, затем начальником связи 45-й отдельной стрелковой бригады. Участвовал в Смоленском сражении и битве за Москву, осенью 1941 года был ошибочно признан пропавшим без вести.

С января 1943 года занимал должность начальника связи и одновременно помощника по связи начальника штаба 380-й стрелковой дивизии. Принимал участие в боях на Западном, Северо-Западном, Брянском, Белорусском фронтах. Участвовал в Курской битве, обеспечивал связь дивизии во время её наступления на Орловском направлении. 380-я стрелковая дивизия была одной из трёх дивизий, ворвавшихся в Орёл и освободивших его 5 августа 1943 года - её разведчики установили Красное Знамя на доме № 11 по Московской улице, чем ознаменовали освобождение города. Дивизия получила почётное наименование "Орловской", ей в числе прочих частей - освободителей Орла и Белгорода - впервые салютовала Москва.

Командир дивизии полковник А. Ф. Кустов, начальник связи подполковник М. М. Ермолаев и знаменосец красноармеец Г. Аждаров были особо отмечены за заслуги в этой битве, окончательно переломившей ход войны в пользу антигитлеровской коалиции. 19 января 1944 года Указом короля Великобритании Георга VI подполковник Михаил Ермолаев был награждён орденом Британской империи 4-й степени. Кроме него, английский король наградил ещё 200 отличившихся на полях сражений советских солдат и офицеров.

В дальнейшем участвовал в освобождении Белорусской ССР, в том числе Могилёвской области, Польши, в том числе городов Ломжа, Сопот, Гданьск. Неоднократно отличался в боях. Так, во время форсирования Вислы в районе Гданьска Ермолаев лично руководил проводкой связи следом за наступающими пехотными частями.

После окончания войны Ермолаев продолжил службу в Советской Армии. Был уволен в запас в звании гвардии подполковника. Вернулся в Смоленск. Умер в 1973 году, похоронен на аллее Почёта Нового кладбища Смоленска.

Был награждён орденом Ленина, двумя орденами Красного Знамени (09.05.1945, ...), орденами Отечественной войны 1-й (17.10.1944) и 2-й (10.04.1944) степеней, орденом Красной Звезды (20.07.1943), орденом Британской империи 4-й степени (19.01.1944), рядом медалей.