Ивана призвали на срочную действительную службу ещё до войны весной 1940 года, попал он служить в артиллерию. С самого начала войны Иван находился на передовой, ведь служил он в противотанковой артиллерии. Противотанковая батарея в ходе боевых действий ведёт дуэльную борьбу с танками противника и живучесть орудия измеряется неделями, а то и днями, но Иван в этой батарее,  входившей в состав 143 танковой бригады, провоевал с июня 1941 года по август 1943 года. Имел боевые награды. В представлении к награждению медалью  «За отвагу» командир противотанковой батареи старший лейтенант Телегин писал: «Красноармеец – наводчик 2-го орудия ПТБ Баранов в боях с немецкими захватчиками проявил мужество и отвагу:

30.7.42 года, будучи на прямой наводке, его орудие уничтожило в районе д. Дятловка (Калининский фронт) 2 миномёта, 4 орудия 75 мм и до 15 гитлеровцев;

3.8.42 года огнём своего орудия уничтожил: 3 миномёта, 2 станковых пулемёта, 2 автомашины с грузом и более 10 гитлеровце (район д.Гопаково);

4.8.42 года своим орудием уничтожил одно 150 мм орудие в районе д.Гопаково, которое стреляло прямой наводкой по нашим танкам.

           Наводчик Баранов достоин правительственной награды медаль «За отвагу»».

                   26 августа 1942 года вышел приказ №0304, в котором говорится: «От имени Президиума Верховного Совета Союза ССР за образцовое выполнение боевых заданий командования на фронте борьбы с немецкими захватчиками и проявленную при этом доблесть НАГРАДИТЬ: По 30 АРМИИ «Орденом Красной Звезды  красноармейца БАРАНОВА Ивана Михайловича – наводчика 2 орудия противотанковой батареи 143 танковой бригады». В 1943 году Ивана, как грамотного и дисциплинированного бойца направляют для учёбы в Казанское танковое училище, которое он успешно оканчивает и направляется для дальнейшего прохождения службы в действующую армию.

В 1944 году пришло сообщение, что в ходе ожесточённых боёв  младший лейтенант Баранов Иван Михайлович – командир танка Т-34 -  пропал без вести в марте 1944 года.