Был призван в РККА в 1942 году. Закончил школу снайперов в г. Тула. Воевал на украинском фронте в составе 394 стрелкового полка 110 стрелковой дивизии, которая освобождала от фашистов такие города как  Новороссийск, Днепропетровск, участвовала в освобождении Румынии и Польши. В августе 1945 года произошло второе формирование  110-й дивизии и переброска её на борьбу с Японским империализмом. 18 сентября 1945 года был награждён медалью «За боевые заслуги». В наградном листе записано, что Иван Васильевич Груздев в боях за город Цзямусы смело и решительно действовал в уличных боях. До 1946 года  служил в Манчжурии.

В 1985 году Иван Васильевич в честь 40-летия Великой Победы был награждён Орденом Отечественной войны II степени.