К началу Великой Отечественной войны Иосифу Максимовичу было 44 года и он не подлежал призыву на военную службу по возрасту. Но оставаться дома он, защищавший Родину еще в Первую мировую войну, не мог, и 11 июля 1941 года ушел на фронт добровольцем 3-й фрунзенской дивизии народного ополчения 1-го стрелкового полка.
Полк сражался на Лужском рубеже, сдерживая наступление врага на Ленинград.
Дивизия оказалась в Лужском котле. Из окружения прорывались группами. Иосиф Максимович в числе 20 тысяч защитников Лужского рубежа попал в плен.
В своих воспоминаниях он пишет, что с этого времени «началось его хождение по мукам». До 21 марта 1945 года он работал в угольных шахтах в Рурской области. Был освобожден Американскими войсками.
В 1946 году, пройдя пешком через всю Европу, вернулся к своей семье в Ленинград.