5 октября 1939 г., когда Ивану исполнилось 20 лет, он был призван Тюменцевским райвоенкоматом на действительную военную службу. Службу проходил в Белоруссии. Военную присягу принял 1 января 1940 г. в 59 стрелковом полку 85 стрелковой дивизии. В звании старшины служил в должности заместителя политрука полка.

Великая Отечественная война застала в приграничном округе, недалеко от г. Молодечно. 22 июня 1941 г. полк был поднят по тревоге, занял позиции на юго-западной окраине Гродно и скоро вступил в бой с отрядами мотоциклистов. Большая часть полка находилась на строительстве укрепрайона и была отрезана от основных сил. После ожесточенных боев с подошедшей пехотой полк ночью оставил Гродно и отошел на рубеж реки Свислочь. В Белостокском котле дивизия понесла большие потери.

28 июня 1941 г. Шумилов осколком снаряда был ранен в правую ногу. Из-за ранения он отстал от своих товарищей, и в одиночку пробирался от хутора к хутору. Дошел до белорусского города Столбцы, где был схвачен во время облавы, 18 дней просидел в четырехугольной каменной коробке, на 19-й – сбежал. Выпрыгнув из вагона, вместе с товарищем по скитаниям Николаем Иванниковым, продолжил путь на восток, к фронту… Но фронт был уже далеко.

Не балованный жизнью, привыкший с детства к самостоятельности, к труду, к суровым испытаниям, Иван Леонтьевич не растерялся и в этой нелегкой обстановке: «Будем, сколько хватит сил, бить фашистов тут, на белорусских дорогах».

С 1 февраля 1942 г. Иван Шумилов сражался против фашистских оккупантов в белорусских лесах в составе партизанского отряда «Большевик», сначала рядовым, с 1 июня 1942 г. – командиром взвода, а с 1 сентября 1942 г. – начальником штаба партизанского отряда «Большевик». С 10 января 1944 г. назначен командиром партизанского отряда «Сибиряк» партизанской бригады «Вперед».

Именно тогда на коротких привалах, записывая в своем дневнике изо дня в день историю жизни партизанского отряда и появилась мечта увековечить подвиг боевых товарищей в книге, впоследствии вышедшей под названием «В тылу врага».

В 1944 г. Белоруссия стала свободной. Партизанский отряд «Сибиряк» был расформирован, а И. Л. Шумилов направлен в Барановичское областное управление трудовых резервов заместителем начальника по военной подготовке.

За мужество и героизм, проявленные в борьбе против немецко-фашистских захватчиков, И. Шумилов был награжден приказом начальника Белорусского штаба партизанского движения № 227/Н от 28 августа 1944 года медалью «Партизану Отечественной войны» первой степени, Указом Президиума Верховного Совета СССР от 30 декабря 1948 г. орденом Красной Звезды.