В первые дни Великой Отечественной войны Федор Абрамов ушел добровольцем в народное ополчение защищать Ленинград. Был дважды тяжело ранен. Непростое время осени и зимы 1941–1942 гг. он находился в блокадном госпитале, а весной 1942 г. Федора Александровича вывезли по Дороге жизни на Большую землю, после чего он долечивался в тыловых госпиталях Вологодской и Архангельской области. В апреле Абрамов получает отпуск по ранению и едет на Пинежье. Три месяца Федор Александрович преподавал в Карпогорской школе.

Вскоре юноша вновь был призван в армию для службы в нестроевых частях (вернуться на фронт не позволяют ранения). С февраля 1943 г. по октябрь 1945 г. писатель был заместителем роты в 33-м запасном стрелковом полку Архангельского военного округа, затем помощником командира взвода Архангельского военно-пулеметного училища.

В апреле 1943 г. его переводят в отдел контрразведки «СМЕРШ», где он начинает службу с должности помощника оперативного оперуполномоченного резерва, уже в августе становится следователем, а в июне 1944 г. – старшим следователем отделения отдела контрразведки. Воспоминания о работе в «Смерш» отражены в автобиографической повести «Кто он?». За боевые заслуги Федор Абрамов был награжден орденами и медалями Орден Отечественной войны 2-й степени медали «За оборону Ленинграда», «За победу над Германией в Великой Отечественной войне 1941-1945 гг.»