Воскресным утром 22 июня 1941 года ленинградцы узнали о нападении Германии на СССР, началась Великая Отечественная война. Наиболее ценные экспонаты были эвакуированы в Ульяновск. Оставшиеся в блокадном Ленинграде сотрудники музея сумели сохранить то, что не удалось вывезти. Многие из них погибли от голода и холода…
После снятия блокады Ленинграда и развернувшегося наступления Красной Армии на всех фронтах 12 апреля 1944 года нарком ВМФ Н. Г. Кузнецов принял решение о возвращении из Ульяновска в Ленинград фондов Центрального военно-морского музея, восстановлении всех ранее существовавших экспозиций и создании нового отдела «Военно-Морской Флот в Великой Отечественной войне».
В конце мая 1945 года в Ленинград прибыла по железной дороге из Ульяновска первая тысяча ящиков с экспонатами музея.
К Дню Военно-Морского Флота, 28 июля 1946 года, после пятилетнего перерыва, музей был вновь открыт для посетителей. В послевоенный период неоднократно проводились значительные работы по перестройке экспозиции музея.