Воскресным утром 22 июня 1941 года ленинградцы узнали о нападении Германии на СССР, началась Великая Отечественная война. Наиболее ценные экспонаты военно-морского музея были эвакуированы в Ульяновск. Оставшиеся в блокадном Ленинграде сотрудники музея сумели сохранить то, что не удалось вывезти. Многие из них погибли от голода и холода…
В начале войны в ЦВММ были созданы три группы из сотрудников музея.
Первая работала в Ленинграде. Ее задачи: охрана оставшегося в помещениях Биржи музейного имущества, сохранение здания при налетах авиации и артиллерийских обстрелах, комплектование музея и научно-пропагандистская работа.
Второй группе предстояло работать в Ульяновске, куда по распоряжению Наркомата ВМФ было эвакуировано имущество музея. К концу июля 1941 г. из Ленинграда ушло два каравана барж с музейным имуществом и книжными фондами Центральной военно-морской библиотеки.
Эта группа должна была обеспечить хранение музейных ценностей и книжных фондов в неприспособленных для этого помещениях бывшей Симбирской лютеранской кирхи. Кроме того, сотрудники ЦВММ занимались оприходованием поступавших с действующих флотов и мест боев реликвий и трофейного оружия, в том числе ездили в командировки на флоты и в подразделения морской пехоты для сбора экспонатов. Занималась эта группа также справочно-консультационной работой и организацией выставок.
Третья группа находилась в Москве, как связующее звено между командованием ВМФ и музеем. Она же производила отбор материалов, поступавших непосредственно в Наркомат ВМФ с действующих флотов и частей, сражавшихся на берегу. В момент усилившихся бомбардировок Москвы вражеской авиацией, было принято решение об эвакуации из столицы экспонировавшихся там предметов ЦВММ.
В целях упорядочения сбора и накопления наиболее интересных материалов с мест боев народный комиссар ВМФ Адмирал Флота Н.Г. Кузнецов подписал приказ №268 от 27 июля 1943 г. «О сборе реликвий и боевых трофеев Отечественной войны при ЦВМ музее». Всего в годы войны в музей поступило более 20 тысяч новых экспонатов.
После снятия блокады Ленинграда и развернувшегося наступления Красной Армии на всех фронтах 12 апреля 1944 года нарком ВМФ Н.Г.Кузнецов принял решение о возвращении из Ульяновска в Ленинград фондов ЦВММ, восстановлении всех ранее существовавших экспозиций и создании нового отдела «Военно-Морской Флот в Великой Отечественной войне».
В конце мая 1945 года в Ленинград прибыла по железной дороге из Ульяновска первая тысяча ящиков с экспонатами музея.
К Дню Военно-Морского Флота, 28 июля 1946 года, после пятилетнего перерыва, музей был вновь открыт для посетителей.