Для воссоздаваемого Морского музея были отведены помещения во втором этаже западного крыла Главного Адмиралтейства. Музей открыл свои залы для посетителей в 1867 году. Но уже через три года его коллекции так разрослись, что для расширения экспозиционной площади потребовалось в 1870 году было присоединено к музею несколько помещений 3-го этажа. В 1900-1904 годах экспозиция музея была значительно перестроена и расширена. После этой реэкспозиции петербургский Морской музей заслуженно признавался одним из лучших морских музеев мира. В дальнейшем сотрудники музея не прекращали дорабатывать экспозицию. К 1917 году она состояла из следующих отделов:
1. эпоха Петра I;
2. эпоха императриц Анны, Елизаветы и Екатерины II;
3. эпоха императоров Павла I и Александра I;
4. эпоха Николая I и Александра II;
5. эпоха Александра III и Николая II;
6. «отдел бытовой эпохи генерал-адмирала Константина Николаевича» (созданный на основе морской коллекции, завещанной музею великим князем);
7. Русско-турецкая война 1877–1878 годов;
8. Русско-японская война 1904–1905 годов;
9. отдел мировой войны;
10. артиллерийский отдел;
11. механический отдел;
12. отдел портовых сооружений;
13. этнографический отдел;
14. гидрографический отдел.
Морской музей не ограничивался собиранием, хранением и показом только старинных предметов. Он был и центром технического прогресса, в него поступали новые виды оружия, подлежащие испытанию, проектные модели и чертежи судов, опытные станки, аппараты. В музее в условиях секретности хранились изобретения известных конструкторов А. П. Давыдова и С. К. Джевецкого; модели судов, спроектированные крупнейшим кораблестроителем А. А. Поповым; в 1877 году из музея выдается для испытаний на опытовой батарее одна из первых в мире скорострельных пушек конструкции В. С. Барановского. С целью осмотра технических новинок музей часто посещали высокопоставленные особы (члены императорской фамилии, руководители морского ведомства, крупные чиновники). В лекционном зале музея часто устраивались публичные сообщения по различным вопросам военно-морского дела. Здесь читали лекции многие известные историки флота, демонстрировал опыты изобретатель радио А. С. Попов.
В 1908 году, перед торжественным празднованием 200-летия музея, ему было присвоено имя его основателя — Петра Великого.
Морской музей вел большую выставочную работу. За 50 лет (с 1867 по 1917 год) он принял участие в 31 выставке, в том числе в 5-ти всемирных, 7-ми международных, 2-х зарубежных национальных и 17-ти отечественных и был удостоен многочисленных наград. Подобная выставочная активность музея для того времени уникальна.
