14 сентября 1869 года на ул. Екатерининской (ныне ул.Ленина) в доме, Э.И. Тотлебена, одного из руководителей обороны и активного участника создания музея, открылась первая экспозиция. В 1895 году, по проекту архитектора А. М. Кочетова было построено новое здание, в котором музей расположен и в наши дни.
В 1940 года музей получил официальное название - Военно-исторический музей Черноморского флота.
В 1940 года музей получил официальное название - Военно-исторический музей Черноморского флота.