История музея началась 4 марта 1958 года, когда заместитель министра морского флота СССР Юрий Савинов подписал приказ об образовании выставки морского флота в Москве. Выставка не случайно была организована именно в Москве: Канал имени Москвы, построенный в 1930-х годах превратил город в порт пяти морей, здесь же были сосредоточены основные координирующие структуры морского флота, а также целый ряд профильных научных и образовательных заведений.
Выставка расположилась на улице Сретенка в здании храм Успения Пресвятой Богородицы. Недалеко отсюда стояла разрушенная в 1934 году Сухарева башня, в которой располагалась основанная в 1701 году Петром I школа математических и навигацких наук – первое морское учебное заведение в России.
В создании экспозиции принимало участие Центральное проектно-конструкторское бюро № 2, а также прославленные капитаны советского флота – Александр Бочек, Георгий Мезенцев, Иван Ман. Открывали выставку 12 января 1960 года министр морского флота СССР Виктор Бакаев и главнокомандующий Военно-морским флотом СССР адмирал флота Сергей Горшков. Экспозиция отражала историю и перспективы развития отечественного морского транспорта. Здесь были представлены модели судов, электрорадионавигационная аппаратура, механическое и перегрузочное оборудование, статодинамические диорамы, макет обсерватории «Мирный» в Антарктиде, картины советских художников-маринистов и моряков-любителей. Посетители могли видеть судовую радиостанцию, штурманскую и рулевую рубки ледореза «Ф. Литке».
Культурно-образовательная программа выставки включала экскурсии, занятия со школьниками и студентами, выставки, научные семинары с заслуженными моряками, пионерские линейки и cборы. В лекционном зале на 100 мест демонстрировались фильмы, знакомящие с флотскими профессиями, с деятельностью человека по освоению морских просторов. Активная деятельность выставки была интегрирована в общественную жизнь Москвы, и в павильоне «Судостроение» на ВДНХ ее экспонаты занимали центральное место.
В 1989 году в соответствии с решением Министерства культуры РСФСР по приказу Всесоюзного объединения научно-технической информации и коммерческой рекламы «Мортехинформреклама», относящегося к Министерству морского флота, выставка была преобразована в музей «Морской флот СССР». После реорганизации музей продолжил активную деятельность: в 1990 году принял участие в Международной выставке в городе Нагасаки.
В 1994 году после президентского указа о возвращении здания храма Русской Православной Церкви музей переехал в помещение Морской школы ДОСААФ на улице Адмирала Макарова. С 1994 по 2012 год в 15 залах Морской школы была развернута экспозиция площадью 1350 м2. В состав входили кают-компания, «Клуб капитанов», морская библиотека, реставрационная и столярная мастерские. Музей вел экскурсионную и выставочную деятельность, организовывал циклы лекций, круглые столы и научные чтения. За свою деятельность музей получил диплом III степени в смотре-конкурсе историко-патриотических музеев центральных аппаратов министерств и ведомств в 2004 году. С того же года музей находится в ведении Федерального агентства морского и речного транспорта.
В 2005 году распоряжением Правительства РФ от 5 января № 4-р музей был включен в перечень 68 музеев федерального значения, среди которых – Государственный Эрмитаж, Государственный музей изобразительных искусств имени А.С. Пушкина, Государственный исторический музей.
В 2011 году музей переименован в Федеральное бюджетное учреждение «Музей морского флота». Его учредителем является Федеральное агентство морского и речного транспорта. С 11 сентября 2012 года музей располагается на улице Большая Ордынка, дом 19, строение 1. В фондах музея хранятся мемории министров морского флота, капитанов дальнего плавания, матросов и механиков. Значительную часть собрания составляют архивы фотодокументов и личные архивы. Музей активно пополняет собрание и взаимодействует с музеями Москвы и других городов – Государственным историческим музеем, Государственным центральным музеем современной истории России, Центральным музеем Вооруженных Сил Российской Федерации, Арктическим выставочным центром «Атомный ледокол «Ленин» – и с отраслевыми организациями.
