Здание музея построено в 1874-1883гг. по проекту архитектора В.О.Шервуда и инженера А.А.Семенова на месте Главной аптеки начала XVIIIв. Архитектура музея должна была воплощать идеи национальной истории, для чего применялись формы тех или иных древних зданий. Шервуд обратился в первую очередь к зданиям, с которыми музей должен был составлять единый ансамбль: Храму Василия Блаженного и башням Кремля. Передняя часть музея представляет собой сложную композицию, состоящую из разновысоких объемов и башенок, и как бы отвечает храму Василия Блаженного. Стройные башенки, венчающие фасад, перекликаются с кремлевскими шатрами. Фасад музея со стороны города, более строгий, также фланкирован двумя башенками в углах. Мотивы древнерусского "узорочья" в обработке фасадов здания заимствованы из различных сооружений XVIIв. Авторам удалось создать пространственно выразительный облик здания, органически вошедший в ансамбль Красной площади и связывающий ее с ансамблями центра.