Строительство мечети в Старой татарской слободе стало воплощением начала веротерпимости в России, провозглашенной Екатериной II. Мечеть построена по личному разрешению императрицы, данному во время посещения ею Казани в 1767 году. До этого ни одной каменной мечети в Казани не было построено с момента взятия города Иваном Грозным в 1552 году. Строительство завершилось в 1770-х годах. Мечеть построена в традициях средневековой татарской архитектуры, но обработана в стиле петербургского барокко. Предполагаемый архитектор - В.И.Кафтырев. В 1861 году на средства И. Г. Юнусова мечеть была расширена пристройкой. В 1885 году на средства купца З. Усманова был перестроен минарет. В мечети во второй половине XIX века служил имам Ш.Марджани, из-за этого она получила самое распространённое своё наименование.