Монастырь расположен на Зилантовой горе, благодаря чему получил свое неофициальное название. Зилантова по-русский означает змеиная. Согласно легенде, на горе обитал крылатый змей - Зилант.
Свято-Успенский монастырь древнейший из сохранившихся монастырей Поволжья, основан Грозным в день взятия Казани (15 октября 1552 года) для поминовения павших воинов.
Изначально монастырь был основан на том месте, где стояла царская палата и походная церковь. Там же были похоронены русские войны, убитые под стенами Казани. В 1559 году разлив Волги подмыл монастырские стены, после чего решили монастырь перенести на вершину горы.
В годы Советской власти в монастыре находились: детская колония, склады МВД и коммуналки. Начиная с 1998 года монастырь начинает возрождаться, но уже как женский.
Большой черный крест рядом с часовней установлен на месте старинного кладбища, где в 1918 году были расстреляны большевиками 10 монахов Зилантова (тогда мужского) монастыря.
Зилантова гора стала своеобразной Казанской Голгофой. Зилантов монастырь находится на месте мученичества и погребения того, кто по воле Божией принял смерть за Христа, а именно первомученика Казанского Иоанна (1529 год).
К 2000 году на территории монастыря оставались только полуразрушенные настоятельский и сестринский корпуса и руины Успенской церкви, от которой оставались только стены. После восстановления храм освятили как церковь Всех святых.
