Купец Андрей Семенович Осташников в 1864 году пожертвовал городу свой участок для устройства «странноприимного дома или богадельни для людей безродных и не имеющих средств к существованию». По недостаточности места, к организации богадельни приступили только через три года, после повторного обращения Осташникова. Было решено купить у титулярного советника П. И. Хохлова дом с участком по улице Варварской, садом примыкающий к участку Осташникова. Богадельню было решено назвать в память спасения жизни императора Александра II от руки убийцы в Париже 25.05.1867. Открыли богадельню 30.08.1868 в день именин ЕИВ. Осташников организовал молельню для богадельниц, не имевших сил ходить в храм, и ходатайствовал об устроении домовой церкви. В 1869 году при поддержке городской думы церковь Вознесения Господня и Святого Князя Александра Невского была построена и освящена. В 1878 году, купец Александр Вяхирев передал землю под постройку родильного заведения для бедных граждан. План-фасады были разработаны архитектором Николаем Фрелихом. В 1882 году строительство здания родовспоможения с лечебницей и домовой церковью было завершено. Здание роддома являет собой пример эклектики в русской архитектуре XIX века и считается лучшей работой Н. Фрелиха в городе. В настоящие время в здание богадельни находится роддом № 1.