Закладка храма состоялась на месте первоначальной богадельни 19 июля 1786 года. Сооружение церкви предание связывает с именем святой блаженной Ксении, по ночам тайно подносившей камни на строительные леса.
17 августа 1940 года исполком Ленгорсовета вынес решение о закрытии Смоленской церкви. Но в 1946 году богослужение в церкви Смоленской иконы Божией Матери было возобновлено. В те годы она была единственной действующей церковью на Васильевском острове и привлекала множество верующих.