Храм был построен в память моряков погибших в Цусимском сражении. Уникальный храм-памятник стал "символом братской могилы для погибших без погребения героев-моряков" в русско-японской войне 1904-1905 годов.

21 ноября 1908 года министр внутренних дел Петр Аркадьевич Столыпин подал доклад императору Николаю II об учреждении комитета по сбору пожертвований на постройку храма. Ответ Николая II: "Согласен и всецело сочувствую мысли увековечить память погибших моряков". Подготовкой строительства и сбором пожертвований руководил Комитет под покровительством греческой королевы Ольги Константиновны, дочери создателя парового флота великого князя Константина Николаевича, внучки императора Николая I, и под председательством сенатора Перта Николаевича Огарёва, чей сын погиб при Цусиме. Строительную комиссию возглавил князь Константин Константинович. Средства собирали около года, по смете строительство стоило 277 723 рубля, было собрано 302 888 рублей.

Место для храма на территории Ново-Адмиралтейского завода, невдалеке от верфей,
в конце Английской набережной, было освящено 19 февраля 1909 года.

Закладка церкви епископом Вологодским Никоном (Рождественским) состоялась
28 мая 1910 года, в годовщину Цусимы. Предварительно состоялся крестный ход из Никольского собора до места строительства. В углубление закладной доски Ольгой Константиновной был положен солдатский Георгиевский крест.

Одноглавый храм с золотым куполом, расположенный у самого входа в порт, вместе
с находящимся на противоположном берегу Невы подворьем Киево-Печёрской лавры (ныне - подворье Оптиной Пустыни) символизировал южную часть морских ворот Санкт-Петербурга.

Архитектором храма является Мариан Марианович Перетяткович - крупнейший зодчий начала ХХ века, работавший, в основном, в стиле модерн. В создании проекта участвовали Николай Васильевич Покровский и инженер - Сергей Николаевич Смирнов, губернатор Павловска.

Через три дня - 13 августа 1911 года - в присутствии императора Николая II с дочерьми, королевы Ольги Константиновны, её брата - великого князя Константина Константиновича и других членов императорской семьи был освящён верхний храм
и состоялся военно-морской парад.

Вместе с храмом был выстроен целый комплекс монастырского типа. Двухэтажная церковь, колокольня и служебный корпус были соединены в духе XVII века крытыми переходами. В колокольне располагался морской музей, и звонница, связанная, в свою очередь, галереей с домом причта.

Храм был не такой уж большой: он был рассчитан на 300-400 прихожан. В народе этот храм называли: "Храм-на-водах", "Спас-на-водах", "Цусимская церковь". В память
о подвиге моряков на фронтоне храма было начертанно: "больше сея любви никтоже имать, да кто душу свою положит за други своя".

Под каждым из названий кораблей были указаны эскадры, куда они входили, и даты боёв, в которых принимали участие, с числом погибших (всего 8 269 человек). Перечислялись они поимённо, с указанием воинских званий и занимаемых должностей. Их имена отливались на медных досках, вмурованных в стены.

На памятных досках были перечислены и те, кто, оставив свои корабли, ушли на сухопутный фронт и погибли на батареях Порт-Артура, и те, кто скончался от ран, полученных в Японии.

На алтарной стене находилась исполненная по эскизу Николая Александровича Бруни, мозаика "Спаситель, шествующий по водам". Огромная мозаичная картина была прекрасно видна со всех точек помещения верхнего храма. Спаситель, шествующий
по водам - известная евангельская притча, благодаря этому образу, храм стали называть Спасом-на-Водах.

В 1931 году Октябрьским районным Советом г. Ленинграда и Президиумом Ленсовета по инициативе руководства завода "Судомех" и "Инспекции по делам культов" было принято решение о сносе храма-памятника под предлогом расширения производственных площадей предприятия. 8 марта 1932 года храм был взорван, несмотря на тысячи собранных подписей. Вместе с ним был разрушен мост через Ново-Адмиралтейский канал. Настоятель храма отец Владимир Рыбаков умер от побоев
в тюремной больнице. Были арестованы и другие служители храма, защитников храма сослали в лагеря.

Доски с именами погибших в русско-японской войне по одной версии, были сброшены в Неву. По другой легенде, сильным взрывом они были разбросаны по окрестным улицам, где местные жители собирали их осколки и прятали по домам. Но некоторые доски, по словам очевидцев, были до взрыва сняты с креплений и унесены.

В 1970-е годы фундамент храма был частично застроен производственным зданием, над алтарём нижнего храма была проложена дорога.

В 1990 году была создана Общественная организация "Санкт-Петербургский комитет восстановления храма Спаса-на-Водах".

Ныне воссоздание храма осложняется тем, что на части фундамента храма стоит производственный корпус "Адмиралтейских верфей". В разрушенном храмовом комплексе часовни не было, но Комитет, как предтечу возрождения храма, возвёл часовню, которая в дальнейшем должна будет органично сочетаться с отстроенным зданием церкви.

23 января 1998 года распоряжением губернатора Санкт-Петербурга Владимира Анатольевича Яковлева "О проектировании и строительстве часовни храма Спаса-
на-Водах на участке при впадении Ново-Адмиралтейского канала в Неву" был предоставлен земельный участок для строительства часовни.

В настоящее время в часовне регулярно совершаются панихиды по погибшим морякам.

Часовня находится на территории ГП "Адмиралтейские верфи" рядом с местом впадения Ново-Адмиралтейского канала в Неву.