Первое деревянное здание церкви было пожертвовано в 1907 гражданскому населению Харбина 4-й Восточно-Сибирской стрелковой дивизией, участницей обороны Порт-Артура. В дарственной записи дивизии было сказано: «Дабы под тенью этого храма росло и укреплялось русское дело в Харбине».

Перенос церкви из Корпусного городка (район Харбина) в район Пристани, ее реконструкция и убранство были осуществлены на средства известного на Дальнем Востоке купца и благотворителя И. Ф. Чистякова. Автор проекта реконструкции – архитектор С. К. Трейман. Бывшая дивизионная домовая церковь стала молитвенным памятником русским воинам и русскому православию.

Освящение храма состоялось 23 ноября 1908 архиепископом Владивостокским и Приморским Евсевием (Никольским). Первым настоятелем храма был священник о. Петр Богданов (1907).

При церкви был открыт первый и единственный на весь азиатский Восток приходской совет (таковые по постановлению Святейшего синода стали повсеместно вводиться в России с 1905).

Объемно-пространственная композиция кирпично-деревянного сооружения основана на контрасте низкого распластанного объема храма и высокой изящной колокольни. Четверик храма не выделен в общем объеме, но отмечен пятиглавием: крупной центральной и четырьмя небольшими главами на стройных барабанах. Еще меньшая главка – над алтарем. Объемное построение и декоративное убранство ярусной шатровой колокольни стилистически повторяет каменную храмовую архитектуру XVII в., хотя она, как и все здание в целом, деревянная, и лишь облицована кирпичом. Фасады колокольни детально проработаны: традиционно акцентированные ширинками углы, кокошники, сдвоенные арки с висячей гирькой, ширинки, сухарики, слухи на шатре.

Генерал А. Колянковский, передавая храм православному населению Харбина, надеялся, что «жертвуемое здание <…> воодушевит его мощный дух для воссоздания здесь величественного храма Святой Софии, по своему великолепию не уступающему нашим древним храмам в древнепрестольном граде Киеве». Софийская церковь была прекрасно украшена, щедро укомплектована всем необходимым для службы. За ней среди жителей Харбина закрепилось красноречивое название – «Софийская лавра». Кроме главного алтаря в церкви был устроен придел в честь св. Пророка Божьего Илии и св. Мученицы Ираиды.

Прямое обращение к Софийскому собору в Киеве – символу национальной традиции как в России, так и здесь, в Китае, означало желание утвердить свои национально-православные истоки и культуру через символическое подобие известной святыне. Никакого архитектурного подобия формам киевского собора Святой Софии здесь нет и в помине. Есть смысл говорить исключительно об идейно-содержательной программе посвящения церкви Софии Премудрости Божьей, которое в материально-пространственном отношении имело выражение лишь в интерьере. При входе в церковь прихожан встречали сцены «Послы Владимировы в Софийском Соборе в Царьграде» и «Крещение киевлян при Владимире».

В связи с притоком эмигрантов в 1920-х было решено построить новое здание Софийской церкви на том же участке, где был деревянная церковь. Известный харбинский архитектор М. М. Осколков использовал повторный (не типовой) проект церкви Богоявления Господня (Гутуевская) в С.-Петербурге гражданского инженера Вас. А. Косякова и инженера Б. К. Правдзика (1892–1897). В свою очередь, Косяков при разработке своего проекта ориентировался на образ храма Христа Спасителя в селе Борки под Харьковым (арх. Р. Р. Марфельд), основанного в честь спасения императора Александра III с семьей при крушении там поезда 17 октября 1888.

Закладка нового здания храма состоялась 27 сентября 1923. Строительство вместительного величественного храма завершилось в 1932, а в 1933 он был торжественно освящен. Храм с трапезной имеет в плане латинский крест (удлиненная западная ветвь), апсида с трех сторон охвачена обходной галереей. Пространство трапезной разделено на три нефа двумя рядами колонн. Восьмигранное в плане пространство основного объема церкви прекрасно освещено 16 окнами, прорезающими высокий мощный барабан. Храм увенчан огромным куполом луковичной формы, восьмигранными шатрами с главками на тонких шейках над боковыми приделами. Фасады разработаны в русском стиле. Церковь вмещала почти две тысячи человек, и превосходила по размерам все остальные храмы Харбина.

В 1922–1944, когда духовенство подвергалось особенно жесткому давлению со стороны японских властей, настоятелем Софийской церкви был протопресвитер о. Михаил Филологов, он же заместитель председателя епархиального совета. По его инициативе и под его руководством были созданы дома-приюты для безместного духовенства, их семей, вдов, сирот и престарелых. Последним русским настоятелем Софийской церкви был протоиерей о. Николай Мухин, до своего отъезда в Россию в 1956. Последним настоятелем церкви и хранителем архива епархиального совета был православный священник-китаец о. Аникита из Пекина.

Церковь сохранилась и была в конце 1990-х реконструирована; ныне там располагается Музей истории города, где большая часть экспозиции посвящена культуре русской эмиграции в Маньчжурии первой трети ХХ в. Площадь, раскинувшаяся перед зданием, названа площадью Архитектуры, и сейчас это – культурно-исторический центр современного Харбина. Снос нескольких современных высотных зданий, закрывающих прежде панорамные виды на церковь, позволил вернуть ей доминирующую композиционную роль в окружающем городском ландшафте. В 1996 здание бывшей Софийской церкви включено в список наиболее ценных памятников Харбина и находится под государственной охраной.