Якубович принадлежал к дворянскому сословию, родственник декабриста А. И. Якубовича. В 1870 году поступил в гимназию в Новгороде. В 1878 году он поступил на историко-филологический факультет Императорского Санкт-Петербургского университета, который окончил в 1882 году со степенью кандидата. С 1878 года сотрудничал в журналах «Дело», «Слово»,…
«Отечественные записки». В 1882 году вступил в петербургскую организацию «Народной воли», с 1883 года был одним из лидеров народовольческого движения.
Арестован в Санкт-Петербурге 15 ноября 1884 года и заключен в Петропавловскую крепость, где пробыл около 3-х лет. Судился в 1887 году Петербургским военным судом по процессу 21-го (дело Лопатина, Саловой, Конашевича), приговорён к смертной казни, но спустя три недели заменили на 18 лет каторги. Отбывал на Карийской каторге и с 1890 года в Акатуе, три года работал в рудниках. С 1895 года на поселении в Кургане. В 1899 году заболел сильным нервным расстройством и получил разрешение лечиться сначала в Казани, затем в Петербурге. С переменой обстановки довольно быстро поправился, но департамент полиции уже разрешил Якубовичу поселиться в Удельной, на территории городской Пантелеймоновской больницы для душевно-больных, где он прожил несколько лет. На этом основании, приписанный к названной больнице, имел право остаться около Петербурга[
Как поэт начал печататься в 1878 году. Сборник «Стихотворения Матвея Рамшева» издан родными Якубовича в 1887 году. Некоторые свои стихи, чтобы пробить их сквозь цензуру, он публиковал под именами никогда не существовавшего ирландского поэта О’Коннора или итальянца Чезаре Никколини. Якубович напечатал также в переводе с немецкого так называемые «затерянные стихотворения» Лермонтова, якобы переведённые с подлинных русских рукописей немецким поэтом Фридрихом Боденштедтом, известным как мистификатор.
В 1899 году Якубович вернулся с каторги. Он работал редактором отдела поэзии, с 1904 года (совместно с В. Г. Короленко) — отдела беллетристики журнала «Русское богатство». Якубович известен своими переводами поэзии Шарля Бодлера и Сюлли-Прюдом. Самая известная его книга «В мире отверженных» — классика тюремного жанра в русской литературе.
В «Русском Богатстве» опубликованы его стихи и очерки каторжной жизни: «В мире отверженных», за подписью Л. Мельшин, и ряд критических статей и рецензий, преимущественно о поэтах.
В 1905 году откликнулся на Кровавое воскресенье стихотворением «Красный снег», ставшим широко известным в советское время, когда оно было включено в школьную программу. В годы первой русской революции организовал и входил в состав Шлиссельбургского комитета.
