Александр Маркович Рабцевич родился 14 марта 1897 года.
В органах госбезопасности — с 1925 года. В 1937-1938 годах находился в командировке в Испании по линии внешней разведки.
В период гражданской войны в Испании сотрудник советской внешней разведки Александр Маркович Рабцевич принимал непосредственное участие в боях с франкистскими мятежниками, командовал разведотрядом 18-й бригады республиканской армии. За успешное проведение разведывательных операций и руководство деятельностью боевой группы он был награжден орденом Красной Звезды. После возвращения из Испании Рабцевич был командирован по линии внешней разведки в город Минск в распоряжение НКВД БССР.
С начала Великой Отечественной войны А.М.Рабцевич — командир роты, а затем — командир батальона ОМСБОН.
С июля 1942 года и до полного освобождения Белоруссии от немецко-фашистских захватчиков А.М.Рабцевич руководил в тылу противника партизанским отрядом особого назначения "Храбрецы".
Отряд, действовавший в районах Могилевской, Полесской и Пинской областей, провел ряд крупных операций по дезорганизации коммуникаций противника и уничтожению его живой силы и техники. Планы этих операций были разработаны и осуществлены под непосредственным руководством Рабцевича. Совершая дерзкие вылазки на коммуникации, партизаны взрывали и обстреливали вражеские эшелоны, следовавшие к линии фронта, уничтожали мосты, истребляли живую силу противника.
Кроме того, отряд вел постоянную разведку военных объектов фашистских захватчиков. Так, в середине 1942 года бойцы отряда получили детальные данные о строительстве оборонительных рубежей, расположении складов, аэродромов и функционировании железнодорожных коммуникаций по Витебской, Могилевской и Гомельской областям. В частности, им стало известно о наличии юго-западнее города Орши крупного склада боеприпасов, емкостью более одной тысячи вагонов. Все эти сведения обобщались и передавались в Центр и в Белорусский штаб партизанского движения. За образцовое выполнение боевых заданий командования в тылу немецко-фашистских захватчиков и проявленные при этом отвагу и мужество Указом Президиума Верховного Совета СССР от 5 ноября 1944 года Александру Марковичу Рабцевичу было присвоено звание Героя Советского Союза.
После окончания войны продолжил службу в органах государственной безопасности. В 1952 году вышел в отставку по состоянию здоровья.
Скончался 11 апреля 1961 года.