Ольхин А.А. родился в Санкт-Петербурге в семье дворянина, генерал-лейтенанта А.А. Ольхина. Его мать М.С. Ольхина руководила Мариинским институтом. По окончании Александровского лицея служил консулом в Варне, судьей, присяжным поверенным. Многие из его политических дел, на которых ему пришлось быть адвокатом, были достаточно громкими. Достаточно назвать такие крупные политические процессы, как: «Процесс нечаевцев», дело В. М. Дьякова, «Процесс пятидесяти» и «Процесс ста девяноста трёх», дело о демонстрации на Казанской площади 1876 года и др.
Александр Александрович сочувствовал революционерам, оппозиционным взглядам, идеям народников, печатался в таких очагах свободной мысли как «Начало», «Земля и Воля».
Арестован и осужден за связь с революционными организациями, выслан под гласный надзор в Вологодскую губернию.
За противодействие распоряжениям полиции в марте 1880 года был перемещён под надзор в город Шадринск Пермской губернии, куда прибыл в мае 1880 года и где был привлечён к новому дознанию, возникшему 14 (26) мая 1880 года по обвинению в произнесении «дерзких слов против особы государя императора»; подвергнут одиночному тюремному заключению в течение месяца.
По постановлению Особого совещания от 28 ноября (10 декабря) 1881 года срок пребывания под надзором полиции определён в четыре года, по 9 (21) сентября 1885 года. В декабре 1883 года оказал содействие бежавшим из Сибири политическим ссыльным. Действительно, бежавшие из Сибири С. Иванов, Л. Чемоданова, Тулузаков были арестованы на квартире Ольхина.
Ольхин опять привлекается к ответственности, и в результате срок полицейского надзора, определенный ему в четыре года (по 9 сентября 1885 г.), был продлен еще на два.
В Шадринске Александр Александрович устраивал лекции для взрослых и для детей на естественно-научные и исторические темы, участвовал в любительских спектаклях, оказывал юридическую помощь крестьянам в их судебных тяжбах с землевладельцами. Живя в Шадринске писал стихи на политические события. В 1885 году была впервые опубликована его песня «Дубинушка», написанная в революционном духе и ставшая очень популярной.
Вместе с ним в ссылку отправилась его жена, Варвара Александровна Ольхина, которая была родом из дворянской семьи Беклемишевых. В Шадринске Варвара Александровна работала учительницей и была первой помощницей мужа в сборе книг и организации первой общественной библиотеки в городе. В 1881 году умерла от тифа в возрасте 31 года. Похоронена на Воскресенском кладбище. На руках у Ольхина осталась малолетняя дочь Люба.
Всего в Шадринске Ольхин провел 7 лет. По окончании гласного надзора в 1887 году переехал в Нижний Новгород, где сотрудничал в местной прессе, состоял под негласным надзором. В 1889 году перемещён в своё имение в слободе Александровка у станции Белоостров, затем жил в Пскове, состоял присяжным поверенным при Псковском окружном суде. Освобождён от негласного надзора по циркуляру Департамента полиции от 21 февраля (5 марта) 1894 года и в октябре 1895 года получил разрешение жить в Санкт-Петербурге, где занимал место юрисконсульта в правлении общества Рязанско-Уральской железной дороги.
Александр Ольхин умер 4 (16) декабря 1897 г.
Будучи взрослой дочь Ольхиных – Любовь Александровна (1875-1924) вышла замуж за Недоброво Николая Владимировича (1882 — 1919). Николай Владимирович – русский поэт «Серебряного века», критик, литературовед, близкий друг А. Ахматовой. Сейчас незаслуженно почти забытый, он перед Первой мировой войной и в годы самой войны занимал довольно видное место в литературной жизни Петербурга. Потомственный дворянин Николай Владимирович Недоброво умер от туберкулеза легких, а его жена Л. А. Недоброво эмигрировала в Италию, где также умерла от туберкулеза.