Родился 27 марта 1816 года. Его отцом был купец третьей гильдии Семён Иванович Губкин, который занимался перевозкой товаров из европейской части России в Сибирь и обратно. В 1840 году Алексей Семёнович создал свою фирму, торговавшую чаем. Эта фирма впоследствии стала самой крупной чаеторговой фирмой в Российской Империи. Вначале он торговал в забайкальской Кяхте, где обменивал китайский чай на продукцию кунгурских кожевников, а затем начал торговать непосредственно с чайными плантациями в Китае и приобрел некоторые из них в собственность. Губкиным была организована оптовая торговля чаем на Нижегородской и Ирбитской ярмарках, для чего он создал целую систему условий продаж, цен, сортов, единиц товара., что положило конец спекуляциям на рынке чая. Товарооборот чайной фирмы Губкина достигал величины в 6 миллионов рублей в год.
Начиная торговое дело, Алексей Губкин дал обет жертвовать каждую копейку с заработанного рубля бедным или на богоугодное дело. Его усилиями в 1878 году был создан «Елизаветинский Дом призрения бедных детей в Кунгуре», основанный в память об умершей возрасте 6 лет дочери купца. Для приюта было построено трехэтажное каменное здание. В 1877 году Алексей Семёнович открыл Кунгурское техническое училище — первое заведение подобного рода на Урале. Это обошлось ему почти в миллион рублей. Кроме того, Губкин жертвовал средства другим учебным заведениям и храмам Пермской губернии. Алексей Губкин занимался и общественной деятельностью: в 1854—1857 годах он был бургомистром в магистрате Кунгура, в 1872—1875 годах исполнял должность гласного Кунгурской городской думы, в 1873—1879 годах был мировым судьей.