Родился в Перми в семье военнослужащего, участника обороны Севастополя. Окончил Пермскую классическую гимназию с серебряной медалью, в 1888 г. — Казанский университет со степенью кандидата естественных наук и оставлен при университете стипендиатом по кафедре ботаники. С 1891 г. – приват-доцент Казанского университета, с 1901 г. — профессор. В 1892-1901 гг. занимался ботанико-географическими исследованиями на Среднем Урале и в Западной Сибири, в результате которых был подготовлен труд «Материалы для познания почв и растительности Западной Сибири». Основатель казанской геоботанической научной школы. В 1901 г. после защиты диссертации А. Я. Гордягину была присуждена высшая научная степень доктора ботаники. В 1909 г. по приглашению В. И. Разумовского перешел на работу в Саратовский Императорский Николаевский университет, где возглавил кафедру ботаники, затратив немало времени и сил на оборудование кафедры, постановку преподавания и налаживание научно-исследовательской деятельности. Будучи членом правления университета, принимал активное участие в организации и становлении всего университетского механизма. С первых же дней работы в Саратове занялся исследованием местной флоры. Кроме работы на кафедре ботаники университета, принимал большое участие в организации Высших сельскохозяйственных курсов, а после открытия в 1913 г. стал их директором. С 1914 г. вернулся в Казанский университет. Умер 15 января 1932 г. в Казани.