Родился 15 мая 1913 года в небольшом городке Гадяч (Полтавская губерния), в семье служащего Леонида (Липы) Абрамовича Зельманова и Ревекки Даниловны Фонарёвой. До 1924 года жил в Харькове, затем в Ленинграде, с 1927 — в Москве.
В 1937 году окончил астрономическое отделение механико-математического факультета МГУ. На пятом курсе по предложению своего будущего руководителя академика В. Г. Фесенкова сделал доклад о приложении общей теории относительности в космологии.
В 1941 году окончил аспирантуру. После окончания аспирантуры работал в Астрономическом институте имени П. К. Штернберга при Московском университете. С 1942 года и практически до последних дней жизни читал, иногда с перерывами, лекции по общей теории относительности и космологии. Вероятно, то были первые в стране математические курсы лекций по этим предметам. На его лекции приходили люди разных профессий и возрастов; прямыми или косвенными учениками Абрама Леонидовича считают себя многие специалисты, работающие в этой области науки.