Родился в 1919 году в деревне Сукино Ширинского района Красноярского края. Трудовую деятельность начал чабаном в колхозе имени Кирова (центральная усадьба – деревня Большой Сютик). В 1939 году перешёл работать скотником на ферму № 4 совхоза «Июсский» Орджоникидзевского района Хакасии.

    Участник Великой Отечественной войны. После демобилизации вернулся к мирному труду и продолжил работать в Июсском совхозе старшим конюхом. По итогам работы в 1948 году при конюшенном содержании лошадей вырастил 32 жеребёнка от 32 кобыл, имевшихся на начало года.

    Указом Президиума Верховного Совета СССР от 16 июля 1949 года за получение высокой продуктивности животноводства в 1948 году Ербягину Александру Иосифовичу присвоено звание Героя Социалистического Труда с вручением ордена Ленина и золотой медали «Серп и Молот».

    Александр Иосифович Ербягин награждён медалями «За Победу над Германией в Великой Отечественной войне 1941-1945 гг.», «За доблестный труд в ознаменование 100-летия со дня рождения В. И. Ленина».

    Проживал в деревне Кобяково Орджоникидзевского района. Скончался 30 августа 1972 года.

    Имя Александра Иосифовича Ербягина увековечено на гранитной стеле Аллеи Героев Социалистического труда в городе Абакане.