Родился 17 октября 1905 года в г. Орле в семье чиновника городской управы, воспитывался у бабушки в г. Курске. Окончил церковно-приходскую школу. В 1941 году экстерном окончил военное училище.
С ноября 1934 года по май 1956 года служил в войсках НКВД: армейский культработник. Начальник клуба, затем начальник ансамбля песни и пляски погранвойск Восточного округа. Майор.
В город Губкин А. И. Иванов приехал в 1959 году, к сыну, научному сотруднику НИИКМА.
С 1962 по 1980 год работал в НИИКМА, руководил музеем истории КМА. А.И. Иванову удалось создать уникальный музей, один из лучших и крупнейших в Белгородской области, который стал своеобразной визитной карточкой института, города, КМА. Музей посещали десятки делегаций из разных концов страны, бывали здесь и зарубежные гости. Школьники, ученые, люди разных профессий оставляли слова благодарности в книге отзывов.
«Доктор Иванов, я получил большое удовлетворение от вашей лекции и от осмотра вашего великолепного музея. Экспозиция отличная», - запись от 3 августа 1979 года. Оставил ее Виллиам Д.Картер, американский ученый из Геологического комитета США.
А. И. Иванов удостоен звания «Заслуженный артист Казахской ССР», награждён орденом «Красной Звезды», медалями «За боевые заслуги», «За победу над Германией». Умер в сентябре 1997 года.
