Родился в семье горного инженера, в Санкт-Петербурге, в Эртелевом переулке
(сейчас улица Чехова). Учился в Ларинской и 1-й Санкт-Петербургской классической гимназии. В 1878 году Александр закончил Николаевское инженерное училище, а затем поступил в Офицерский класс Технического гальванического училища.

Уже в мае 1878 года подпоручик Кованько в составе понтонного батальона несёт военную службу на территории Турции, и в победе русских войск в той великойОсвободительной Балканской войне есть вклад и молодого офицера Кованько.

Позднее Александр Матвеевич Кованько заведовал Учебной гальванической командой Лейб-гвардии Сапёрного батальона, преподавал сапёрное дело.

На протяжении почти десяти лет деятельность Александара Матвеевича Кованько была связана с Гатчиной и расположенной поблизости от неё деревней Сализи (ныне деревня Котельниково). На гатчинском военном поле силами возглавляемого им учебного заведения был оборудован аэродром — первый военный аэродром России,
а в Сализи, начиная с 1909 года, располагался лагерь Воздухоплавательной школы, впоследствии переросший в дирижабельный порт Ленинграда.

В феврале 1885 года была создана первая в России «Кадровая команда военных аэронавтов», командиром которой был определён поручик Александр Матвеевич Кованько. По существу, так было положено начало отечественному
военно-воздушному флоту, ибо спустя пять лет её реорганизовали в Учебный Воздухоплавательный парк, а ещё через десять он стал Офицерской Воздухоплавательной школой с двумя отделениями — Воздухоплавательным
и Авиационным, базировавшимися в Гатчине. Всё это время (а если быть точнее,
то 33 года бессменно!) Александр Матвеевич был во главе этого нового и чрезвычайно важного дела.

6 августа 1887 года в Московской области наблюдалось полное солнечное затмение. Местом для научных наблюдений был избран город Клин. В то время Александр Матвеевич был поручиком лейб-гвардии сапёрного батальона, он должен был подняться на воздушном шаре вместе с Дмитрием  Ивановичем Менделеевым для выполнения наблюдений с воздуха. В корзину пристроили барограф, два барометра, бинокли, спектроскоп, электрический фонарь и сигнальную трубу.
С шара предполагалось зарисовать корону солнца, проследить движение тени
и провести спектральный анализ. В 6 часов 25 минут Менделев и  Кованько сели
в корзину, но намокший шар не поднялся. Александр Матвеевич уступил просьбам  Менделеева и, прочитав ему лекцию об управлении шаром, показав, что и как делать, вылез из корзины.  Менделеев проводил наблюдения сам.

Он организовывал полёты на воздушных шарах (аэростатах) для научных исследований атмосферы и изучения влияния полёта на организм человека. Кованько добился производства отечественных аэростатов и дирижаблей и предложил несколько своих конструкций. В 1894 году представил проект аэроплана и воздушного винта.

С 1898 года — член воздухоплавательной комиссии Международного метеорологического комитета.

В русско-японскую войну 1904-1905 годов командовал 1-м Восточно-Сибирским воздухоплавательным батальоном, организовал боевое применение привязных аэростатов для корректирования артогня и наблюдения за противником.

26 апреля 1906 года Высочайшим указом «за отлично-усердную службу и труды, понесённые во время военных действий» Александр Матвеевич Кованько был произведён в генерал-майоры.

С 1910 года командовал Офицерской Воздухоплавательной школой, в которой были подготовлены первые лётчики в России. Под его руководством был построен первый русский дирижабль, а затем — пять самолётов.

В 1913 году Александру Матвеевичу была прислана награда — Орден Почётного легиона, после того как в Воздухоплавательном парке побывали 2 представителя французской армии и были восхищены тем, насколько эффективно и мощно развёрнуто воздухоплавательное дело в России.

После октябрьской революции Кованько оставался на своём посту вплоть до сентября 1918 года, когда вышел в отставку по болезни. Тяжёлые условия военного коммунизма сказались на здоровье Александра Матвеевича, оказавшегося вместе с женой Елизаветой Андреевной и тремя дочерьми в крайне стеснённых материальных условиях. В 1919 году родственники вывезли тяжелобольного генерала в Одессу, где 20 апреля этого же года он скончался.