Обладал редкими способностями к языкам. В возрасте семи лет уже мог переводить короткие тексты с русского на латинский. В возрасте около 20 лет Макарий выучил еврейский, немецкий и французский языки. При образовании второго курса Петербургской духовной академии по Синодальному указу от 22 мая 1814 года, из Смоленской семинарии в числе двух лучших учеников были отправлены Захарий Смирягин и Михаил Глухарёв. Закончил он курс академии 10-м магистром; особо выделялись его письменные работы. Здесь наставником его на всю жизнь стал ректор академии Филарет.

По окончании курса учения в 1817 году М. Я. Глухарёв был назначен инспектором и профессором церковной истории и немецкого языка в духовную семинарию Екатеринославля. В этом же году он назначается ректором Екатеринославских уездного и приходского училищ. Здесь, в Екатеринославле, он был пострижен в монашество; постриг совершил архиепископ Екатеринославский Иов (Потёмкин) 24 июня 1818 года. На следующий день инок, нареченный Макарием, был рукоположен в сан иеродиакона, а еще через три дня — в иеромонахи. Летом 1819 года после встречи с квакерами Стефаном Грелле де Мобилье и Вильмом Аллено был обвинён в неправославии и нередко считается основателем Русского православного экуменического движения.

В Екатеринославе Макарий прослужил до весны 1821 года, когда в ответ на его прошение об увольнении указом Священного Синода от 20 февраля 1821 года был назначен ректором Костромской семинарии.

Макарий хотел реформировать и миссионерскую деятельность в России. 17 февраля 1829 года он подал прошение о переводе его в Сибирь и «употреблении» на дело миссии. Оно было удовлетворено, и уже в конце мая 1829 года Макарий получил назначение в Тобольскую епархию, где архиепископ Евгений (Казанцев) организовывал миссию по христианизации народностей, живущих в этом обширном регионе. Так начался страннический путь архимандрита Макария в Сибирь к новой пастве. Создание Алтайской духовной миссии затянулось до мая 1830 года; лишь 23 августа архимандрит Макарий с двумя сотрудниками —тобольскими семинаристами А. Волковым и В. Поповым — приехал в столицу Алтая, Барнаул. По мере накопления опыта миссионерского служения архимандрит Макарий стал отдавать предпочтение использованию русского языка в деле христианского обращения и воцерковления. Для нужд христианского просвещения на рубеже он составляет пособия, причем не только для крещеных алтайцев, но и для проживающих русских: «Начальное учение человеком, хотящим учиться книг Божественного Писания», «Алфавит Библии». Священное Писание в них цитировалось на русском языке. Ещё 23 марта 1834 года архимандрит Макарий в письме митрополиту Филарету доказывал, что Священные тексты нужно переводить с оригинальных языков: Ветхий Завет — с еврейского текста, а Новый Завет — с греческого.

В марте 1839 года, надеясь получить разрешение на издание переведённых им на русский язык ветхозаветных книг, Макарий приехал в Санкт-Петербург. К этому времени он уже перевёл две библейские книги: книгу Иова (1837) и книгу Исайи (1839). Однако Синод постановлением от 14 апреля 1839 года: прошение миссионера архимандрита Макария оставить без действия.

В 1844 году он был овобождён от миссионерской работы, но вместо разрешения отправиться в паломничество в Иерусалим получил направление в Болховский Троицкий Оптин монастырь Орловской епархии. Здесь — место последнего служения архимандрита Макария, продолжавшееся около 3-х лет. Болхов по сути стал для него продолжением миссионерской деятельности. Православную российскую провинцию он нашёл в не меньшей степени нуждающейся в религиозном просвещении, чем Алтай. Касалось это всех слоёв общества. Так, выяснилось, что даже городской голова не знал Символа веры.

Осенью 1846 года Макарий получил, наконец, разрешение на паломничество в Святую землю — годичный отпуск в Иерусалим, но отложил поездку до весны, а весной, закончив приготовления к поездке, смертельно заболел и 18 мая 1847 года тихо скончался. Его последними словами были: «Свет Христов просвещает всех».

Его перевод Ветхого Завета был посмертно опубликован в журнале Православное обозрение (1860—1867 годы) и использовался при работе над синодальным переводом Библии.

Канонизован в 2000 году Юбилейным Архиерейским Собором Русской Православной Церкви в лике преподобных «за праведное житие, равноапостольные труды по переводу Священного Писания на алтайский язык и распространение на Алтае веры Христовой». Память (по юлианскому календарю) совершается 18 мая, а также 23 января в день Собора Костромских святых, 10 июня в день Собора Сибирских святых и в воскресенье перед 28 июля в день Собора Смоленских святых.