Тяготясь славой среди иноков, Макарий решил уйти из монастыря и поселиться в безлюдном месте. Странствуя несколько лет, наконец он удалился на берег реки Волги в пещеру близ озера Желтые воды. Здесь он твердым воздержанием и терпением преодолевал брань врага спасения. К преподобному присоединилось немало монахов, и в 1435 году он устроил для них обитель во имя Пресвятой Троицы. Монастырь весьма прославился, на его обустройство давал пожертвования великий князь Василий Темный. Согласно житию, Макарий, «обходясь ласково и беседуя с приходящими иноверцами», обратил в православие немало мордвы, татар, марийцев и чувашей.
Расцвет новой обители длился всего пять лет; в 1439 году пустынь была разрушена ханом Улу-Махметом. Большинство монахов было убито, а сам Макарий был уведен в плен в Казань. Из почтения к его благочестию и благотворительной любви хан вскоре отпустил святого из плена и вместе с ним освободил до 400 христиан. Но с преподобного Макария взяли слово не селиться при Желтом озере и не возобновлять монастырь на прежнем месте. Преподобный Макарий, предав земле убитых монахов, отправился с теми, кто остался жив, за 240 верст в Галичские края. Во время этого переселения все путники, по молитвам святого, питались чудесным образом. Дойдя до города Унжа, преподобный Макарий поставил в 15 верстах от города на берегу озера Унжа деревянную «Макарьеву новую пустынь» (известную впоследствии как Макарьево-Унженский монастырь). В 1444 году, в возрасте 95 лет преподобный Макарий заболел и мирно скончался в Макарьевском Унженском Монастыре. Обретение его мощей произошло 1671 году.
Еще при жизни преподобный был наделен благодатным даром: он исцелил слепую и бесноватую девушку. После кончины святого многие получали исцеление от его мощей. Иноки воздвигли над его гробом храм и установили в обители общежитие. В 1522 голу татары напали на Унжу и хотели ободрать серебряную раку в Макариевой пустыни, но ослепли и, обезумев, бросились бежать. Многие из них утонули в Унже. В 1532 году молитвами преподобного Макария спасся от татар город Солигалич, и благодарные жители устроили в соборном храме придел в честь святого. Предание сообщает, что покровительством Макария была сохранена жизнь Михаила Федоровича Романова. Впоследствии молодой царь совершил паломничество в Макарьевский Унженский Монастырь по особому обету — для благодарного поклонения Феодоровской иконе Богоматери и святому угоднику и чудотворцу Макарию за спасение и умиротворение Отечества и Церкви, за свое избрание и освобождение Патриарха Филарета из польского плена.
Местное почитание памяти преподобного Макария Желтоводского началось вскоре после его преставления. В 1610 году патриарх Филарет распорядился исследовать случаи исцелений по молитвам святого: было засвидетельствовано более пятидесяти случаев. Тогда же имя Макария Желтоводского было занесено в святцы и назначено повсеместное празднование его памяти 25 июля/7 августа.
Мощи преподобного покоятся в Макариево-Унженском Троицком монастыре близ города Макарьева под Костромой, в Свято-Троицком соборе, построенном в 1669 году игуменом Митрофаном, будущим святителем Воронежским. Там же находится келейная икона Смоленской Божией Матери, принадлежавшая преподобному Макарию. За монастырем, на пригорке, сохранился в часовне колодец, выкопанный его руками.
