Первое достоверное упоминание о Гермогене относится к 1579 году, когда он был приходским попом казанской церкви Святого Николая в Гостином дворе. К этому времени Гермогену было около пятидесяти лет.
Гермогену приписывают участие в «чудесном обретении» одной из главных православных святынь — иконы Казанской Богородицы. Также ему приписывают и сочинение «Сказания о явлении иконы и чудесах ее», отправленного духовенством Ивану Грозному.
В середине 80-х годов XVI века Гермоген потерял жену. В 1587 году он отправился в Москву и постригся в Чудовом монастыре. Затем Гермоген возвращается в Казань и быстро делает головокружительную карьеру. В 1588 году он уже игумен, а затем архимандрит казанского Спасо-Преображенского монастыря. 13 мая 1589 года в новоучрежденной Казанской и Астраханской митрополии Гермоген, возведенный в сан епископа, становится первым митрополитом.
Современники утверждают, что у Гермогена не было столь громкого голоса, как, к примеру, у патриарха Иова, звучавшего, «аки дивная труба». Но Гермоген был «словесен и хитроречив, но не сладкогласен», «нравом груб», «прикрут в словесах и возрениях».
Гермоген был вспыльчивым, властным и жестоким человеком. А как раз эти качества больше всего и учитывались в казанских священнослужителях. Во второй половине XVI века власти проводили массовое обращение в христианство населения Казани и окрестных земель. Местные жители — мусульмане или язычники — активно и пассивно сопротивлялись насильственному обращению в православие. То же самое можно сказать о немцах и чухонцах, взятых в плен в ходе Ливонской войны и сосланных на жительство в Казанский край.
В 1593 году казанский митрополит Гермоген писал царю Федору, что «в Казани и в уездах Казанском и Свияжском живут новокрещеные вместе с татарами, чувашами, черемисами и вотяками, едят и пьют с ними, к церквам божиим не приходят, крестов на себе не носят, в домах образов и крестов не держат, попов не призывают и отцов духовных не имеют. Обвенчавшись в церкви, перевенчиваются у попов татарских, едят скоромное в посты. Живут мимо своих жен с немецкими пленницами». Гермоген «призывал их и поучал, но они ученья не принимают и от татарских обычаев не отстают, и совершенно от христианской веры отстали, о том сильно скорбят, что от своей веры отстали, и в православной вере не утвердились, потому что живут с неверными вместе, от церквей далеко. И видя такое неверье в новокрещеных, иные татары не только не крестятся в православную веру, но и ругают ее. Да прежде, в сорок лет от казанского взятья, не бывали в татарской слободе мечети, а теперь стали мечети ставить близ посада на лучный выстрел». Гермоген писал далее, что многие русские люди живут у татар, черемис, чувашей, вступают с ними в браки. Много русских живет в слободах и деревнях у немцев, причем добровольно и «при деньгах». И все эти люди от православной веры отошли, живущие у татар приняли мусульманство, а у немцев — католичество и лютеранство.
Царь Федор, разумеется, с подачи Годунова, приказал казанским воеводам переписать всех новокрещеных, велел выделить им слободу в Казани с православной церковью и полным причтом. А если кто из них не захочет добровольно переселяться и строиться на слободе, тех отдавать на поруки богатым и благонадежным православным, а кого и в тюрьму сажать. Царь велел воеводам выбрать надежного сына боярского и поставить его за этой слободой следить, чтобы новокрещеные православные были крепки в вере, женились бы только на русских и дочерей своих выдавали за русских. А которые будут замечены в неверности, тех усмирять всеми способами: сажать в тюрьму, ковать в железа и в цепи, бить батогами, на особенно же неблагонадежных Гермогену велено было налагать епитимью. А все мечети царь Федор велел воеводам разрушить, чтоб и следа от них не осталось.
Далее царь приказывал воеводам запретить русским людям жить у татар и у немцев. Русских, отрабатывающих долги, по возможности выкупать, а задолжавших крупные суммы отправлять к новокрещеным в обмен на чухонцев, которых отдавать иноверцам. Последним запретить впредь русских людей нанимать на работу и денег им взаймы не давать.
Указания царя Федора казанским воеводам значительно укрепили авторитет Гермогена. Митрополиту удалось навести порядок в Казанском крае. До нас дошло «Послание наказа-тельное всем людям», где митрополит возмущается нарушением чинности церковной службы, когда попы и дьяконы для скорости читали и пели разные тексты хором (до пяти-шести голосов), а миряне в это время скучали, дремали или разговаривали. Гермоген стращал паству, утверждая, что «все ведает и зрит».
Бдительный Гермоген не мог не заметить и куда больший беспорядок: в такой огромной Казанско-Астраханской митрополии — и не было своих святых! Митрополит ретиво взялся за дело. Для начала Гермоген составил поименный список русских ратников, погибших при взятии Казани. Параллельно было найдено три случая убийств мусульманами православных в ходе конфликтов на религиозной почве. Один из погибших, Иван Новый, оказался русским из Нижнего Новгорода, а двое других, Стефан и Петр, крещеными татарами.
9 января 1592 года Гермоген отправил патриарху Иову в Москву длинное послание, в котором просил установить «особую память» героям казанского взятия: «Умилосердись, государь Иов, повели и учини указ свой государев мне, богомольцу своему — в который день повелит мне святительство твое по тех православных благочестивых воеводах и воинах, пострадавших за Христа под Казанью и в пределах Казанских в разныя времена... по всем божиим церквам во градах и селах Казанской митрополии пети по них панихиды и обедни служите, чтобы, государь, по твоему государеву благословению память сих летняя (ежегодная) по вся годы была безпереводно».
Далее Гермоген просил Иова канонизировать трех казанских мучеников: Ивана, Стефана и Петра.
Патриарх не мог отказать Гермогену, поскольку личные интересы казанского митрополита полностью совпадали с интересами государства. Павшие под Казанью и мученики за православную веру были внесены в Большой синодик, читаемый в неделю православия. Поминать воинов Иов повелел в субботу после Покрова Пресвятой Богородицы (в честь взятия Казани 2 октября), а день поминовения мучеников Ивана, Стефана и Петра должен был назначить Гермоген. Торжественно объявляя о решении патриарха по епархии, митрополит велел повсеместно служить по ним литургии и панихиды и поминать на литиях и обеднях ежегодно 24 января.
Затем Гермоген взялся за канонизацию Германа Полева. Герман был архимандритом монастыря в Свияжске и первым из архиереев прибыл во взятую в 1547 году Казань. В 1564 году он был назначен архиепископом Казанским. В 1566 году по приказу Ивана Грозного Герман прибыл в Москву. В 1568 году после сведения с престола митрополита Филиппа Колычева на его место был поставлен Герман Полев, но через два года новый митрополит был найден мертвым у себя во дворе. Иван Грозный утверждал, что Герман умер от «моровой язвы», но москвичи были уверены, что митрополит погиб от рук опричников. Тело Германа было похоронено в простой могиле в Москве у церкви Святого Николая Мокрого. Существует версия, что сам Гермоген был учеником Германа Полева.
В том же 1592 году Гермоген обратился к царю и патриарху с просьбой перевезти мощи Германа в Казань. И эта просьба казанского митрополита была уважена. 25 сентября 1592 года Гермоген лично близ Свияжска встретил поезд с мощами Германа. Мощи были торжественно захоронены в Успенском монастыре в Свияжске. Герман Полев стал общероссийским святым, его поминают 23 июня.