Como ocorre com quase todos os Papas dos primeiros séculos, pouco se sabe da vida de São Zeferino antes dele subir à Cátedra de Pedro, o que ocorreu após a morte do papa São Vitor I, em 198.
Esse papa é descrito por Santo Hipólito, bispo e mártir do início do século III, em sua obra “Philosophumena” ou “Refutação de todas as Heresias”, como homem simples, sem educação. Isto é, que não tinha tido os estudos superiores. O que supõe que ele foi dedicado à administração prática da Igreja, e não ao aprendizado teológico.
Seu grande aliado foi o diácono Calisto, seu conselheiro e confidente, que seria seu sucessor. Pouco antes de Zeferino assumir o Papado, seu antecessor São Vitor havia comprado locais para o sepultamento dos cristãos na Via Ápia. Eleito papa, Zeferino os confiou então a Calisto. O que culminou nas catacumbas romanas, lugar histórico que testemunha grande parte da história cristã. Por isso uma delas leva o nome de São Calisto.
Pois ocorrera que a posição dos cristãos, que tinha permanecido favorável nos primeiros anos do governo do imperador Sétimo Severo (193-211), foi se deteriorando gradualmente, até que, no ano de 202 ou 203, surgiu um edito de perseguição que punia a conversão ao cristianismo com penas muito severas. Entretanto, nada se sabe da execução desse edito em Roma, nem se conhecem mártires da Igreja romana nesse tempo.
São Zeferino enfrentou um período difícil e tumultuado na Igreja pois, além das perseguições dos cristãos, várias heresias abalavam a Esposa Mística de Cristo mais que os próprios martírios. A divindade de Jesus Cristo era negada pelos gnósticos. O heresiarcaTeodoro subordinava de tal modo Jesus Cristo ao Pai, que acabava por torná-lo uma simples criatura, enquanto Montano fazia profecias e pregava sobre o fim do mundo alegando revelação do Espírito Santo.
Entretanto São Zeferino, apesar de não ser teólogo e de não ter muitos estudos, foi muito sensato e, amparado pelo poder do Espírito Santo, combateu tenazmente essas heresias. Unindo-se aos grandes sábios da época como Santo Irineu, Hipólito e Tertuliano, pôs um fim ao tumulto que elas geravam, livrando os cristãos da mentira e dos rigorismos de alguns inovadores.
Foi durante seu pontificado que ocorreu a admirável conversão de Natalis. Este fora um verdadeiro confessor da fé por tê-la sustentado diante dos tribunais, apesar das torturas. Entretanto, por vaidade e avareza, deixou-se depois seduzir pela heresia de Teodoto. Este, mediante grande soma, conseguiu que Natalis se tornasse seu bispo.
Entretanto, seus sofrimentos anteriores em prol da religião, lhe mereceu a graça da conversão. Pois ocorreu que, em sonhos, Deus passou a lhe mostrar sua cegueira, e a conjurá-lo a voltar ao seio da Igreja. Consta que Natalis, como ainda vacilasse em tomar esse passo salutar, foi chicoteado por anjos durante a noite. Isso fez com que abrisse enfim os olhos para sua pérfida situação, e fosse se lançar aos pés de São Zeferino vestindo cilício e com cinzas na cabeça, pedindo-lhe humildemente que o perdoasse de seu pecado e que, depois da devida penitência, o recebesse de volta no seio da Santa Igreja.
Isso não sucedeu com o célebre Tertuliano, que também caíra heresia montanista, e que não quis aceitar a indulgência usada pelo Papa nessa ocasião nem em outras semelhantes. Ora, esse santo pontífice usava do rigor quando era necessário mas, zelando pela salvação dos seus fiéis, usava de misericórdia quando julgava apropriado. Tertuliano, não se conformando com essa atitude, acabaria sendo excluído da Igreja, depois de tantos bons serviços prestado a ela.
Entre algumas medidas disciplinares estabelecida por São Zeferino, está a proibição do uso de cálices de madeira para a consagração do Corpo e Sangue de Nosso Senhor Jesus Cristo, como era uso nessa época devido à pobreza. Ele ordenou que fossem utilizados os cálices de vidro. Mas como estes eram muito frágeis, mandou substituí-los pelos de ouro ou prata ou, quando não, de estanho.
Ele estipulou também que os fiéis comungassem no dia de Páscoa, e estabeleceu que um bispo não podia ser condenado a não ser pelo Romano Pontífice ou por sua autoridade. Que os sacerdotes e diáconos estivessem presentes quando o Bispo celebrasse, como o papa Evaristo já havia ordenado. Que os bispos fossem sagrados publicamente, na presença dos clérigos e do povo, a fim de que, sendo sua inocência e bons costumes sem censura, eles pudessem servir utilmente à Igreja. Ele fez também outros decretos tocantes à disciplina eclesiástica e, depois de ter governado santamente a Igreja durante 19 anos, dois meses e dez dias, segundo o Liber Pontificalis, foi receber a recompensa de seus trabalhos por um glorioso martírio ocorrido no dia 26 de agosto de 217, sob o império de Antonino Caracala.
Seu corpo foi sepultado no cemitério cerca da catacumba de Calisto, na Via Ápia. O Martirológio Romano Monástico, da célebre Abadia de Solesmes, na França, diz dele neste dia: “No ano de 217, o sepultamento de São Zeferino papa, que governou a Igreja Católica durante dezoito anos com o apoio de seu diácono Calisto, e lutou vigorosamente contra os hereges que ameaçavam desunir a comunidade cristã”.