João nasceu em Túsculo, uma província da Itália. Foi eleito sucessor do Papa Hormisdas, em 523, e costuma ser identificado como João Diácono, autor da epístola "Ad Senartun", importante para a história da liturgia baptismal. É reconhecido também pela autoria de "A Fé Católica", transmitida pelos antigos, entre as obras do filósofo e mártir São Severino Boécio, cujo trabalho exerceu grande influencia sobre São Tomás dÁquino. Vejamos qual foi a situação herdada pelo Papa João I.

O Papa Hormisdas e o imperador Justino, tinham feito cessar o cisma entre Roma e Constantinopla, que iniciara em 484, com o então imperador Zenão, através do que parecia impossível: um acordo entre católicos e arianos. Com esse esquema obtivera bons resultados político, pois os godos eram arianos.

Porém, no final de 524, o imperador Justino publicou um decreto ordenando o fechamento das igrejas arianas de Constantinopla e a exclusão dos arianos de toda a função civil e militar.

Roma era então governada pelo imperador Teodorico, o grande, o rei dos bárbaros arianos que tinha invadido a Itália. Ele obrigou o Papa João I a viajar à Constantinopla para solicitar ao imperador Justino a revogação daquele decreto.

Apesar de o imperador Justino ter-se ajoelhado perante o primeiro Sumo Pontífice a pisar em Constantinopla, ele não conseguiu demovê-lo da perseguição aos arianos. A solicitação foi atendida apenas em parte, o imperador concordou em devolver as igrejas confiscadas aos arianos, mas manteve o impedimento dos arianos convertidos ao catolicismo, poderem retornar ao arianismo.

Com o fracasso de sua missão, o Papa João I despertou a ira do imperador Teodorico. Assim, quando colocou os pés em Roma foi detido e aprisionado em Ravena, onde morreu no dia 18 de maio de 526. Foi então declarado mártir da Igreja.