Den hellige Johannes I, var i følge LP født i Toscana og sønn av Konstantin. Han var erkediakon i Roma, og støttet først den pro-bysantinske motpaven Laurentius, men han underkastet seg Symmachus den 16. september 506. Han var en nær venn og fortrolig av filosofen og statsmannen Boethius, som konsulterte ham om sine skrifter og dediserte tre teologiske avhandlinger til ham. Boethius ble henrettet i 524 etter anklager om forræderi.
Etter at Hormisdas døde den 6. august 523, ble Johannes den 13. august valgt til hans etterfølger til tross for sin alder og sviktende helse. Valget reflekterte den økende styrken til det pro-bysantinske partiet som et resultat av gjenforeningen mellom øst og vest under Hormisdas. Det er verdt å merke seg at Johannes som pave, etter råd fra Dionysios Exiguus, var ansvarlig for å innføre Kyrillos av Alexandrias beregning av påsken. Dermed ble et av stridsspørsmålene mellom Symmachus og Laurentius løst, og vedtaket ble akseptert i hele vesten.
Kort før Johannes kom på Peters stol begynte keiser Justinos I (528-37), som i sin nidkjærhet for den rette lære hadde gjenopplivet de gamle lovene mot kjetteri, å forfølge arianerne, inkludert mange gotere, i sine områder. Deres kirker ble beslaglagt, de ble utelukket fra offentlige stillinger og mange ble tvunget til å avsverge den arianske tro. Disse tiltakene alarmerte kong Theoderik av Italia (493-526) og gjorde ham rasende, for han var selv østgoter og arianer. Hittil hadde han hatt et godt forhold til katolikkene, men nå var han blitt gammel og mistenksom og følte seg stadig mer isolert. Han betraktet den nye vennskapeligheten mellom Roma og Konstantinopel som en mulig trussel mot sitt regime. Han ser ut til først å ha tenkt på å gå til krig til fordel for sine med-arianere, men bestemte seg for å se hva han kunne oppnå med en delegasjon til keiseren. Han stevnet paven til Ravenna og beordret ham til å lede en stor delegasjon av biskoper og senatorer til Konstantinopel for å sikre at forfølgelsene ble innstilt, de beslaglagte kirkene tilbakelevert og de tvangskonverterte arianerne fikk vende tilbake til arianismen.
Dette regnes som en av pavedømmets største ydmykelser gjennom alle tider, da arianismen var regnet som et erkekjetteri. Men Johannes fryktet for skjebnen til katolikkene i vest hvis han nektet, så han bestemte seg for å gjøre sitt beste for å oppnå alle innrømmelser kongen krevde, unntatt den siste. Åpent fortalte han kongen at han ikke ville spørre keiseren om å innvilge dette. Theoderiks reaksjon er ikke kjent; noen har gjettet at han stolte på at andre medlemmer av delegasjonen skulle overlevere hans ønske til keiser Justinos.
Delegasjonen forlot Ravenna tidlig i 526 og nådde Konstantinopel like før påske. Johannes var den første paven som reiste fra Italia til østen. Selv om hans oppdrag var ydmykende, var hans mottakelse strålende, og overalt hvor delegasjonen stoppet, ble paven tatt imot med alle æresbevisninger. Hele byen kom ut til den 12 milesteinen for å hilse ham med en strålende prosesjon av presteskap som bar kors og lys og keiseren gjorde knefall for St. Peters vikar. Påskedag (19. april) ble han gitt en trone i kirken som var høyere enn patriarkens. Han feiret messe etter den latinske ritus, og i stedet for patriarken plasserte han den vanlige påskekronen på Justinos' hode. Paven mottok entusiastiske lojalitetsforsikringer fra de østlige biskopene, Bare Alexandria, som nå var hardnet i sitt monofysittiske kjetteri, holdt stand.
I forhandlingene som fulgte, gikk keiseren med på de fleste av Theoderiks krav, men avviste det som kongen tilla mest vekt: at de tvangskonverterte arianerne skulle få tillatelse til å vende tilbake til sin opprinnelige tro. Da legatene kjente kongens utålmodighet og trodde de hadde oppnådd alt som var mulig, hastet de tilbake til Ravenna, bare for å bli møtt av Theoderiks tøylesløse raseri. I hans øyne hadde reisen vært en fiasko siden den ikke hadde endt med gjensidig toleranse. Han var også rasende over rapportene om pavens strålende mottakelse og hans smigrede reaksjoner på den. Den sykelig mistenksomme kongen hadde allerede henrettet sin engang betrodde minister Boethius, senatoren Symmachus og andre ledende personer, anklaget for forrædersk korrespondanse med keiseren. Pavens oppførsel fikk kongen til å frykte at også Johannes var klar til å forråde ham. Historien om at han kastet Johannes og de andre legatene i fengsel og ville ha henrettet dem om han ikke hadde fryktet keiserens vrede, er garantert falsk. Noen legender forteller også at Johannes led martyrdøden. Det er ikke kjent hva Theoderik gjorde med de andre legatene, men han ga Johannes ordre om å bli i Ravenna og stå til kongens disposisjon, og kongen gjorde det klart at paven hadde forspilt hans gunst, tillit og beskyttelse.
Men før Theoderik fikk tatt en endelig avgjørelse om hva han skulle gjøre med den stakkars gamle paven, kollapset Johannes, syk, utslitt av reisen og rystet av sine fryktelige utsikter, og døde noen dager senere, den 18. mai 526, i Ravenna. Han ble gravlagt utenfor bymurene i Ravenna, men hans legeme, som straks ble fokus for venerasjon og mirakler, ble transportert tilbake til Roma og gravlagt den 27. mai i skipet i St. Petersbasilikaen. Hans gravskrift i elegiske vers hyller ham som et «offer for Kristi skyld», og han ble snart æret av folket som martyr. Hans minnedag er 18. mai (tidligere 27. mai).