Római hagyomány szerint János Toszkánából származott és 523. augusztus 13-án lett Hormisdas pápa utóda. Hároméves pápasága (523-- 526) nem állt kedvező csillagzat jegyében. Itáliában a keleti gótok voltak az urak Nagy Theodorich alatt (471--526), Konstantinápolyban Jusztinosz császár uralkodott (518--527). János sorsát csak a kor Kelet- és Nyugat-Róma között fennálló egyházi és politikai feszültségének ismeretében lehet megérteni. Theodorichot 498-ban elismerték Itália uralkodójának, és mint a kelet-római császár helytartója uralkodott Ravennában. Ravenna műemlékei mindmáig tanúskodnak uralkodói öntudatáról és a klasszikus műveltségnek az ő uralma alatt bekövetkezett jelentős utóvirágzásáról. A nagy műveltségű Cassiodorus segítette a királyt a régi római örökség megőrzésében.
A római püspök és egyháza iránt Theodorich jóindulatú és nagyvonalú volt. Ariánus keleti gótjai és a bennszülött katolikus lakosság között igyekezett fenntartani a békét és az egyetértést. A római egyháznak a politikai támogatásra szüksége volt, mert a kelet-római egyháztól gyűlölködő szakadás választotta el. A kalcedoni zsinat (451) teológiai döntése a bizánci egyházban elkeseredett viszálykodást támasztott. Ismételten kísérletet tettek a harcoló pártok békítésére. Teológiai kompromisszum-formulákat tettek az asztalra, de azok nem feleltek meg sem a zsinat szándékának, sem az ellenfeleknek. Zénó császár 482-ben Akakiosz pátriárka beleegyezésével kihirdetett egy ilyen egységesítő formulát -- ez az ún. Henotikon. Róma azonban tiltakozott, és ez a két egyház szétszakadását eredményezte (akakioszi szakadás). Róma szemében a bizánci egyház és császár eretneknek számított.
A Bizánccal való teológiai nézeteltérés jó irányban hatott Theodorichra a római egyházhoz fűződő viszonyában. Rómának ugyanis Theodorich hatalma biztosította, hogy a bizánci hitvallást ne lehessen rákényszeríteni. Amikor azonban Hormisdas pápa alatt 519-ben megszűnhetett a szakadás, és a két egyház újra egyesült az egy hitben, Itáliában döntően megváltozott a helyzet. A római hagyománynak megfelelően inkább kedvelték a kelet-római császárt, mint a keleti gót Theodorichot. Theodorich nagyra törő terveket szőtt egy nyugat-római- germán állam alapításáról. Ennek állt volna útjában és meghiúsulását jelentette volna, ha sikerül kiterjeszteni a kelet-római befolyást más germán államokra, pl. Sigismund király Burgundiájára vagy az észak- afrikai vandálokra. Ilyen körülmények között a Kelet-Római Birodalommal való rokonszenv vagy barátság felségárulás számba ment. A király hosszú éveken át legbizalmasabb embere, a politikus és filozófus Boëthius ennek a gyanúnak esett áldozatául 524-ben.
A császári politika zordságát hamarosan megérezte I. János római püspök is. Theodorich a gótok szószólójának tartotta magát bizánci területen is, ahol Jusztinosz császár fölújította a régi római eretnek- törvényt, és 524-ben az ariánus gótok ellen fordult. Ez kényszer- megtérésekhez vezetett. Az ariánusoktól elvették templomaikat, és katolikus istentiszteleti célokra használták őket. Félő volt, hogy a császár és Theodorich versengése vallásháborúba csap át. Ebben a feszült helyzetben Theodorich Róma püspökét tette meg a bizánci udvarba menesztett egyik küldöttség vezetőjének. A katolikus főpásztornak kellett az ariánus gótok érdekében közbenjárnia és a császárt kártérítésre fölszólítania. Elutazása előtt János Ravennában ezt mondta a királynak: ,,Tedd hamarosan, amit tenni akarsz. Szilárdan állok előtted. Nem ígérem neked, hogy megteszem, amit kívánsz. Nem fogok a császárnak ilyet mondani.''
Jánost a keleti útra politikai parancs kényszerítette, amely szinte lehetetlent kívánt tőle. Ez volt az első pápai utazás a bizánci udvarba. Két évszázadon át kényszerültek ezután római pápák -- többnyire kritikus helyzetekben és megalázó körülmények között -- erre a tengeri útra. Most azonban Jánost teljes tisztelettel fogadták Konstantinápolyban. 526 húsvétján a bizánci szertartások értelmében ő tehette a császár fejére a koronát. Küldetésében, amelyet maga sem tudott egész szívvel vállalni, természetesen nem érhetett el teljes sikert. A keleti-gót országban a katolikusok ellen kilátásba helyezett megtorlások tanácsossá tették, hogy a császár megígérje az ariánus templomok visszaadását. A kényszer-megtérések visszavonását azonban nem biztosították. Biztos, hogy a pápa nem is erőltette Theodorich e követelését. Theodorich számára tehát üres kézzel tért vissza a pápa Itáliába. A felségárulás gyanúja igen kézenfekvő volt. A pápát a ravennai udvarban fogva tartották, s néhány nap múlva, 526. május 18- án meg is halt ott. Holttestét Rómába szállították, és a Szent Péter- bazilika előcsarnokában temették el.
Az utókor vértanúnak tekintette a pápát. Ravennai kényszertartózkodását hosszú rabságnak tekintették, hirtelen halálát a börtönben elszenvedett nélkülözésekkel magyarázták. Sírfelirata is küldetésének és halálának ilyen értelmezését tükrözi: ,,Krisztus vágóáldozata.'' A hagyomány további fejlődésében megerősödött a meggyőződés János pápa vértanúságáról. Theodorich képe közben komor és ellenséges lett. Dühöngő katolikus-üldözővé lett, akire sokat átruháztak abból, amit a régi egyház az üldözőkről elbeszélt. Nagy Szent Gergely elmondja egy remete látomását, amelyben János pápa és a Theodorich által megöletett római Symmachus a gót királyt egy vulkán kráterébe taszította (Dialogus IV, 30). Az így értelmezett történetben a pápa egyoldalúan az egyházi szabadság állhatatos védelmezője lett, aki azonban elbukik a világi hatalom túlerejével szemben. A szentek tiszteletében János így típusa lett az egyházi férfinak, aki csak szenvedve tud győzni.
Ünnepét a 12. században vették föl a római naptárba, május 27-re, amikor a Szent Péter-bazilikában történt temetésére emlékeztek. 1969- ben áthelyezték halála napjára.
A szent pápáról, akit a későbbi egyház ,,Krisztus vágóáldozata'' névvel tisztelt meg, nem sok személyes és egyéniségére jellemző esetet ismerünk, inkább csak történeti eseményeket. Egy legendásan kibővített elbeszélés elmondja, hogyan érkezett meg a Boszporusz-melléki császárvárosba.
Amikor elterjedt Konstantinápolyban a pápa és küldöttsége irkezésének a híre, az ünnepi ruhába öltözött nép több órányi járásra elébe ment. Ünnepélyes körmenetben, kereszttel, lobogókkal és égő gyertyákkal fogadták Róma püspökét. Nyilvános ünnep és általános öröm kísérte érkezését. Mindenki a magas vendég áldását várta. A császár maga is kiment elébe udvarával együtt, leborult előtte, és rendkívüli tiszteletadásban részesítette.
János az úgynevezett Aranykapun vonult be a városba. A kapu ívei alatt egy vak borult le előtte. Arra kérte, hogy Krisztus helytartójaként segítse szeme világához, ahogyan Krisztus is megtette ezt. János megérintette a vak szemét, keresztet vetett rá, és az rögtön látott.