Agapit urodził się w Rzymie. Pochodził z arystokratycznego i bogatego rodu Anicjuszów, był synem Gordiana, rzymskiego prezbitera przy kościele świętych Jana i Pawła, zamordowanego przez zwolenników antypapieża Wawrzyńca. Agapit był archidiakonem rzymskim. Wybrany na stolicę Piotrową w 535 r., zajął się porządkowaniem spraw kościelnych, m.in. wprowadzeniem zasady obieralności papieża (w miejsce dotychczasowej praktyki nominowania kolejnego papieża przez poprzednika). Swój pontyfikat rozpoczął od publicznego spalenia klątwy rzuconej przez Bonifacego II (pontyfikat 530-532) na Dioskura (antypapieża, zm. 530 r.). W swych dokumentach ustosunkował się do arianizmu. Zabraniał świeckim nauczania w Kościele. Swój rodzinny dom na wzgórzu celiańskim zamienił w bibliotekę, która miała być częścią zakładanego ośrodka wyższych studiów religijnych (Uniwersytetu Rzymskiego) i biblioteki teologicznej, wzorowanej na Bibliotece Aleksandryjskiej.
Wiosną 536 r., na prośbę króla Italii, udał się do Konstantynopola, aby powstrzymać militarne zamiary wobec Italii. Cesarz bizantyjski Justynian przygotował się bowiem do podboju Italii, która od 476 r. była królestwem germańskim. Aby sfinansować tę podróż, Agapit I musiał zastawić naczynia liturgiczne, co świadczy o zubożeniu finansowym ówczesnego Kościoła rzymskiego. Agapita I uroczyście powitano w Konstantynopolu, ale misja zakończyła się niepowodzeniem. Podczas pobytu na dworze cesarskim zmarł 22 kwietnia 536 r. Jego ciało przewieziono do Rzymu i pochowano w portyku bazyliki św. Piotra 20 września 536 r.