Né à Rome au Ve siècle, ordonné diacre en 502, il fut archidiacre de la ville avant d’être élu pape le 13 mai 535. Opposé à l’usage de la désignation par le pontife de son successeur, il œuvra pour permettre la libre élection du pape par le clergé de Rome.

A la demande du roi goth Théodat, il se rendit à Constantinople au début de l’année 536 pour dissuader les Byzantins d’envahir l’Italie, ce qu’il ne put obtenir. Il convoqua toutefois un concile par lequel il déposa le patriarche Anthime Ier, qui avait embrassé l’hérésie eutychienne. L’empereur Justinien, impressionné par ce pape intrépide, se rattacha pleinement à la vraie foi.

Agapit mourut de maladie à Constantinople, le 22 avril 536. Quelques-unes de ses lettres ont été conservées, qui montrent qu’il fut un ardent défenseur de la foi contre les hérésies de son temps, notamment contre l’arianisme.