Sykstus pochodził z Aten, był synem filozofa. O latach dziecięcych oraz młodzieńczych przyszłego papieża nic nie wiemy. Wstąpił na stolicę Piotrową 30 sierpnia 257 r. po śmierci św. Stefana I. Załagodził spór wśród biskupów azjatyckich i afrykańskich w sprawie ważności chrztu, udzielanego przez heretyków. Biskupi Azji i Afryki byli zdania, że nie jest on ważny. Mieli oni silne poparcie także w św. Cyprianie, biskupie Kartaginy.

Już w następnym roku, podczas niedawno rozpoczętego prześladowania chrześcijan przez cesarza Waleriana (253-260), Sykstus został aresztowany podczas celebrowania Mszy św. w katakumbach św. Kaliksta. Ścięto go mieczem na jego biskupim krześle 6 sierpnia 258 r. wraz z towarzyszącymi mu diakonami: św. Januarym, św. Magnusem, św. Wincentym i św. Stefanem. Tego samego dnia zostali ścięci dwaj inni diakoni: Felicysyn i Agapit oraz kapłani - ich imion jednak nie znamy.
Imię św. Sykstusa wymienia się w Kanonie rzymskim, syryjskim i kartagińskim. Św. Cyprian nazywa św. Sykstusa II "kapłanem dobrym i pokojowym". W roku 1854 odkryto jego grób w katakumbach św. Kaliksta, w krypcie papieży.

W ikonografii św. Sykstus przedstawiany jest w papieskich szatach, w ornacie, paliuszu i prostej tiarze. Jego atrybutami są: miecz, moneta w dłoni, palma, pastorał z podwójnym krzyżem, sakiewka, sakiewka na księdze.