Pierwsza, romańska świątynia maryjna w Sandomierzu powstała ok. 1120 r. z inicjatywy i fundacji Bolesława Krzywoustego. W XIII w. na Sandomierz dwukrotnie napadały obce wojska - w 1241 r. mongolskie, a w latach 1259-1260 - tatarskie i ruskie. To właśnie wtedy śmierć ponieśli Męczennicy Sandomierscy - dominikanie z kościoła św. Jakuba. W latach 1270-1360 zbudowano nowy kościół w stylu wczesnogotyckim. Do dziś zachowały się ślady jego istnienia. W 1360 r. powstała kolegiata gotycka. Dotychczasowa świątynia stała się prezbiterium nowej. Jej konsekracji dokonał w 1382 r. biskup krakowski Jan Radlica. Przez kolejne dziesięciolecia kościół rozbudowywano i hojnie wyposażano. W 1656 r. wycofujące się po porażce pod Sandomierzem wojska szwedzkie wysadziły w powietrze zamek królewski; pożar dotknął również kolegiatę: spłonął dach i znaczna część sklepienia prezbiterium. W 1717 r. do kolegiaty przeniesiono - za zgodą odpowiednich władz kościelnych - parafię. W 1818 r. na mocy bulli Piusa VII świątynię podniesiono do rangi katedry. Jan XXIII nadał jej w 1960 r. tytuł bazyliki mniejszej.

Diecezję sandomierską utworzył w 1818 r. Pius VII bullą Ex imposita nobis. Liczyła ona wówczas ok. 370 tys. ludności. Bardzo szybko wybudowano seminarium duchowne. W prawie niezmienionym kształcie diecezja przetrwała aż do 1981 r., kiedy to zmieniono jej nazwę na sandomiersko-radomską. W 1992 r. Jan Paweł II ogłosił bullą Totus Tuus Poloniae Populus nowy podział administracyjny Kościoła w Polsce. Diecezja otrzymała ponownie nazwę sandomierskiej. Na jej terenie znalazł się m.in. Sandomierz, Stalowa Wola, Tarnobrzeg, Janów Lubelski. Pochodziło stąd lub działało tu wielu świętych i błogosławionych, m.in. św. Andrzej Bobola, patron Polski, bł. Wincenty Kadłubek, bł. Czesław, bł. Sadok i Towarzysze i inni.

Od lipca 2009 r. ordynariuszem tej diecezji jest bp Krzysztof Nitkiewicz. Pomagają mu w diecezji biskupi-seniorzy Edward Frankowski i Wacław Świerzawski. Na terenie diecezji (niecałe 8 tys. km kwadratowych) mieszka ponad 700 tys. osób. Pracuje tu ok. 640 kapłanów diecezjalnych i ok. 70 zakonnych w 241 parafiach podzielonych na 24 dekanaty. Patronami diecezji są św. Stanisław ze Szczepanowa oraz bł. Wincenty Kadłubek.

12 czerwca 1999 r. w Sandomierzu gościł Jan Paweł II. Odprawił Mszę świętą, podczas której mówił m.in.:

Ze czcią nawiedzam Sandomierz - prastary Sandomierz. Ogarniam sercem inne miasta i ośrodki przemysłowe (...) Ileż to razy nawiedzałem ziemię sandomierską, jakże często dane mi było spotykać się z historią waszego miasta i uczyć się tutaj dziejów narodowej kultury. Utaiła się bowiem w tym mieście jakaś przedziwna siła, której źródło tkwi w chrześcijańskiej tradycji. Jest Sandomierz wielką księgą wiary naszych przodków. Zapisali w niej wiele stronic święci i błogosławieni. Wspominam przede wszystkim patrona tego miasta - bł. Wincentego Kadłubka, mistrza Wincentego, który był prepozytem katedry sandomierskiej i biskupem krakowskim, a potem mnichem zakonu cystersów w Jędrzejowie. (...) Tę ziemię użyźniła w XIII w. krew błogosławionych męczenników sandomierskich, duchownych i świeckich, którzy zginęli za wiarę z rąk Tatarów, a wraz z nimi bł. Sadok i 48 dominikanów z klasztoru przy romańskim kościele św. Jakuba. W świątyniach Sandomierza głosili Ewangelię: św. Jacek, bł. Czesław, św. Andrzej Bobola. Dominikanie szerzyli tutaj gorliwie kult Matki Bożej; jezuici w swoim kolegium Gostomianum kształcili i wychowywali młodzież; duchacy przy kościele Świętego Ducha prowadzili szpital dla chorych, przytułek dla biednych i ochronki dla dzieci. Miasto to pamięta Jana Długosza i św. Królową Jadwigę, której sześćsetlecie śmierci w tym roku obchodzimy.
Dzisiaj w Sandomierzu wraz z wszystkimi tu zgromadzonymi wielbię Boga za to wielkie duchowe dziedzictwo, które w czasach zaborów, w czasach niemieckiej okupacji i w czasach totalitarnego zniewolenia przez system komunistyczny pozwoliło ludziom tej ziemi zachować narodową i chrześcijańską tożsamość. Trzeba się nam wsłuchiwać z ogromną wrażliwością w ten głos przeszłości, aby wiarę i miłość do Kościoła i Ojczyzny przeprowadzić, przenieść przez próg roku 2000 i przekazać następnym pokoleniom. Tu z łatwością możemy sobie uświadomić, jak bardzo czas człowieka, czas wspólnot i narodów nasycony jest obecnością Boga i Jego zbawczym działaniem.