Prawdziwe imię Kolumby brzmi Columcille (irlandzkie imię – Colum Cille), czyli "gołąb Kościoła". Na chrzcie otrzymał imię Crimthann (czyli "lis"). Znany jest przede wszystkim pod łacińską wersją swego imienia Columba. W wersji polskiej występuje jako Kolumba lub Kolumban. Nazwany został Starszym dla odróżnienia od Kolumbana Młodszego, także świętego (+ 615), wspominanego w liturgii 23 listopada. Z tego samego powodu bywa też określany mianem Kolumba opata z Hy (Iona). Analogicznie Kolumban Młodszy zwany jest wtedy Kolumbanem z Luxeuil/Bobbio.

Urodził się około r. 521 w królewskiej rodzinie Conall Gulbana; kilku bliskich z jego rodziny należało do grona panujących. Sam został szybko mnichem. Wówczas właśnie otrzymał imię Kolumba, pod którym przeszedł do historii. Wykształcenie i zmysł zakonny zdobywał w kilku klasztorach: w Cill-Enna, w Clonard oraz Moville. Potem sam założył wiele ośrodków mniszych. W roku 563, już jako kapłan i opat, opuścił Irlandię - pro Christo peregrinari volens (pragnąc pielgrzymować dla Chrystusa), jak przekazał Adamnan. Osiadł na opustoszałej wysepce Iona i tam utworzył nowy ośrodek, który miał promieniować przez kolejne stulecia. Podjął też pracę ewangelizacyjną, prowadzoną wcześniej bez trwałych rezultatów przez św. Niniana. Działał również pośród Irlandczyków osiadłych na południe od terenów Piktów. Oni to utworzyli podstawę dla ukształtowania narodowości szkockiej.
Na małej skalistej wysepce Kolumba spędził trzydzieści cztery lata. Bez ustanku napływali do niego uczniowie, dlatego ośrodek stał się początkiem kilku innych klasztorów, które utworzyły rodzaj konfederacji mniszej. Formowano w nich misjonarzy dla Piktów i Anglosasów. Sam Kolumba nawrócił króla Piktów, a w 574 roku namaścił na króla władcę Irlandczyków w południowej Szkocji. Biskupem nie był, mimo to posiadał pewną jurysdykcję nad klasztorami w Szkocji i Irlandii. Zmarł 8 lub 9 czerwca 597 r., wtedy gdy św. Augustyn z Canterbury, wysłany przez Grzegorza Wielkiego, stawiał stopę na ziemi angielskiej. Szczątki patriarchy przeniesiono w czasie napadów skandynawskich. Przetrwała dużo późniejsza legenda o tym, że złożono je razem z relikwiami św. Patryka i św. Brygidy.

W ikonografii przedstawiany jest w habicie benedyktyńskim. Jego atrybutem jest: księga, zwój, model klasztoru, statek, gołąb.