Józef urodził się 15 kwietnia 1852 r. w Dolomitach w północnych Włoszech. Pochodził z ubogiej rodziny chłopskiej. W 1862 r. rozpoczął naukę w szkole w Bressanone. Dziesięć lat później wstąpił do miejscowego seminarium duchownego. W trakcie studiów zainteresował się misjami. W 1875 r. przyjął święcenia kapłańskie. Trzy lata później, w 1878 r., wyjechał do Holandii i razem ze św. Arnoldem Janssenem rozpoczął przygotowania do podjęcia misji.

W marcu 1879 r. wyjechali do Chin. Najpierw przez dwa lata uczyli się w Hongkongu języka i posługiwali miejscowym chrześcijanom, by następnie wyjechać do powierzonych im 158 chrześcijan w liczącej 12 milionów mieszkańców prowincji południowego Szantungu.
W marcu 1882 r. Józef zamieszkał w prymitywnej, glinianej chacie w Puoli. Do pomocy w pracy duszpasterskiej zapraszał ludzi świeckich, którzy dzięki znajomości języka mogli o wiele skuteczniej pomagać w ewangelizacji. Z myślą o nich przygotował wyjaśnienia do katechizmu i różne inne pomoce duszpasterskie w języku chińskim.

15 sierpnia 1885 r. złożył śluby w nowo powstałym Zgromadzeniu Słowa Bożego (werbistów). Wkrótce został zastępcą wikariusza apostolskiego, ustanowionego dla całej prowincji. Kościół na tym terenie liczył już wówczas blisko 700 chrześcijan i około 2000 katechumenów, przygotowujących się do przyjęcia chrztu. W 1894 r. Józef przeniósł się do Wangchungu, gdzie został wkrótce rektorem nowego seminarium. W 1900 r. został mianowany przełożonym prowincji werbistów w południowym Szantungu.
W 1908 r. w prowincji wybuchła epidemia tyfusu. Ks. Józef chętnie i gorliwie spieszył na pomoc wszystkim potrzebującym. Zaraził się od nich chorobą i zmarł 28 stycznia 1908 r. w Taikii. Paweł VI beatyfikował go w październiku 1975 r., a Jan Paweł II ogłosił go świętym w 2003 r.