Hij werd geboren in Sint-Niklaas in een katholiek gezin, ook drie van zijn broers werden priester gewijd. Na zijn priesterwijding op 28 april 1946 behaalde hij zijn doctoraat in kerkelijk recht aan de Pauselijke Universiteit Gregoriana. Een van zijn studiegenoten in Rome was Karol Woityla, die korte tijd verbleef op het Belgisch Pauselijk College. Uit die periode groeide een levenslange vriendschap die behouden bleef toen Wojtyla beter bekend raakte als paus Johannes Paulus II.
Na zijn terugkeer naar België oefende hij verschillende functies uit binnen de Katholieke Kerk. Hij werd in 1949 onderpastoor in Beveren-Waas en vanaf 1951 docent in Aalst. Op 3 juli 1959 werd hij docent benoemd aan het seminarie van Gent en in datzelfde jaar ging hij aan de slag bij de diocesane kerkelijke rechtbank. Op 5 november 1984 werd hij benoemd tot hoofd van de kerkelijke rechtbank in Gent en op 1 februari 1994 werd hij rechter aan de interdiocesane rechtbank. Hij combineerde zijn werk aan de rechtbank met de herderlijke zorg als pastoor van de Sint-Agathaparochie van Landskouter (gemeente Oosterzele). Joos was als kanunnik verbonden aan het Sint-Baafskapittel.