En 1994, Gaviria foi designáu Secretariu Xeneral de la OEA el máximu cargu de la organización. El so periodu como secretariu empecipió al términu del so periodu presidencial nagostu de 1994, y foi reelixíu na Secretaría de la OEA en 1999. Terminól so mandatu en 2004.