Gouvy est une commune paisible situé au nord-est de la province de Luxembourg. Au sud de la commune, sur , se trouve le Grand-Duché de Luxembourg avec les communes de Troisvierges et Wincrange. Au nord se trouve la commune de Vielsalm. À l'est, la commune germanophone de Burg-Reuland. Enfin, à l'ouest la commune de Houffalize. L'Allemagne, quant à elle, est à vers l'est.