Poungui erosi PCT:stä 28. marraskuuta 1990 ja tuli uuden puolueen, Union for Social Progress and Democracy (UPSD) -puolueen johdoksi. Kesä-lokakuu 1997 sisällissodan lopussa
Puungui pakeni presidentti Pascal Lissouban kannattajana maanpaossa. Hän pysyi maanpaossa vuoteen 2006.