text: ﻿# -*- coding: utf-8 -*-
  """Normalization of Vietnamese text.
  
  IWSLT 2015
  code for normalization of Vietnamese texts, kindly provided by:
  Thanh-Le Ha, MSc.
  Karlsruhe Institute of Technology (KIT)
  
  author:
  Thang Tat Vu, Institute of Information Technology, Vietnam.
  """
  
  import codecs
  import sys
  
  
  def UniStd_L(str):
      """Perform UniStd L normalization."""
      return str.\
          replace(u'à', u'à').replace(u'ã', u'ã').replace(u'ả', u'ả').replace(u'á', u'á').replace(u'ạ', u'ạ').\
          replace(u'ằ', u'ằ').replace(u'ẵ', u'ẵ').replace(u'ẳ', u'ẳ').replace(u'ắ', u'ắ').replace(u'ặ', u'ặ').\
          replace(u'ầ', u'ầ').replace(u'ẫ', u'ẫ').replace(u'ẩ', u'ẩ').replace(u'ấ', u'ấ').replace(u'ậ', u'ậ').\
          replace(u'ỳ', u'ỳ').replace(u'ỹ', u'ỹ').replace(u'ỷ', u'ỷ').replace(u'ý', u'ý').replace(u'ỵ', u'ỵ').\
          replace(u'ì', u'ì').replace(u'ĩ', u'ĩ').replace(u'ỉ', u'ỉ').replace(u'í', u'í').replace(u'ị', u'ị').\
          replace(u'ù', u'ù').replace(u'ũ', u'ũ').replace(u'ủ', u'ủ').replace(u'ú', u'ú').replace(u'ụ', u'ụ').\
          replace(u'ừ', u'ừ').replace(u'ữ', u'ữ').replace(u'ử', u'ử').replace(u'ứ', u'ứ').replace(u'ự', u'ự').\
          replace(u'è', u'è').replace(u'ẽ', u'ẽ').replace(u'ẻ', u'ẻ').replace(u'é', u'é').replace(u'ẹ', u'ẹ').\
          replace(u'ề', u'ề').replace(u'ễ', u'ễ').replace(u'ể', u'ể').replace(u'ế', u'ế').replace(u'ệ', u'ệ').\
          replace(u'ò', u'ò').replace(u'õ', u'õ').replace(u'ỏ', u'ỏ').replace(u'ó', u'ó').replace(u'ọ', u'ọ').\
          replace(u'ờ', u'ờ').replace(u'ỡ', u'ỡ').replace(u'ở', u'ở').replace(u'ớ', u'ớ').replace(u'ợ', u'ợ').\
          replace(u'ồ', u'ồ').replace(u'ỗ', u'ỗ').replace(u'ổ', u'ổ').replace(u'ố', u'ố').replace(u'ộ', u'ộ').\
          replace(u'òa', u'oà').replace(u'õa', u'oã').replace(u'ỏa', u'oả').replace(u'óa', u'oá').replace(u'ọa', u'oạ').\
          replace(u'òe', u'oè').replace(u'õe', u'oẽ').replace(u'ỏe', u'oẻ').replace(u'óe', u'oé').replace(u'ọe', u'oẹ').\
          replace(u'ùy', u'uỳ').replace(u'ũy', u'uỹ').replace(u'ủy', u'uỷ').replace(u'úy', u'uý').replace(u'ụy', u'uỵ').\
          replace(u'aó', u'áo')
  
  
  def UniStd_H(str):
      """Perform UniStd H normalization."""
      return str.\
          replace(u'À', u'À').replace(u'Ã', u'Ã').replace(u'Ả', u'Ả').replace(u'Á', u'Á').replace(u'Ạ', u'Ạ').\
          replace(u'Ằ', u'Ằ').replace(u'Ẵ', u'Ẵ').replace(u'Ẳ', u'Ẳ').replace(u'Ắ', u'Ắ').replace(u'Ặ', u'Ặ').\
          replace(u'Ầ', u'Ầ').replace(u'Ẫ', u'Ẫ').replace(u'Ẩ', u'Ẩ').replace(u'Ấ', u'Ấ').replace(u'Ậ', u'Ậ').\
          replace(u'Ỳ', u'Ỳ').replace(u'Ỹ', u'Ỹ').replace(u'Ỷ', u'Ỷ').replace(u'Ý', u'Ý').replace(u'Ỵ', u'Ỵ').\
          replace(u'Ì', u'Ì').replace(u'Ĩ', u'Ĩ').replace(u'Ỉ', u'Ỉ').replace(u'Í', u'Í').replace(u'Ị', u'Ị').\
          replace(u'Ù', u'Ù').replace(u'Ũ', u'Ũ').replace(u'Ủ', u'Ủ').replace(u'Ú', u'Ú').replace(u'Ụ', u'Ụ').\
          replace(u'Ừ', u'Ừ').replace(u'Ữ', u'Ữ').replace(u'Ử', u'Ử').replace(u'Ứ', u'Ứ').replace(u'Ự', u'Ự').\
          replace(u'È', u'È').replace(u'Ẽ', u'Ẽ').replace(u'Ẻ', u'Ẻ').replace(u'É', u'É').replace(u'Ẹ', u'Ẹ').\
          replace(u'Ề', u'Ề').replace(u'Ễ', u'Ễ').replace(u'Ể', u'Ể').replace(u'Ế', u'Ế').replace(u'Ệ', u'Ệ').\
          replace(u'Ò', u'Ò').replace(u'Õ', u'Õ').replace(u'Ỏ', u'Ỏ').replace(u'Ó', u'Ó').replace(u'Ọ', u'Ọ').\
          replace(u'Ờ', u'Ờ').replace(u'Ỡ', u'Ỡ').replace(u'Ở', u'Ở').replace(u'Ớ', u'Ớ').replace(u'Ợ', u'Ợ').\
          replace(u'Ồ', u'Ồ').replace(u'Ỗ', u'Ỗ').replace(u'Ổ', u'Ổ').replace(u'Ố', u'Ố').replace(u'Ộ', u'Ộ').\
          replace(u'ÒA', u'OÀ').replace(u'ÕA', u'OÃ').replace(u'ỎA', u'OẢ').replace(u'ÓA', u'OÁ').replace(u'ỌA', u'OẠ').\
          replace(u'ÒE', u'OÈ').replace(u'ÕE', u'OẼ').replace(u'ỎE', u'OẺ').replace(u'ÓE', u'OÉ').replace(u'ỌE', u'OẸ').\
          replace(u'ÙY', u'UỲ').replace(u'ŨY', u'UỸ').replace(u'ỦY', u'UỶ').replace(u'ÚY', u'UÝ').replace(u'ỤY', u'UỴ')
  
  
  def UniStd(str):
      """Perform UniStd normalization."""
      return UniStd_L(UniStd_H(str)).\
          replace(u'òA', u'oà').replace(u'õA', u'oã').replace(u'ỏA', u'oả').replace(u'óA', u'oá').replace(u'ọA', u'oạ').\
          replace(u'òE', u'oè').replace(u'õE', u'oẽ').replace(u'ỏE', u'oẻ').replace(u'óE', u'oé').replace(u'ọE', u'oẹ').\
          replace(u'ùY', u'uỳ').replace(u'ũY', u'uỹ').replace(u'ủY', u'uỷ').replace(u'úY', u'uý').replace(u'ụY', u'uỵ').\
          replace(u'Òa', u'Oà').replace(u'Õa', u'Oã').replace(u'Ỏa', u'Oả').replace(u'Óa', u'Oá').replace(u'Ọa', u'Oạ').\
          replace(u'Òe', u'Oè').replace(u'Õe', u'Oẽ').replace(u'Ỏe', u'Oẻ').replace(u'Óe', u'Oé').replace(u'Ọe', u'Oẹ').\
          replace(u'Ùy', u'Uỳ').replace(u'Ũy', u'Uỹ').replace(u'Ủy', u'Uỷ').replace(u'Úy', u'Uý').replace(u'Ụy', u'Uỵ')
  
  
  if __name__ == "__main__":
      filein = sys.argv[1]
      fileout = sys.argv[2]
      data = codecs.open(filein, 'r', 'utf8').read()
      codecs.open(fileout, 'w', 'utf8').write(UniStd(data))
  