
# Portuguese T5 for Abstractive Summarization (PTT5 Summ)

## Introduction
PTT5 Summ is a fine-tuned [PTT5](https://github.com/unicamp-dl/PTT5) model to perform Abstractive Summarization in Brazilian Portuguese texts. This model was fine-tuned on the datasets: [RecognaSumm](https://huggingface.co/datasets/recogna-nlp/recognasumm), [WikiLingua](https://github.com/esdurmus/Wikilingua), [XL-Sum](https://github.com/csebuetnlp/xl-sum), [TeMário](http://www.nilc.icmc.usp.br/nilc/download/NILCTR0706-MazieroEtAl(2).pdf) and [CSTNews](http://nilc.icmc.usp.br/CSTNews/login/?next=/CSTNews/).

For further information, please go to [PTT5 Summ repository](https://github.com/pedropaiola/ptt5-summ).

## Available models
| Model                                                                                                | Dataset used in fine-tuning| 
| :-:                                                                                                  | :-:                        | 
| [recogna-nlp/ptt5-base-summ](https://huggingface.co/recogna-nlp/ptt5-base-summ)                            | [RecognaSumm](https://huggingface.co/datasets/recogna-nlp/recognasumm) |
| [recogna-nlp/ptt5-base-summ-wikilingua](https://huggingface.co/recogna-nlp/ptt5-base-summ-wikilingua)      | WikiLingua |
| [recogna-nlp/ptt5-base-summ-xlsum](https://huggingface.co/recogna-nlp/ptt5-base-summ-xlsum)                | XL-Sum     |
| [recogna-nlp/ptt5-base-summ-temario](https://huggingface.co/recogna-nlp/ptt5-base-summ-temario)            | 1st phase: WikiLingua. 2nd phase: TeMario |
| [recogna-nlp/ptt5-base-summ-cstnews](https://huggingface.co/recogna-nlp/ptt5-base-summ-cstnews)            | 1st phase: WikiLingua. 2nd phase: CSTNews|

## Usage example
```python
# Tokenizer 
from transformers import T5Tokenizer

# PyTorch model 
from transformers import T5Model, T5ForConditionalGeneration

token_name = 'unicamp-dl/ptt5-base-portuguese-vocab'
model_name = 'phpaiola/ptt5-base-summ-xlsum'

tokenizer = T5Tokenizer.from_pretrained(token_name )
model_pt = T5ForConditionalGeneration.from_pretrained(model_name)

text = '''
“A tendência de queda da taxa de juros no Brasil é real, é visível”, disse Meirelles, que participou na capital americana de uma série de reuniões e encontros com banqueiros e investidores que aconteceram paralelamente às reuniões do Fundo Monetário Internacional (FMI) e do Banco Mundial (Bird) no fim de semana.
Para o presidente do BC, a atual política econômica do governo e a manutenção da taxa de inflação dentro da meta são fatores que garantem queda na taxa de juros a longo prazo.
“Mas é importante que nós não olhemos para isso apenas no curto prazo. Temos que olhar no médio e longo prazos”, disse Meirelles.
Para ele, o trabalho que o Banco Central tem feito para conter a inflação dentro da meta vai gerar queda gradual da taxa de juros.
BC do ano
Neste domingo, Meirelles participou da cerimônia de entrega do prêmio “Banco Central do ano”, oferecido pela revista The Banker à instituição que preside.
“Este é um sinal importante de reconhecimento do nosso trabalho, de que o Brasil está indo na direção correta”, disse ele.
Segundo Meirelles, o Banco Central do Brasil está sendo percebido como uma instituição comprometida com a meta de inflação.
“Isso tem um ganho importante, na medida em que os agentes formadores de preços começam a apostar que a inflação vai estar na meta, que isso é levado a sério no Brasil”, completou.
O presidente do Banco Central disse ainda que a crise política brasileira não foi um assunto de interesse prioritário dos investidores que encontrou no fim de semana.
'''

inputs = tokenizer.encode(text, max_length=512, truncation=True, return_tensors='pt')
summary_ids = model_pt.generate(inputs, max_length=256, min_length=32, num_beams=5, no_repeat_ngram_size=3, early_stopping=True)
summary = tokenizer.decode(summary_ids[0])
print(summary)
#<pad> O presidente do Banco Central, Henrique Meirelles, disse neste domingo, em Washington, que a taxa de juros no Brasil é real, mas que o Brasil está indo na direção correta.</s>

```

# Citation


    @aInProceedings{ptt5summ_bracis,
      author="Paiola, Pedro H.
        and de Rosa, Gustavo H.
        and Papa, Jo{\~a}o P.",
      editor="Xavier-Junior, Jo{\~a}o Carlos
        and Rios, Ricardo Ara{\'u}jo",
      title="Deep Learning-Based Abstractive Summarization for Brazilian Portuguese Texts",
      booktitle="BRACIS 2022: Intelligent Systems",
      year="2022",
      publisher="Springer International Publishing",
      address="Cham",
      pages="479--493",
      isbn="978-3-031-21689-3"}

{"language": "pt", "license": "mit", "tags": ["t5", "pytorch", "pt", "pt-br", "summarization", "abstractive summarization"], "inference": {"parameters": {"min_length": 32, "max_length": 256, "top_k": 5}}, "widget": [{"text": "Esfoliar a pele usando um esfoliante seco melhora a circula\u00e7\u00e3o e mant\u00e9m a pele saud\u00e1vel. Recomenda-se a esfolia\u00e7\u00e3o para esconder as estrias que j\u00e1 se formaram, por\u00e9m, a esfolia\u00e7\u00e3o tamb\u00e9m pode ser usada como t\u00e9cnica preventiva.   Use uma escova seca feita de fibras naturais. As cerdas devem ser resistentes, mas n\u00e3o muito duras. Comece a partir da parte mais baixa das suas pernas e esfolie a pele para cima, subindo at\u00e9 o cora\u00e7\u00e3o. Foque em \u00e1reas onde as estrias podem se tornar um problema \u2013 como abd\u00f4men e traseiro. Ao terminar a esfolia\u00e7\u00e3o, tome um banho para livrar sua pele das c\u00e9lulas mortas. N\u00e3o use a escova seca em seus seios, visto que a pele neles \u00e9 mais sens\u00edvel e poderia ser danificada pela esfolia\u00e7\u00e3o. Muitos sabonetes corporais comerciais cont\u00eam sulfatos, que podem secar sua pele e reduzir a elasticidade dela com o tempo. Escolha um limpador feito com \u00f3leos naturais que hidratar\u00e3o sua pele, sem priv\u00e1-la da humidade.   O \u00f3leo de coco pode agir como um limpador saud\u00e1vel de pele. Esfregue-o em sua pele, enxugue-o com \u00e1gua quente e seque-se suavemente com uma toalha macia. Pode ser desnecess\u00e1rio usar um limpador em sua pele, especialmente se ela se ressecar facilmente. Lave a pele com \u00e1gua morna e seque-a suavemente. \u00c9 importante usar um hidratante para hidratar a pele na barriga, nas laterais do corpo, na lombar, nas coxas, nas pernas e em qualquer lugar onde estrias possam aparecer. Lo\u00e7\u00f5es regulares n\u00e3o penetrar\u00e3o o suficiente em sua pele para mant\u00ea-la hidratada, portanto, use um produto feito especificamente para gr\u00e1vidas, ou prefira \u00f3leos naturais.   Bio-\u00f3leo, manteiga de cacau, \u00f3leo de am\u00eandoas, manteiga de karit\u00e9 e \u00f3leo de germe de trigo s\u00e3o escolhas populares e eficientes para hidratar a pele durante a gravidez. Lanolina pura, que \u00e9 feita a partir de \u00f3leos produzidos pelas ovelhas para a manuten\u00e7\u00e3o da elasticidade da l\u00e3, tamb\u00e9m funciona muito bem. Hidrate sua pele pela manh\u00e3 ap\u00f3s tomar banho e fa\u00e7a-o novamente durante a noite. Se voc\u00ea notar coceiras na regi\u00e3o em que a pele est\u00e1 se alongando, isso \u00e9 sinal de que \u00e9 preciso aplicar mais hidratante a essa \u00e1rea. Se voc\u00ea estiver nadando ou passando tempo ao sol, certifique-se de passar muito protetor solar na barriga, nas laterais do corpo, no peito e em outras \u00e1reas onde pode haver o surgimento de estrias. Os raios solares afetam duramente a pele, portanto, \u00e9 especialmente importante proteger-se durante a gravidez.", "example_title": "Texto 1"}]}
transformers pytorch safetensors t5 text2text-generation pt pt-br summarization abstractive summarization license:mit autotrain_compatible endpoints_compatible text-generation-inference region:us
TAGS
#transformers #pytorch #safetensors #t5 #text2text-generation #pt #pt-br #summarization #abstractive summarization #license-mit #autotrain_compatible #endpoints_compatible #text-generation-inference #region-us 

Portuguese T5 for Abstractive Summarization (PTT5 Summ)
=======================================================


Introduction
------------


PTT5 Summ is a fine-tuned PTT5 model to perform Abstractive Summarization in Brazilian Portuguese texts. This model was fine-tuned on the datasets: RecognaSumm, WikiLingua, XL-Sum, TeMário.pdf) and CSTNews.


For further information, please go to PTT5 Summ repository.


Available models
----------------



Usage example
-------------


@aInProceedings{ptt5summ\_bracis,
author="Paiola, Pedro H.
and de Rosa, Gustavo H.
and Papa, Jo{~a}o P.",
editor="Xavier-Junior, Jo{~a}o Carlos
and Rios, Ricardo Ara{'u}jo",
title="Deep Learning-Based Abstractive Summarization for Brazilian Portuguese Texts",
booktitle="BRACIS 2022: Intelligent Systems",
year="2022",
publisher="Springer International Publishing",
address="Cham",
pages="479--493",
isbn="978-3-031-21689-3"}



TAGS
#transformers #pytorch #safetensors #t5 #text2text-generation #pt #pt-br #summarization #abstractive summarization #license-mit #autotrain_compatible #endpoints_compatible #text-generation-inference #region-us 

passage: TAGS
#transformers #pytorch #safetensors #t5 #text2text-generation #pt #pt-br #summarization #abstractive summarization #license-mit #autotrain_compatible #endpoints_compatible #text-generation-inference #region-us 
