
# Portuguese T5 for Abstractive Summarization (PTT5 Summ)

## Introduction
PTT5 Summ is a fine-tuned [PTT5](https://github.com/unicamp-dl/PTT5) model to perform Abstractive Summarization in Brazilian Portuguese texts. This model was fine-tuned on the datasets: [RecognaSumm](https://huggingface.co/datasets/recogna-nlp/recognasumm), [WikiLingua](https://github.com/esdurmus/Wikilingua), [XL-Sum](https://github.com/csebuetnlp/xl-sum), [TeMário](http://www.nilc.icmc.usp.br/nilc/download/NILCTR0706-MazieroEtAl(2).pdf) and [CSTNews](http://nilc.icmc.usp.br/CSTNews/login/?next=/CSTNews/).

For further information, please go to [PTT5 Summ repository](https://github.com/pedropaiola/ptt5-summ).

## Available models
| Model                                                                                                | Dataset used in fine-tuning| 
| :-:                                                                                                  | :-:                        | 
| [recogna-nlp/ptt5-base-summ](https://huggingface.co/recogna-nlp/ptt5-base-summ)                            | [RecognaSumm](https://huggingface.co/datasets/recogna-nlp/recognasumm) |
| [recogna-nlp/ptt5-base-summ-wikilingua](https://huggingface.co/recogna-nlp/ptt5-base-summ-wikilingua)      | WikiLingua |
| [recogna-nlp/ptt5-base-summ-xlsum](https://huggingface.co/recogna-nlp/ptt5-base-summ-xlsum)                | XL-Sum     |
| [recogna-nlp/ptt5-base-summ-temario](https://huggingface.co/recogna-nlp/ptt5-base-summ-temario)            | 1st phase: WikiLingua. 2nd phase: TeMario |
| [recogna-nlp/ptt5-base-summ-cstnews](https://huggingface.co/recogna-nlp/ptt5-base-summ-cstnews)            | 1st phase: WikiLingua. 2nd phase: CSTNews|

## Usage example
```python
# Tokenizer 
from transformers import T5Tokenizer

# PyTorch model 
from transformers import T5Model, T5ForConditionalGeneration

token_name = 'unicamp-dl/ptt5-base-portuguese-vocab'
model_name = 'phpaiola/ptt5-base-summ-xlsum'

tokenizer = T5Tokenizer.from_pretrained(token_name )
model_pt = T5ForConditionalGeneration.from_pretrained(model_name)

text = '''
“A tendência de queda da taxa de juros no Brasil é real, é visível”, disse Meirelles, que participou na capital americana de uma série de reuniões e encontros com banqueiros e investidores que aconteceram paralelamente às reuniões do Fundo Monetário Internacional (FMI) e do Banco Mundial (Bird) no fim de semana.
Para o presidente do BC, a atual política econômica do governo e a manutenção da taxa de inflação dentro da meta são fatores que garantem queda na taxa de juros a longo prazo.
“Mas é importante que nós não olhemos para isso apenas no curto prazo. Temos que olhar no médio e longo prazos”, disse Meirelles.
Para ele, o trabalho que o Banco Central tem feito para conter a inflação dentro da meta vai gerar queda gradual da taxa de juros.
BC do ano
Neste domingo, Meirelles participou da cerimônia de entrega do prêmio “Banco Central do ano”, oferecido pela revista The Banker à instituição que preside.
“Este é um sinal importante de reconhecimento do nosso trabalho, de que o Brasil está indo na direção correta”, disse ele.
Segundo Meirelles, o Banco Central do Brasil está sendo percebido como uma instituição comprometida com a meta de inflação.
“Isso tem um ganho importante, na medida em que os agentes formadores de preços começam a apostar que a inflação vai estar na meta, que isso é levado a sério no Brasil”, completou.
O presidente do Banco Central disse ainda que a crise política brasileira não foi um assunto de interesse prioritário dos investidores que encontrou no fim de semana.
'''

inputs = tokenizer.encode(text, max_length=512, truncation=True, return_tensors='pt')
summary_ids = model_pt.generate(inputs, max_length=256, min_length=32, num_beams=5, no_repeat_ngram_size=3, early_stopping=True)
summary = tokenizer.decode(summary_ids[0])
print(summary)
#<pad> O presidente do Banco Central, Henrique Meirelles, disse neste domingo, em Washington, que a taxa de juros no Brasil é real, mas que o Brasil está indo na direção correta.</s>

```

# Citation

    @aInProceedings{ptt5summ_bracis,
      author="Paiola, Pedro H.
        and de Rosa, Gustavo H.
        and Papa, Jo{\~a}o P.",
      editor="Xavier-Junior, Jo{\~a}o Carlos
        and Rios, Ricardo Ara{\'u}jo",
      title="Deep Learning-Based Abstractive Summarization for Brazilian Portuguese Texts",
      booktitle="BRACIS 2022: Intelligent Systems",
      year="2022",
      publisher="Springer International Publishing",
      address="Cham",
      pages="479--493",
      isbn="978-3-031-21689-3"}

{"language": "pt", "license": "mit", "tags": ["t5", "pytorch", "pt", "pt-br", "summarization", "abstractive summarization"], "datasets": ["csebuetnlp/xlsum"], "inference": {"parameters": {"min_length": 32, "max_length": 256, "top_k": 5}}, "widget": [{"text": "O homem, Wilmer Antonio Marin, conhecido como Hugo, seria um alto comandante das For\u00e7as Armadas Revolucion\u00e1rias da Col\u00f4mbia (Farc), o maior grupo rebelde do pa\u00eds. Ele \u00e9 acusado de ter perpetrado um ataque num clube noturno em fevereiro que matou 35 pessoas e feriu 160. Hugo tamb\u00e9m estaria envolvido no assassinato do empres\u00e1rio japon\u00eas Chikao Muramatsu que foi encontrado morto a tiros em novembro, quase tr\u00eas anos depois de ter sido seq\u00fcestrado. Golpe O resgate de US$ 19 milh\u00f5es (R$ 55 milh\u00f5es) tinha sido pedido para a liberta\u00e7\u00e3o de Muramatsu. As autoridades colombianas acreditam que a deten\u00e7\u00e3o de Hugo representa um grande golpe na estrutura da Farc em Bogot\u00e1. Wilmer Antonio Marin \u00e9 acusado de administrar uma rede de seq\u00fcestros que teria, como alvo, empres\u00e1rios ricos e estrangeiros. Ele seria repons\u00e1vel por seq\u00fcestr\u00e1-los no meio da rua e lev\u00e1-los para as montanhas onde a guerrilha tem suas bases.", "example_title": "Not\u00edcia 1"}, {"text": "Terminou a rebeli\u00e3o de presos no Centro de Cust\u00f3dia de Presos de Justi\u00e7a (CCPJ), em S\u00e3o Lu\u00eds, no come\u00e7o da tarde desta quarta-feira (17). Os presos entregaram as armas e a pol\u00edcia faz uma revista dentro da unidade. O motim come\u00e7ou durante a festa do Dia das Crian\u00e7as, realizada na ter\u00e7a-feira (16). As 16 crian\u00e7as e 14 adultos foram libertados. Segundo informa\u00e7\u00f5es da pol\u00edcia, o l\u00edder da rebeli\u00e3o foi transferido para o Pres\u00eddio de Pedrinhas, na capital maranhense. Os presos receberam garantias, por parte do diretor da unidade, de que n\u00e3o haveria repres\u00e1lias e novas transfer\u00eancias. Os presos tentaram fugir durante a festa, mas o plano foi descoberto. No come\u00e7o da rebeli\u00e3o quatro pessoas ficaram feridas, entre elas uma auxiliar de enfermagem e um agente de pol\u00edcia que trabalham no pres\u00eddio. A unidade ficou sem luz e \u00e1gua e as negocia\u00e7\u00f5es para a liberta\u00e7\u00e3o dos ref\u00e9ns foi retomada na manh\u00e3 desta quarta-feira. Segundo informa\u00e7\u00f5es da pol\u00edcia, os presos temiam uma transfer\u00eancia em massa depois de terem iniciado uma outra rebeli\u00e3o durante a greve de policiais no estado, na semana passada. A CCPJ tem capacidade para cerca de 80 presos, mas abriga 203 homens.", "example_title": "Not\u00edcia 2"}]}
transformers pytorch safetensors t5 text2text-generation pt pt-br summarization abstractive summarization dataset:csebuetnlp/xlsum license:mit autotrain_compatible endpoints_compatible text-generation-inference region:us
TAGS
#transformers #pytorch #safetensors #t5 #text2text-generation #pt #pt-br #summarization #abstractive summarization #dataset-csebuetnlp/xlsum #license-mit #autotrain_compatible #endpoints_compatible #text-generation-inference #region-us 

Portuguese T5 for Abstractive Summarization (PTT5 Summ)
=======================================================


Introduction
------------


PTT5 Summ is a fine-tuned PTT5 model to perform Abstractive Summarization in Brazilian Portuguese texts. This model was fine-tuned on the datasets: RecognaSumm, WikiLingua, XL-Sum, TeMário.pdf) and CSTNews.


For further information, please go to PTT5 Summ repository.


Available models
----------------



Usage example
-------------


@aInProceedings{ptt5summ\_bracis,
author="Paiola, Pedro H.
and de Rosa, Gustavo H.
and Papa, Jo{~a}o P.",
editor="Xavier-Junior, Jo{~a}o Carlos
and Rios, Ricardo Ara{'u}jo",
title="Deep Learning-Based Abstractive Summarization for Brazilian Portuguese Texts",
booktitle="BRACIS 2022: Intelligent Systems",
year="2022",
publisher="Springer International Publishing",
address="Cham",
pages="479--493",
isbn="978-3-031-21689-3"}



TAGS
#transformers #pytorch #safetensors #t5 #text2text-generation #pt #pt-br #summarization #abstractive summarization #dataset-csebuetnlp/xlsum #license-mit #autotrain_compatible #endpoints_compatible #text-generation-inference #region-us 

passage: TAGS
#transformers #pytorch #safetensors #t5 #text2text-generation #pt #pt-br #summarization #abstractive summarization #dataset-csebuetnlp/xlsum #license-mit #autotrain_compatible #endpoints_compatible #text-generation-inference #region-us 
