
# Spanish RoBERTa2RoBERTa (roberta-base-bne) fine-tuned on MLSUM ES for summarization

## Model
[BSC-TeMU/roberta-base-bne](https://huggingface.co/BSC-TeMU/roberta-base-bne) (RoBERTa Checkpoint)

## Dataset
**MLSUM** is the first large-scale MultiLingual SUMmarization dataset. Obtained from online newspapers, it contains 1.5M+ article/summary pairs in five different languages -- namely, French, German, **Spanish**, Russian, Turkish. Together with English newspapers from the popular CNN/Daily mail dataset, the collected data form a large scale multilingual dataset which can enable new research directions for the text summarization community. We report cross-lingual comparative analyses based on state-of-the-art systems. These highlight existing biases which motivate the use of a multi-lingual dataset.

[MLSUM es](https://huggingface.co/datasets/viewer/?dataset=mlsum)

## Results

|Set|Metric| Value|
|----|------|------|
| Test  |Rouge2 - mid -precision | 11.42|
| Test | Rouge2 - mid - recall | 10.58 |
| Test | Rouge2 - mid - fmeasure | 10.69|
| Test | Rouge1 - fmeasure | 28.83 |
| Test | RougeL - fmeasure  | 23.15 |

Raw metrics using HF/metrics `rouge`:

```python
rouge = datasets.load_metric("rouge")
rouge.compute(predictions=results["pred_summary"], references=results["summary"])

{'rouge1': AggregateScore(low=Score(precision=0.30393366820245, recall=0.27905239591639935, fmeasure=0.283148902808752), mid=Score(precision=0.3068521142101569, recall=0.2817252494122592, fmeasure=0.28560373425206464), high=Score(precision=0.30972608774202665, recall=0.28458152325781716, fmeasure=0.2883786700591887)),
 'rougeL': AggregateScore(low=Score(precision=0.24184668819794716, recall=0.22401171380621518, fmeasure=0.22624104698839514), mid=Score(precision=0.24470388406868163, recall=0.22665793214539162, fmeasure=0.2289118878817394), high=Score(precision=0.2476594458951327, recall=0.22932683203591905, fmeasure=0.23153001570662513))}
 
rouge.compute(predictions=results["pred_summary"], references=results["summary"], rouge_types=["rouge2"])["rouge2"].mid

Score(precision=0.11423200347113865, recall=0.10588038944902506, fmeasure=0.1069921217219595)
```

## Usage

 ```python
 import torch
 from transformers import RobertaTokenizerFast, EncoderDecoderModel
 device = 'cuda' if torch.cuda.is_available() else 'cpu'
 ckpt = 'Narrativa/bsc_roberta2roberta_shared-spanish-finetuned-mlsum-summarization'
 tokenizer = RobertaTokenizerFast.from_pretrained(ckpt)
model = EncoderDecoderModel.from_pretrained(ckpt).to(device)

def generate_summary(text):

    inputs = tokenizer([text], padding="max_length", truncation=True, max_length=512, return_tensors="pt")
    input_ids = inputs.input_ids.to(device)
    attention_mask = inputs.attention_mask.to(device)
    output = model.generate(input_ids, attention_mask=attention_mask)
    return tokenizer.decode(output[0], skip_special_tokens=True)
    
text = "Your text here..."
generate_summary(text)
```

Created by: [Narrativa](https://www.narrativa.com/)

About Narrativa: Natural Language Generation (NLG) | Gabriele, our machine learning-based platform, builds and deploys natural language solutions. #NLG #AI


{"language": "es", "tags": ["summarization", "news"], "datasets": ["mlsum"], "widget": [{"text": "Al filo de las 22.00 horas del jueves, la Asamblea de Madrid vive un momento sorprendente: Vox decide no apoyar una propuesta del PP en favor del blindaje fiscal de la Comunidad. Se ha roto la unidad de los tres partidos de derechas. Es un hecho excepcional. Desde que arranc\u00f3 la legislatura, PP, Cs y Vox han votado en bloque casi el 75% de las veces en el pleno de la C\u00e1mara. Juntos decidieron la composici\u00f3n de la Mesa de la Asamblea. Juntos invistieron presidenta a Isabel D\u00edaz Ayuso. Y juntos han votado la mayor\u00eda de proposiciones no de ley, incluida la que ha marcado el esprint final de la campa\u00f1a para las elecciones generales: acaban de instar al Gobierno de Espa\u00f1a a \"la ilegalizaci\u00f3n inmediata\" de los partidos separatistas \"que atenten contra la unidad de la Naci\u00f3n\". Los cr\u00edticos de Cs no comparten el apoyo al texto de Vox contra el secesionisimo Ese balance retrata una necesidad antes que una complicidad, seg\u00fan fuentes del PP con predicamento en la direcci\u00f3n regional y nacional. Tras casi 15 a\u00f1os gobernando con mayor\u00eda absoluta, la formaci\u00f3n conservadora vivi\u00f3 como una tortura la pasada legislatura, en la que dependi\u00f3 de Cs para sacar adelante sus iniciativas. El problema se agudiz\u00f3 tras las elecciones auton\u00f3micas de mayo. El PP ha tenido que formar con Cs el primer gobierno de coalici\u00f3n de la historia de la regi\u00f3n, y ni siquiera con eso le basta para ganar las votaciones de la C\u00e1mara. Los dos socios gubernamentales necesitan a Vox, la menos predecible de las tres formaciones. \"Tenemos que trabajar juntos defendiendo la unidad del pa\u00eds, por eso no quisimos dejar a Vox solo\", dijo ayer D\u00edaz Ayuso para justificar el apoyo de PP y Cs a la proposici\u00f3n de la extrema derecha sobre Catalu\u00f1a. \"Despu\u00e9s nosotros llev\u00e1bamos otra proposici\u00f3n para defender el blindaje fiscal de Madrid, y ah\u00ed Vox nos dej\u00f3 atr\u00e1s. No permiti\u00f3 que esto saliera. Es un grave error por su parte\", prosigui\u00f3, recalcando el enfado del PP. \"Demuestra que est\u00e1 m\u00e1s en cuestiones electoralistas\", subray\u00f3. \"Los que pensamos, con nuestras inmensas diferencias, que tenemos cosas en com\u00fan que nos unen como partidos que queremos Comunidades libres, con bajos impuestos, en las que se viva con seguridad y en paz, tenemos que estar unidos\", argument\u00f3. \"Y por lo menos nosotros de nuestra l\u00ednea no nos separamos\". Al contrario de lo que est\u00e1 ocurriendo el Ayuntamiento de Madrid, donde el PP y Cs ya han defendido posiciones de voto distintas, pese a compartir el Gobierno, en la Asamblea los partidos de D\u00edaz Ayuso e Ignacio Aguado est\u00e1n actuando con la m\u00e1xima lealtad en las votaciones del pleno. Otra cosa son las comisiones. Y el caso Avalmadrid. Es en ese terreno donde Cs y Vox est\u00e1n buscando el margen de maniobra necesario para separarse del PP en plena campa\u00f1a electoral, abandonando a su suerte a su socio para distinguirse ante los electores. \u2014\"Usted me ha dejado tirada\", le espet\u00f3 la presidenta de la Comunidad de Madrid a Roc\u00edo Monasterio tras saber que Vox permitir\u00eda que la izquierda tuviera mayor\u00eda en la comisi\u00f3n parlamentaria que investigar\u00e1 los avales concedidos por la empresa semip\u00fablica entre 2007 y 2018, lo que podr\u00eda incluir el de 400.000 euros aprobado en 2011, y nunca devuelto al completo, para una empresa participada por el padre de Isabel D\u00edaz Ayuso. \"Monasterio no es de fiar. Dice una cosa y hace la contraria\", dice una fuente popular sobre las negociaciones mantenidas para repartirse los puestos de las diferentes comisiones, que Vox no cumpli\u00f3 tras buscar un segundo pacto con otras formaciones (que no lleg\u00f3 a buen puerto). Ilegalizaci\u00f3n de Vox Los tres partidos de derechas tambi\u00e9n se han enfrentado por la ubicaci\u00f3n de Vox en el pleno. Las largas negociaciones para la investidura de D\u00edaz Ayuso dejaron heridas abiertas. Y los diputados de Cs no desaprovechan la oportunidad de lanzar dardos contra los de Vox, pero luego coinciden con ellos en la mayor\u00eda de votaciones. Ocurri\u00f3, por ejemplo, el jueves, cuando se debat\u00eda la pol\u00e9mica proposici\u00f3n para instar al Gobierno nacional a ilegalizar a los partidos separatistas que atenten contra la unidad de Espa\u00f1a. \u2014\"Mostrar nuestra sorpresa ante la presentaci\u00f3n por parte de Vox de esta propuesta\", lanz\u00f3 Araceli G\u00f3mez, diputada de la formaci\u00f3n de Aguado. \"Sorprende que planteen ustedes este asunto cuando est\u00e1 tambi\u00e9n sobre la mesa el debate de su propia ilegalizaci\u00f3n por atentar contra el ordenamiento jur\u00eddico o contra valores constitucionales como la igualdad o la no discriminaci\u00f3n\". Luego de esa descalificaci\u00f3n, y ante la incredulidad de los diputados de los partidos de izquierdas, Cs uni\u00f3 sus votos a los de Vox y a los del PP. La decisi\u00f3n ha provocado pol\u00e9mica interna, como demuestra que Albert Rivera no la apoyara ayer expl\u00edcitamente. Tampoco ha sido bien acogida por el sector cr\u00edtico de la formaci\u00f3n. Pero ha demostrado una cosa: en Madrid hay tres partidos que casi siempre votan como uno."}]}
transformers pytorch encoder-decoder text2text-generation summarization news es dataset:mlsum autotrain_compatible endpoints_compatible has_space region:us
TAGS
#transformers #pytorch #encoder-decoder #text2text-generation #summarization #news #es #dataset-mlsum #autotrain_compatible #endpoints_compatible #has_space #region-us 

Spanish RoBERTa2RoBERTa (roberta-base-bne) fine-tuned on MLSUM ES for summarization
===================================================================================


Model
-----


BSC-TeMU/roberta-base-bne (RoBERTa Checkpoint)


Dataset
-------


MLSUM is the first large-scale MultiLingual SUMmarization dataset. Obtained from online newspapers, it contains 1.5M+ article/summary pairs in five different languages -- namely, French, German, Spanish, Russian, Turkish. Together with English newspapers from the popular CNN/Daily mail dataset, the collected data form a large scale multilingual dataset which can enable new research directions for the text summarization community. We report cross-lingual comparative analyses based on state-of-the-art systems. These highlight existing biases which motivate the use of a multi-lingual dataset.


MLSUM es


Results
-------


Set: Test, Metric: Rouge2 - mid -precision, Value: 11.42
Set: Test, Metric: Rouge2 - mid - recall, Value: 10.58
Set: Test, Metric: Rouge2 - mid - fmeasure, Value: 10.69
Set: Test, Metric: Rouge1 - fmeasure, Value: 28.83
Set: Test, Metric: RougeL - fmeasure, Value: 23.15


Raw metrics using HF/metrics 'rouge':


Usage
-----


Created by: Narrativa


About Narrativa: Natural Language Generation (NLG) | Gabriele, our machine learning-based platform, builds and deploys natural language solutions. #NLG #AI



TAGS
#transformers #pytorch #encoder-decoder #text2text-generation #summarization #news #es #dataset-mlsum #autotrain_compatible #endpoints_compatible #has_space #region-us 

passage: TAGS
#transformers #pytorch #encoder-decoder #text2text-generation #summarization #news #es #dataset-mlsum #autotrain_compatible #endpoints_compatible #has_space #region-us 
