# French RoBERTa2RoBERTa (shared) fine-tuned on MLSUM FR for summarization
## Model
[camembert-base](https://huggingface.co/camembert-base) (RoBERTa Checkpoint)
## Dataset
**MLSUM** is the first large-scale MultiLingual SUMmarization dataset. Obtained from online newspapers, it contains 1.5M+ article/summary pairs in five different languages -- namely, **French**, German, Spanish, Russian, Turkish. Together with English newspapers from the popular CNN/Daily mail dataset, the collected data form a large scale multilingual dataset which can enable new research directions for the text summarization community. We report cross-lingual comparative analyses based on state-of-the-art systems. These highlight existing biases which motivate the use of a multi-lingual dataset.
[MLSUM fr](https://huggingface.co/datasets/viewer/?dataset=mlsum)
## Results
|Set|Metric| # Score|
|----|------|------|
| Test  |Rouge2 - mid -precision | **14.47**|
| Test | Rouge2 - mid - recall | **12.90**|
| Test | Rouge2 - mid - fmeasure | **13.30**|
## Usage
 ```python
 import torch
 from transformers import RobertaTokenizerFast, EncoderDecoderModel
 device = 'cuda' if torch.cuda.is_available() else 'cpu'
 ckpt = 'mrm8488/camembert2camembert_shared-finetuned-french-summarization'
 tokenizer = RobertaTokenizerFast.from_pretrained(ckpt)
model = EncoderDecoderModel.from_pretrained(ckpt).to(device)
def generate_summary(text):
    inputs = tokenizer([text], padding="max_length", truncation=True, max_length=512, return_tensors="pt")
    input_ids = inputs.input_ids.to(device)
    attention_mask = inputs.attention_mask.to(device)
    output = model.generate(input_ids, attention_mask=attention_mask)
    return tokenizer.decode(output[0], skip_special_tokens=True)
    
text = "Un nuage de fumée juste après l’explosion, le 1er juin 2019. Une déflagration dans une importante usine d’explosifs du centre de la Russie a fait au moins 79 blessés samedi 1er juin. L’explosion a eu lieu dans l’usine Kristall à Dzerzhinsk, une ville située à environ 400 kilomètres à l’est de Moscou, dans la région de Nijni-Novgorod. « Il y a eu une explosion technique dans l’un des ateliers, suivie d’un incendie qui s’est propagé sur une centaine de mètres carrés », a expliqué un porte-parole des services d’urgence. Des images circulant sur les réseaux sociaux montraient un énorme nuage de fumée après l’explosion. Cinq bâtiments de l’usine et près de 180 bâtiments résidentiels ont été endommagés par l’explosion, selon les autorités municipales. Une enquête pour de potentielles violations des normes de sécurité a été ouverte. Fragments de shrapnel Les blessés ont été soignés après avoir été atteints par des fragments issus de l’explosion, a précisé une porte-parole des autorités sanitaires citée par Interfax. « Nous parlons de blessures par shrapnel d’une gravité moyenne et modérée », a-t-elle précisé. Selon des représentants de Kristall, cinq personnes travaillaient dans la zone où s’est produite l’explosion. Elles ont pu être évacuées en sécurité. Les pompiers locaux ont rapporté n’avoir aucune information sur des personnes qui se trouveraient encore dans l’usine."

generate_summary(text)

# Output: L’explosion a eu lieu dans l’usine Kristall à Dzerzhinsk, une ville située à environ 400 kilomètres à l’est de Moscou.

```
> Created by [Manuel Romero/@mrm8488](https://twitter.com/mrm8488) with the support of [Narrativa](https://www.narrativa.com/)
> Made with <span style="color: #e25555;">&hearts;</span> in Spain
{"language": "fr", "tags": ["summarization", "news"], "datasets": ["mlsum"], "widget": [{"text": "Un nuage de fum\u00e9e juste apr\u00e8s l\u2019explosion, le 1er juin 2019. Une d\u00e9flagration dans une importante usine d\u2019explosifs du centre de la Russie a fait au moins 79 bless\u00e9s samedi 1er juin. L\u2019explosion a eu lieu dans l\u2019usine Kristall \u00e0 Dzerzhinsk, une ville situ\u00e9e \u00e0 environ 400 kilom\u00e8tres \u00e0 l\u2019est de Moscou, dans la r\u00e9gion de Nijni-Novgorod. \u00ab Il y a eu une explosion technique dans l\u2019un des ateliers, suivie d\u2019un incendie qui s\u2019est propag\u00e9 sur une centaine de m\u00e8tres carr\u00e9s \u00bb, a expliqu\u00e9 un porte-parole des services d\u2019urgence. Des images circulant sur les r\u00e9seaux sociaux montraient un \u00e9norme nuage de fum\u00e9e apr\u00e8s l\u2019explosion. Cinq b\u00e2timents de l\u2019usine et pr\u00e8s de 180 b\u00e2timents r\u00e9sidentiels ont \u00e9t\u00e9 endommag\u00e9s par l\u2019explosion, selon les autorit\u00e9s municipales. Une enqu\u00eate pour de potentielles violations des normes de s\u00e9curit\u00e9 a \u00e9t\u00e9 ouverte. Fragments de shrapnel Les bless\u00e9s ont \u00e9t\u00e9 soign\u00e9s apr\u00e8s avoir \u00e9t\u00e9 atteints par des fragments issus de l\u2019explosion, a pr\u00e9cis\u00e9 une porte-parole des autorit\u00e9s sanitaires cit\u00e9e par Interfax. \u00ab Nous parlons de blessures par shrapnel d\u2019une gravit\u00e9 moyenne et mod\u00e9r\u00e9e \u00bb, a-t-elle pr\u00e9cis\u00e9. Selon des repr\u00e9sentants de Kristall, cinq personnes travaillaient dans la zone o\u00f9 s\u2019est produite l\u2019explosion. Elles ont pu \u00eatre \u00e9vacu\u00e9es en s\u00e9curit\u00e9. Les pompiers locaux ont rapport\u00e9 n\u2019avoir aucune information sur des personnes qui se trouveraient encore dans l\u2019usine."}]}
transformers pytorch safetensors encoder-decoder text2text-generation summarization news fr dataset:mlsum autotrain_compatible endpoints_compatible has_space region:us
TAGS
#transformers #pytorch #safetensors #encoder-decoder #text2text-generation #summarization #news #fr #dataset-mlsum #autotrain_compatible #endpoints_compatible #has_space #region-us 

French RoBERTa2RoBERTa (shared) fine-tuned on MLSUM FR for summarization
========================================================================


Model
-----


camembert-base (RoBERTa Checkpoint)


Dataset
-------


MLSUM is the first large-scale MultiLingual SUMmarization dataset. Obtained from online newspapers, it contains 1.5M+ article/summary pairs in five different languages -- namely, French, German, Spanish, Russian, Turkish. Together with English newspapers from the popular CNN/Daily mail dataset, the collected data form a large scale multilingual dataset which can enable new research directions for the text summarization community. We report cross-lingual comparative analyses based on state-of-the-art systems. These highlight existing biases which motivate the use of a multi-lingual dataset.
MLSUM fr


Results
-------


Set: Test, Metric: Rouge2 - mid -precision, # Score: 14.47
Set: Test, Metric: Rouge2 - mid - recall, # Score: 12.90
Set: Test, Metric: Rouge2 - mid - fmeasure, # Score: 13.30


Usage
-----



> 
> Created by Manuel Romero/@mrm8488 with the support of Narrativa
> Made with ♥ in Spain
> 
> 
> 



# Score: 14.47
Set: Test, Metric: Rouge2 - mid - recall, # Score: 12.90
Set: Test, Metric: Rouge2 - mid - fmeasure, # Score: 13.30


Usage
-----



> 
> Created by Manuel Romero/@mrm8488 with the support of Narrativa
> Made with ♥ in Spain
> 
> 
>
TAGS
#transformers #pytorch #safetensors #encoder-decoder #text2text-generation #summarization #news #fr #dataset-mlsum #autotrain_compatible #endpoints_compatible #has_space #region-us 
 # Score: 14.47
Set: Test, Metric: Rouge2 - mid - recall, # Score: 12.90
Set: Test, Metric: Rouge2 - mid - fmeasure, # Score: 13.30


Usage
-----



> 
> Created by Manuel Romero/@mrm8488 with the support of Narrativa
> Made with ♥ in Spain
> 
> 
>
passage: TAGS
#transformers #pytorch #safetensors #encoder-decoder #text2text-generation #summarization #news #fr #dataset-mlsum #autotrain_compatible #endpoints_compatible #has_space #region-us 
# Score: 14.47
Set: Test, Metric: Rouge2 - mid - recall, # Score: 12.90
Set: Test, Metric: Rouge2 - mid - fmeasure, # Score: 13.30


Usage
-----



> 
> Created by Manuel Romero/@mrm8488 with the support of Narrativa
> Made with ♥ in Spain
> 
> 
>