
# German BERT2BERT fine-tuned on MLSUM DE for summarization


## Model
[bert-base-german-cased](https://huggingface.co/bert-base-german-cased) (BERT Checkpoint)
## Dataset
**MLSUM** is the first large-scale MultiLingual SUMmarization dataset. Obtained from online newspapers, it contains 1.5M+ article/summary pairs in five different languages -- namely, French, **German**, Spanish, Russian, Turkish. Together with English newspapers from the popular CNN/Daily mail dataset, the collected data form a large scale multilingual dataset which can enable new research directions for the text summarization community. We report cross-lingual comparative analyses based on state-of-the-art systems. These highlight existing biases which motivate the use of a multi-lingual dataset.
[MLSUM de](https://huggingface.co/datasets/viewer/?dataset=mlsum)
## Results
|Set|Metric| # Score|
|----|------|------|
| Test  |Rouge2 - mid -precision | **33.04**|
| Test | Rouge2 - mid - recall | **33.83**|
| Test | Rouge2 - mid - fmeasure | **33.15**|
## Usage
 ```python
 import torch
 from transformers import BertTokenizerFast, EncoderDecoderModel
 device = 'cuda' if torch.cuda.is_available() else 'cpu'
 ckpt = 'mrm8488/bert2bert_shared-german-finetuned-summarization'
 tokenizer = BertTokenizerFast.from_pretrained(ckpt)
model = EncoderDecoderModel.from_pretrained(ckpt).to(device)
def generate_summary(text):
    inputs = tokenizer([text], padding="max_length", truncation=True, max_length=512, return_tensors="pt")
    input_ids = inputs.input_ids.to(device)
    attention_mask = inputs.attention_mask.to(device)
    output = model.generate(input_ids, attention_mask=attention_mask)
    return tokenizer.decode(output[0], skip_special_tokens=True)
    
text = "Your text here..."

generate_summary(text)

```
> Created by [Manuel Romero/@mrm8488](https://twitter.com/mrm8488) with the support of [Narrativa](https://www.narrativa.com/)
> Made with <span style="color: #e25555;">&hearts;</span> in Spain
{"language": "de", "tags": ["summarization", "news"], "datasets": ["mlsum"], "widget": [{"text": "Wie geht man nach schrecklichen Ereignissen ambesten auf die \u00c4ngste und Sorgen von Kindern ein?Therapeuten haben eine klare Botschaft. Die Weltist voller Gefahren, Verbrechen und Schrecken -Krieg, Terrorismus, Umweltzerst\u00f6rung und eben auchKindesmissbrauch. Soll man mit Kindern dar\u00fcberreden, und wie? Die Antwort h\u00e4ngt auch vom Alterdes Kindes ab. Kinder, gerade kleine Kinder,brauchen Sicherheit, man muss sie nicht mitabstrakten Bedrohungen konfrontieren, die sieohnehin noch nicht ganz verstehen k\u00f6nnen. Ihreeigenen \u00c4ngste sollten Eltern lieber bei sichbehalten, raten Psychologen. Etwas anderes ist es,wenn Kinder schreckliche Ereignisse wie denaktuellen Fall in M\u00fcnchen mitbekommen. Dann sollteman nat\u00fcrlich auf die \u00c4ngste und Sorgen der Kindereingehen und mit ihnen sprechen. Man sollte aberklarmachen: Ja, es gibt kranke Menschen, die B\u00f6sestun, aber das ist die Ausnahme. Der Verbrecher istgefasst, er l\u00e4uft nicht mehr frei herum,Polizisten passen auf. Die Botschaft sollte sein:Das ist nicht nah an dir dran, das bedroht dichnicht, empfehlen Familientherapeuten zum Umgangmit \u00c4ngsten von Kindern. Nat\u00fcrlich k\u00f6nnen auchVerhaltensregeln nicht schaden: Nein sagen, lautwerden und nicht mit Fremden mitgehen. AuchBilderb\u00fccher k\u00f6nnen helfen, solches Verhalten fr\u00fchzu vermitteln, etwa \"Das gro\u00dfe und das kleineNein!\" von Gisela Braun und Dorothee Wolters oder\"Ich geh doch nicht mit Jedem mit!\" von DagmarGeisler. Aber auch wenn jeder Vater, jede Mutterbeim Gedanken an derartige Verbrechen insSchlottern kommt: Die Statistik zeigt eindeutig,dass solche F\u00e4lle sehr selten sind.Kindesmissbrauch findet vor allem im nahensozialen Umfeld statt, in der Familie, in Vereinenoder bei \u00e4lteren vermeintlichen \"Freunden\". Werseine Kinder davor besch\u00fctzen will, muss ihnenzuh\u00f6ren, sie ernst nehmen, Fragen stellen, genauhinschauen."}]}
transformers pytorch safetensors encoder-decoder text2text-generation summarization news de dataset:mlsum autotrain_compatible endpoints_compatible has_space region:us
TAGS
#transformers #pytorch #safetensors #encoder-decoder #text2text-generation #summarization #news #de #dataset-mlsum #autotrain_compatible #endpoints_compatible #has_space #region-us 

German BERT2BERT fine-tuned on MLSUM DE for summarization
=========================================================


Model
-----


bert-base-german-cased (BERT Checkpoint)


Dataset
-------


MLSUM is the first large-scale MultiLingual SUMmarization dataset. Obtained from online newspapers, it contains 1.5M+ article/summary pairs in five different languages -- namely, French, German, Spanish, Russian, Turkish. Together with English newspapers from the popular CNN/Daily mail dataset, the collected data form a large scale multilingual dataset which can enable new research directions for the text summarization community. We report cross-lingual comparative analyses based on state-of-the-art systems. These highlight existing biases which motivate the use of a multi-lingual dataset.
MLSUM de


Results
-------


Set: Test, Metric: Rouge2 - mid -precision, # Score: 33.04
Set: Test, Metric: Rouge2 - mid - recall, # Score: 33.83
Set: Test, Metric: Rouge2 - mid - fmeasure, # Score: 33.15


Usage
-----



> 
> Created by Manuel Romero/@mrm8488 with the support of Narrativa
> Made with ♥ in Spain
> 
> 
> 



# Score: 33.04
Set: Test, Metric: Rouge2 - mid - recall, # Score: 33.83
Set: Test, Metric: Rouge2 - mid - fmeasure, # Score: 33.15


Usage
-----



> 
> Created by Manuel Romero/@mrm8488 with the support of Narrativa
> Made with ♥ in Spain
> 
> 
>
TAGS
#transformers #pytorch #safetensors #encoder-decoder #text2text-generation #summarization #news #de #dataset-mlsum #autotrain_compatible #endpoints_compatible #has_space #region-us 
 # Score: 33.04
Set: Test, Metric: Rouge2 - mid - recall, # Score: 33.83
Set: Test, Metric: Rouge2 - mid - fmeasure, # Score: 33.15


Usage
-----



> 
> Created by Manuel Romero/@mrm8488 with the support of Narrativa
> Made with ♥ in Spain
> 
> 
>
passage: TAGS
#transformers #pytorch #safetensors #encoder-decoder #text2text-generation #summarization #news #de #dataset-mlsum #autotrain_compatible #endpoints_compatible #has_space #region-us 
# Score: 33.04
Set: Test, Metric: Rouge2 - mid - recall, # Score: 33.83
Set: Test, Metric: Rouge2 - mid - fmeasure, # Score: 33.15


Usage
-----



> 
> Created by Manuel Romero/@mrm8488 with the support of Narrativa
> Made with ♥ in Spain
> 
> 
>