using gpt-2

app.py

@@ -1,112 +1,102 @@
 import streamlit as st
-from transformers import pipeline, AutoModelForCausalLM, AutoTokenizer
-import torch
+from transformers import pipeline
 
-st.title("🚀 Marketing Text Generator mit KI")
-st.markdown("*Generiere kreative Marketing-Texte für deine Produkte*")
+# Titel und Beschreibung der Anwendung
+st.title("🚀 Marketing Text Generator")
+st.markdown("*Erstelle kreative Marketing-Texte mit KI-Unterstützung*")
 
+# Wir verwenden @st.cache_resource, damit das Modell nicht bei jeder Interaktion neu geladen wird
 @st.cache_resource
-def load_model():
+def load_gpt2():
     """
-    Versucht zuerst das Falcon-Modell zu laden. Falls dies nicht möglich ist,
-    wird automatisch auf das kleinere GPT-2 Modell zurückgegriffen.
+    Lädt das GPT-2 Modell in einer einfachen Pipeline-Konfiguration.
+    Die Pipeline vereinfacht die Textgenerierung erheblich.
     """
     try:
-        # Erster Versuch: Optimiertes Falcon
-        tokenizer = AutoTokenizer.from_pretrained("tiiuae/falcon-7b")
-        model = AutoModelForCausalLM.from_pretrained(
-            "tiiuae/falcon-7b",
-            trust_remote_code=True,
-            device_map="auto",
-            torch_dtype=torch.float32,
-            low_cpu_mem_usage=True,
-            max_memory={0: "4GB"}  # Begrenzt den Speicherverbrauch
-        )
-        return ("falcon", model, tokenizer)
+        # device=-1 bedeutet, dass wir die CPU verwenden
+        return pipeline('text-generation', model='gpt2', device=-1)
     except Exception as e:
-        st.warning("Falcon konnte nicht geladen werden. Verwende GPT-2 als Alternative.")
-        # Fallback: GPT-2
-        generator = pipeline('text-generation', model='gpt2', device=-1)
-        return ("gpt2", generator, None)
-
-def generate_text(model_type, model, tokenizer, prompt, max_length):
-    """
-    Generiert Text abhängig vom geladenen Modelltyp.
-    """
-    try:
-        if model_type == "gpt2":
-            response = model(prompt, max_length=max_length, num_return_sequences=1)
-            return response[0]['generated_text']
-        else:
-            inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
-            with torch.no_grad():
-                outputs = model.generate(
-                    **inputs,
-                    max_length=max_length,
-                    temperature=0.7,
-                    top_p=0.9,
-                    num_return_sequences=1,
-                    pad_token_id=tokenizer.eos_token_id
-                )
-            return tokenizer.decode(outputs[0], skip_special_tokens=True)
-    except Exception as e:
-        st.error(f"Fehler bei der Textgenerierung: {str(e)}")
+        st.error(f"Modell konnte nicht geladen werden: {str(e)}")
         return None
 
-# Hauptbereich für die Eingabe
+# Hauptformular für die Benutzereingaben
 with st.form("marketing_form"):
+    # Eingabefeld für den Produktnamen
     product_name = st.text_input(
         "Produktname",
-        help="Geben Sie den Namen Ihres Produkts ein"
+        help="Wie heißt das Produkt, für das Sie einen Text erstellen möchten?"
     )
     
+    # Eingabefeld für die Produkteigenschaften
     key_features = st.text_area(
         "Produktmerkmale",
-        help="Beschreiben Sie die wichtigsten Eigenschaften"
+        help="Was macht Ihr Produkt besonders? (Eigenschaften durch Kommas trennen)"
     )
     
+    # Längensteuerung für den generierten Text
     max_length = st.slider(
-        "Maximale Textlänge",
+        "Textlänge",
         min_value=50,
-        max_value=200,
-        value=100
+        max_value=150,
+        value=100,
+        help="Längere Texte brauchen mehr Zeit zur Generierung"
     )
     
-    submit = st.form_submit_button("Marketing-Text generieren")
+    # Formular-Button
+    submit = st.form_submit_button("Text generieren")
 
+# Wenn der Button geklickt wurde und alle Felder ausgefüllt sind
 if submit and product_name and key_features:
+    # Modell laden mit Fortschrittsanzeige
     with st.spinner("Lade KI-Modell..."):
-        model_type, model, tokenizer = load_model()
+        generator = load_gpt2()
     
-    prompt = f"""
-    Erstelle einen überzeugenden Marketing-Text auf Deutsch für folgendes Produkt:
-    Produkt: {product_name}
-    Merkmale: {key_features}
-    
-    Der Text sollte professionell, kreativ und verkaufsfördernd sein.
-    """
-    
-    with st.spinner("Generiere Marketing-Text..."):
-        generated_text = generate_text(model_type, model, tokenizer, prompt, max_length)
+    if generator:
+        # Marketing-spezifischen Prompt erstellen
+        prompt = f"""
+        Create a marketing text in German for the following product:
+        Product: {product_name}
+        Features: {key_features}
+        
+        Advertising text in German:
+        """
         
-        if generated_text:
-            st.success("Text wurde erfolgreich generiert!")
-            st.markdown("### Ihr Marketing-Text:")
-            st.markdown(generated_text)
-            
-            st.download_button(
-                "Text als Datei speichern",
-                generated_text,
-                file_name="marketing_text.txt"
-            )
+        try:
+            # Text generieren mit Fortschrittsanzeige
+            with st.spinner("Erstelle Marketing-Text..."):
+                result = generator(
+                    prompt,
+                    max_length=max_length,
+                    num_return_sequences=1,
+                    temperature=0.7
+                )
+                
+                # Generierten Text extrahieren und anzeigen
+                generated_text = result[0]['generated_text']
+                
+                st.success("Text wurde generiert!")
+                st.markdown("### Ihr Marketing-Text:")
+                st.markdown(generated_text)
+                
+                # Download-Option
+                st.download_button(
+                    "Text speichern",
+                    generated_text,
+                    file_name="marketing_text.txt"
+                )
+                
+        except Exception as e:
+            st.error(f"Fehler bei der Textgenerierung: {str(e)}")
 
+# Wenn der Button geklickt wurde, aber Felder fehlen
 elif submit:
     st.warning("Bitte füllen Sie alle Felder aus.")
 
+# Hilfreiche Informationen am Ende
 st.markdown("---")
 st.markdown("""
-**Wichtige Hinweise:**
-- Die erste Generierung dauert länger (Modell-Ladezeit)
-- Bei Speicherproblemen wird automatisch ein kleineres Modell verwendet
-- Kürzere Texte werden schneller generiert
+**Hinweise zur Benutzung:**
+- Die erste Generierung dauert etwas länger, da das Modell geladen werden muss
+- Versuchen Sie verschiedene Beschreibungen für optimale Ergebnisse
+- Prüfen und bearbeiten Sie die generierten Texte vor der Verwendung
 """)

requirements.txt

@@ -1,5 +1,3 @@
-streamlit
-transformers
-torch
-accelerate
-protobuf
+streamlit==1.29.0
+transformers==4.35.2
+torch==2.1.1