Update run.py
Browse files
run.py
CHANGED
@@ -18,9 +18,8 @@ print(client.list_collections())
|
|
18 |
from chromadb.utils import embedding_functions
|
19 |
default_ef = embedding_functions.DefaultEmbeddingFunction()
|
20 |
sentence_transformer_ef = embedding_functions.SentenceTransformerEmbeddingFunction(model_name="T-Systems-onsite/cross-en-de-roberta-sentence-transformer")#"VAGOsolutions/SauerkrautLM-Mixtral-8x7B-Instruct")
|
21 |
-
|
22 |
-
|
23 |
-
collection = client.get_collection(name="chromaTS", embedding_function=sentence_transformer_ef)
|
24 |
|
25 |
client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
|
26 |
|
@@ -68,8 +67,8 @@ def response(
|
|
68 |
combination = [' '.join(triplets) for triplets in combination]
|
69 |
#print(str(prompt)+"\n\n"+str(combination))
|
70 |
if(len(results)>1):
|
71 |
-
addon=" Bitte berücksichtige bei deiner Antwort ausschießlich folgende Auszüge aus unserer Datenbank, sofern sie für die Antwort erforderlich sind. Beantworte die Frage knapp und präzise. Ignoriere unpassende Datenbank-Auszüge OHNE sie zu kommentieren, zu erwähnen oder aufzulisten:\n"+"\n".join(results)
|
72 |
-
system="Du bist ein deutschsprachiges KI-basiertes
|
73 |
formatted_prompt = format_prompt(system+"\n"+prompt,history)
|
74 |
stream = client.text_generation(formatted_prompt, **generate_kwargs, stream=True, details=True, return_full_text=False)
|
75 |
output = ""
|
@@ -78,8 +77,59 @@ def response(
|
|
78 |
yield output
|
79 |
#output=output+"\n\n<br><details open><summary><strong>Sources</strong></summary><br><ul>"+ "".join(["<li>" + s + "</li>" for s in combination])+"</ul></details>"
|
80 |
yield output
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
81 |
|
82 |
-
gr.ChatInterface(response, chatbot=gr.Chatbot(value=[[None,"Herzlich willkommen! Ich bin Chätti ein KI-basiertes Studienassistenzsystem, das für jede Anfrage die am besten Studieninformationen empfiehlt.<br>Erzähle mir, was du gerne tust!"]],render_markdown=True),title="German Studyhelper Chätti").queue().launch(share=True) #False, server_name="0.0.0.0", server_port=7864)
|
83 |
print("Interface up and running!")
|
84 |
|
85 |
|
|
|
18 |
from chromadb.utils import embedding_functions
|
19 |
default_ef = embedding_functions.DefaultEmbeddingFunction()
|
20 |
sentence_transformer_ef = embedding_functions.SentenceTransformerEmbeddingFunction(model_name="T-Systems-onsite/cross-en-de-roberta-sentence-transformer")#"VAGOsolutions/SauerkrautLM-Mixtral-8x7B-Instruct")
|
21 |
+
|
22 |
+
collection = client.get_collection(name="chromatsc", embedding_function=sentence_transformer_ef)
|
|
|
23 |
|
24 |
client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
|
25 |
|
|
|
67 |
combination = [' '.join(triplets) for triplets in combination]
|
68 |
#print(str(prompt)+"\n\n"+str(combination))
|
69 |
if(len(results)>1):
|
70 |
+
addon=" Bitte berücksichtige bei deiner Antwort ausschießlich folgende Auszüge aus unserer Wahlhilfe Datenbank, sofern sie für die Antwort erforderlich sind. Beantworte die Frage knapp und präzise. Ignoriere unpassende Datenbank-Auszüge OHNE sie zu kommentieren, zu erwähnen oder aufzulisten:\n"+"\n".join(results)
|
71 |
+
system="Du heißt Avah und bist ein deutschsprachiges KI-basiertes Wahlhilfe Beratungssystem zum Wahl-O-Maten für die Bundestagswahl 2021."+addon+"\n\nUser-Anliegen:"
|
72 |
formatted_prompt = format_prompt(system+"\n"+prompt,history)
|
73 |
stream = client.text_generation(formatted_prompt, **generate_kwargs, stream=True, details=True, return_full_text=False)
|
74 |
output = ""
|
|
|
77 |
yield output
|
78 |
#output=output+"\n\n<br><details open><summary><strong>Sources</strong></summary><br><ul>"+ "".join(["<li>" + s + "</li>" for s in combination])+"</ul></details>"
|
79 |
yield output
|
80 |
+
|
81 |
+
def update_prompt(selected_option, history):
|
82 |
+
if selected_option=="Keine These ausgewählt":
|
83 |
+
selected_option== " "
|
84 |
+
return history, selected_option
|
85 |
+
|
86 |
+
dropdown_options = ["Keine These ausgewählt",
|
87 |
+
'Auf allen Autobahnen soll ein generelles Tempolimit gelten.',
|
88 |
+
'Deutschland soll seine Verteidigungsausgaben erhöhen.',
|
89 |
+
'Bei Bundestagswahlen sollen auch Jugendliche ab 16 Jahren wählen dürfen.',
|
90 |
+
'Die Förderung von Windenergie soll beendet werden.',
|
91 |
+
'Die Möglichkeiten der Vermieterinnen und Vermieter, Wohnungsmieten zu erhöhen, sollen gesetzlich stärker begrenzt werden.',
|
92 |
+
'Impfstoffe gegen Covid-19 sollen weiterhin durch Patente geschützt sein.',
|
93 |
+
'Der für das Jahr 2038 geplante Ausstieg aus der Kohleverstromung soll vorgezogen werden.',
|
94 |
+
'Alle Erwerbstätigen sollen in der gesetzlichen Rentenversicherung versichert sein müssen.',
|
95 |
+
'Das Recht anerkannter Flüchtlinge auf Familiennachzug soll abgeschafft werden.',
|
96 |
+
'Auf den Umsatz, der in Deutschland mit digitalen Dienstleistungen erzielt wird, soll eine nationale Steuer erhoben werden.',
|
97 |
+
'Die traditionelle Familie aus Vater, Mutter und Kindern soll stärker als andere Lebensgemeinschaften gefördert werden.',
|
98 |
+
'Spenden von Unternehmen an Parteien sollen weiterhin erlaubt sein.',
|
99 |
+
'Studentinnen und Studenten sollen BAföG unabhängig vom Einkommen ihrer Eltern erhalten.',
|
100 |
+
'In Deutschland soll es generell möglich sein, neben der deutschen eine zweite Staatsbürgerschaft zu haben.',
|
101 |
+
'Bundesbehörden sollen in ihren Veröffentlichungen unterschiedliche Geschlechtsidentitäten sprachlich berücksichtigen.',
|
102 |
+
'Die Ostsee-Pipeline "Nord Stream 2", die Gas von Russland nach Deutschland transportiert, soll wie geplant in Betrieb gehen dürfen.',
|
103 |
+
'Der Solidaritätszuschlag soll vollständig abgeschafft werden.',
|
104 |
+
'Das Tragen eines Kopftuchs soll Beamtinnen im Dienst generell erlaubt sein.',
|
105 |
+
'Die Zulassung von neuen Autos mit Verbrennungsmotor soll auch langfristig möglich sein.',
|
106 |
+
'Der Bund soll mehr Zuständigkeiten in der Schulpolitik erhalten.',
|
107 |
+
'Der Bund soll Projekte zur Bekämpfung des Antisemitismus stärker finanziell unterstützen.',
|
108 |
+
'Chinesische Firmen sollen keine Aufträge für den Ausbau der Kommunikationsinfrastruktur in Deutschland erhalten dürfen.',
|
109 |
+
'Der Staat soll weiterhin für Religionsgemeinschaften die Kirchensteuer einziehen.',
|
110 |
+
'Der kontrollierte Verkauf von Cannabis soll generell erlaubt sein.',
|
111 |
+
'Deutschland soll aus der Europäischen Union austreten.',
|
112 |
+
'Die Landeslisten der Parteien für die Wahlen zum Deutschen Bundestag sollen abwechselnd mit Frauen und Männern besetzt werden m��ssen.',
|
113 |
+
'Stationäre Behandlungen im Krankenhaus sollen weiterhin über eine Fallpauschale abgerechnet werden.',
|
114 |
+
'Auf hohe Vermögen soll wieder eine Steuer erhoben werden.',
|
115 |
+
'Bei der Videoüberwachung öffentlicher Plätze soll Gesichtserkennungssoftware eingesetzt werden dürfen.',
|
116 |
+
'Auch Ehepaare ohne Kinder sollen weiterhin steuerlich begünstigt werden.',
|
117 |
+
'Ökologische Landwirtschaft soll stärker gefördert werden als konventionelle Landwirtschaft.',
|
118 |
+
'Islamische Verbände sollen als Religionsgemeinschaften staatlich anerkannt werden können.',
|
119 |
+
'Der staatlich festgelegte Preis für den Ausstoß von CO2 beim Heizen und Autofahren soll stärker steigen als geplant.',
|
120 |
+
'Die Schuldenbremse im Grundgesetz soll beibehalten werden.',
|
121 |
+
'Asyl soll weiterhin nur politisch Verfolgten gewährt werden.',
|
122 |
+
'Der gesetzliche Mindestlohn soll spätestens im Jahr 2022 auf mindestens 12 Euro erhöht werden.',
|
123 |
+
'Der Flugverkehr soll höher besteuert werden.',
|
124 |
+
'Unternehmen sollen selbst entscheiden, ob sie ihren Beschäftigten das Arbeiten im Homeoffice erlauben.']
|
125 |
+
]
|
126 |
+
|
127 |
+
with gr.Blocks() as demo:
|
128 |
+
chatbot = gr.Chatbot(value=[[None,"Herzlich willkommen! Ich bin Chätti ein KI-basiertes Studienassistenzsystem, das für jede Anfrage die am besten Studieninformationen empfiehlt.<br>Erzähle mir, was du gerne tust!"]], render_markdown=True)
|
129 |
+
dropdown = gr.Dropdown(choices=dropdown_options, label="Choose an option")
|
130 |
+
dropdown.change(fn=update_prompt, inputs=[dropdown, chatbot], outputs=[chatbot, dropdown])
|
131 |
+
gr.ChatInterface(value=[[None,"Hallo mein Name ist Avah (Artificial Voting Advice Helper), deine interaktive Hilfe zum Wahl-O-Maten für die Bundestagswahl 2021. Wenn du Fragen zu Thesen der Wahlhilfe hast, wähle gerne die besagt These aus. Ansonsten kannst du mir auch unabhängig von bestimmten Thesen Fragen stellen."]],response, inputs=[gr.Textbox(), chatbot, dropdown], title="Avah (Artificial Voting Advice Helper)").queue().launch(share=True)
|
132 |
|
|
|
133 |
print("Interface up and running!")
|
134 |
|
135 |
|