Update app.py

app.py

@@ -1,6 +1,10 @@
 import gradio as gr
 import torch
-from transformers import pipeline
+from keras.models import load_model
+from transformers import TFBertModel, TFXLMRobertaModel
+import numpy as np
+import tensorflow as tf
+from transformers import AutoTokenizer
 
 app_title = "Portuguese Counter Hate Speech Detection (NFAA)"
 
@@ -11,32 +15,38 @@ Select a model from the dropdown menu and input your text to see the classificat
 For more information about the kNOwHATE project and its initiatives, visit our website [here](https://knowhate.eu) and to explore and use these models visit our Hugging Face page [here](https://huggingface.co/knowhate).
 """
 
+# 1 0 2
 app_examples = [
-    ["As pessoas tem que perceber que ser 'panasca' não é deixar de ser homem, é deixar de ser humano 😂😂", "", "knowhate/twt-bertimbau"],
-    ["Vamo-nos unir para criar um mundo mais inclusivo e tolerante.", "", "knowhate/twt-xlm-base"]
+    ["Essa gente tem é de deixar de ser apaparicada pelo Estado e começar a cumprir os seus deveres como cidadãos", 
+     "Nepia o que faz com que as pessoas generalizem é o ódio intrínseco que têm contra uma etnia, ng é responsável pela sua xenofobia", 
+     "knowhate/twt-bertimbau/twt-bb-b16e5-avg767.keras"],
+    ["Nem vou comentar o hate e misoginia que tenho visto aqui no tt em relação à Anitta", 
+     "E xenofobia também. Tugas no seu melhor", 
+     "knowhate/twt-bertimbau/twt-bb-b16e5-avg767.keras"],
+    ["A Festa tá no Climax, chama o zuca pra Dançar.", 
+     "Já reparaste no contador da luz? Vai trabalhar malandro", 
+     "knowhate/twt-bertimbau/twt-bb-b16e5-avg767.keras"]
 ]
 
 model_list = [
-    "knowhate/twt-bertimbau",
-    "knowhate/twt-xlm-base",
+    "knowhate/twt-bertimbau/twt-bb-b16e5-avg767.keras"
 ]
 
 def predict(text, target, chosen_model):    
+    model1 = load_model(chosen_model, custom_objects={"TFBertModel": TFBertModel})
+    checkpoint = "neuralmind/bert-base-portuguese-cased"
+    tokenizer = AutoTokenizer.from_pretrained(checkpoint, use_fast=True)
+    tokpair = tokenizer(text, target, truncation=True, padding='max_length', return_tensors='np')
     
-    # Initialize the pipeline with the chosen model
-    model_pipeline = pipeline("text-classification", model=chosen_model)
-    result = model_pipeline(text)
-
+    outp = model1(tokpair)
     
-    predicted_label = result[0]['label']
-    predicted_score = result[0]['score']
-
-    non_predicted_label = "Hate Speech" if predicted_label == "Non Hate Speech" else "Non Hate Speech"
-    non_predicted_score = 1 - predicted_score
-
+    proto_tensor = tf.make_tensor_proto(outp)
+    allscores = tf.make_ndarray(proto_tensor)[0]
+        
     scores_dict = {
-        predicted_label: predicted_score,
-        non_predicted_label: non_predicted_score
+        'Neutral': allscores[0],
+        'Counter Speech': allscores[1],
+        'Hate Speech': allscores[2]
     }
     
     return scores_dict