Update app.py

app.py

@@ -2,9 +2,15 @@ import gradio as gr
 from transformers import AutoModelForCausalLM, AutoTokenizer
 import torch
 
-# Load model and tokenizer
+# Use base model's tokenizer
+base_model_name = "abhinand/tamil-llama-7b-instruct-v0.1"
 model_name = "joelelangovan/tamil-llama-genesis-finetuned"
-tokenizer = AutoTokenizer.from_pretrained(model_name)
+
+# Load tokenizer from base model
+tokenizer = AutoTokenizer.from_pretrained(base_model_name)
+tokenizer.pad_token = tokenizer.eos_token
+
+# Load fine-tuned model
 model = AutoModelForCausalLM.from_pretrained(
     model_name,
     device_map="auto",
@@ -51,7 +57,10 @@ demo = gr.Interface(
     ],
     outputs=gr.Textbox(label="பதில்"),
     title="Tamil LLaMA - ஆதியாகமம் விளக்க உதவி",
-    description="ஆதியாகமம் முதல் அதிகாரம் பற்றிய கேள்விகளுக்கு விளக்கம் அளிக்கும் AI மாதிரி",
+    description="""
+    ஆதியாகமம் முதல் அதிகாரம் பற்றிய கேள்விகளுக்கு விளக்கம் அளிக்கும் AI மாதிரி.
+    Base Model: abhinand/tamil-llama-7b-instruct-v0.1
+    """,
     examples=example_prompts,
     allow_flagging="never",
 )