app.py

from transformers import AutoTokenizer, AutoModelWithLMHead
import torch
import gradio as gr

# Загружаем токенизатор и модель
tokenizer = AutoTokenizer.from_pretrained("sberbank-ai/rugpt3large_based_on_gpt2")
model = AutoModelWithLMHead.from_pretrained("sberbank-ai/rugpt3large_based_on_gpt2")

# Основная функция генерации
def generate_russian_response(prompt):
    input_ids = tokenizer.encode(prompt, return_tensors="pt")
    with torch.no_grad():
        output = model.generate(
            input_ids,
            max_length=200,
            do_sample=True,
            top_k=50,
            top_p=0.95,
            temperature=0.9,
            num_return_sequences=1,
            pad_token_id=tokenizer.eos_token_id
        )
    response = tokenizer.decode(output[0], skip_special_tokens=True)
    return response

# Интерфейс Gradio
iface = gr.Interface(
    fn=generate_russian_response,
    inputs=gr.Textbox(label="Введите ваш запрос"),
    outputs=gr.Textbox(label="Ответ от ChatGPT"),
    title="Интерфейс ChatGPT",
    description="Пример взаимодействия с API OpenAI через Hugging Face Space"
)

iface.launch()