opex792's picture
Update app.py
421602f verified
raw
history blame
6.97 kB
import gradio as gr
from sentence_transformers import SentenceTransformer, util
import json
import os
import time
# Загружаем модель
model_name = "HIT-TMG/KaLM-embedding-multilingual-mini-instruct-v1"
model = SentenceTransformer(model_name)
# Имя файла для сохранения эмбеддингов
embeddings_file = f"movie_embeddings_{model_name.replace('/', '_')}.json"
# Имя файла для сохранения эмбеддингов запросов
query_embeddings_file = f"query_embeddings_{model_name.replace('/', '_')}.json"
# Загружаем данные из файла movies.json
try:
with open("movies.json", "r", encoding="utf-8") as f:
movies_data = json.load(f)
except FileNotFoundError:
print("Ошибка: Файл movies.json не найден.")
movies_data = []
# Загружаем эмбеддинги фильмов
if os.path.exists(embeddings_file):
with open(embeddings_file, "r", encoding="utf-8") as f:
movie_embeddings = json.load(f)
print("Загружены эмбеддинги фильмов из файла.")
else:
movie_embeddings = {}
# Загружаем эмбеддинги запросов
if os.path.exists(query_embeddings_file):
with open(query_embeddings_file, "r", encoding="utf-8") as f:
query_embeddings = json.load(f)
print("Загружены эмбеддинги запросов из файла.")
else:
query_embeddings = {}
def get_movie_embedding(movie):
"""
Возвращает эмбеддинг для фильма. Если эмбеддинг уже создан, возвращает его из словаря.
Иначе создает эмбеддинг, сохраняет его и возвращает.
"""
title = movie["name"]
if title in movie_embeddings:
print(f"Эмбеддинг для фильма '{title}' уже существует.")
return movie_embeddings[title]
else:
print(f"Создается эмбеддинг для фильма '{title}'...")
embedding_string = f"Название: {movie['name']}\nГод: {movie['year']}\nЖанры: {movie['genresList']}\nОписание: {movie['description']}"
embedding = model.encode(embedding_string, convert_to_tensor=True).tolist()
movie_embeddings[title] = embedding
# Сохраняем эмбеддинги в файл
with open(embeddings_file, "w", encoding="utf-8") as f:
json.dump(movie_embeddings, f, ensure_ascii=False, indent=4)
print(f"Эмбеддинг для фильма '{title}' создан и сохранен.")
return embedding
def get_query_embedding(query):
"""
Возвращает эмбеддинг для запроса. Если эмбеддинг уже создан, возвращает его из словаря.
Иначе создает эмбеддинг, сохраняет его и возвращает.
"""
if query in query_embeddings:
print(f"Эмбеддинг для запроса '{query}' уже существует.")
return query_embeddings[query]
else:
print(f"Создается эмбеддинг для запроса '{query}'...")
embedding = model.encode(query, convert_to_tensor=True).tolist()
query_embeddings[query] = embedding
# Сохраняем эмбеддинги запросов в файл
with open(query_embeddings_file, "w", encoding="utf-8") as f:
json.dump(query_embeddings, f, ensure_ascii=False, indent=4)
print(f"Эмбеддинг для запроса '{query}' создан и сохранен.")
return embedding
# Создаем эмбеддинги для всех фильмов
for movie in movies_data:
get_movie_embedding(movie)
def search_movies(query, top_k=3):
"""
Ищет наиболее похожие фильмы по запросу.
Args:
query: Текстовый запрос.
top_k: Количество возвращаемых результатов.
Returns:
Строку с результатами поиска в формате HTML.
"""
start_time = time.time() # Засекаем время начала выполнения
print(f"\n\033[1mПоиск по запросу: '{query}'\033[0m")
query_embedding = get_query_embedding(query)
query_embedding_tensor = util.pytorch_cos_sim(
model.encode(query, convert_to_tensor=True),
model.encode(query, convert_to_tensor=True)
)
# Сортируем фильмы по убыванию сходства с запросом
sorted_movies = sorted(
movie_embeddings.items(),
key=lambda item: util.pytorch_cos_sim(
query_embedding_tensor,
model.encode(list(movie_descriptions.values())[list(movie_descriptions.keys()).index(item[0])], convert_to_tensor=True)
)[0][0],
reverse=True
)
results_html = ""
for title, _ in sorted_movies[:top_k]:
# Ищем полное описание фильма в исходных данных
for movie in movies_data:
if movie["name"] == title:
description = movie["description"]
year = movie["year"]
genres = movie["genresList"]
score = util.pytorch_cos_sim(
query_embedding_tensor,
model.encode(list(movie_descriptions.values())[list(movie_descriptions.keys()).index(title)], convert_to_tensor=True)
)[0][0].item()
break
results_html += f"<h3><b>{title} ({year})</b></h3>"
results_html += f"<p><b>Жанры:</b> {genres}</p>"
results_html += f"<p><b>Описание:</b> {description}</p>"
results_html += f"<p><b>Сходство:</b> {score:.4f}</p>"
results_html += "<hr>"
end_time = time.time() # Засекаем время окончания выполнения
execution_time = end_time - start_time # Вычисляем время выполнения
print(f"Поиск завершен за {execution_time:.4f} секунд.")
return results_html
# Создаем интерфейс Gradio
iface = gr.Interface(
fn=search_movies,
inputs=gr.Textbox(label="Введите запрос:"),
outputs=gr.HTML(label="Результаты поиска:"),
title="Поиск фильмов по описанию",
description="Введите запрос, и система найдет наиболее похожие фильмы по их описаниям.",
examples=[
["Фильм про ограбление"],
["Комедия 2019 года"],
["Фантастика про космос"],
],
)
# Запускаем приложение
iface.launch()