File size: 6,972 Bytes
dae6371 27090a6 421602f dae6371 27090a6 421602f 27090a6 421602f 27090a6 421602f 27090a6 421602f 27090a6 421602f 27090a6 421602f 27090a6 421602f 27090a6 421602f 27090a6 421602f 27090a6 421602f dae6371 421602f dae6371 27090a6 421602f 27090a6 421602f 27090a6 dae6371 27090a6 421602f 27090a6 dae6371 27090a6 dae6371 421602f dae6371 27090a6 dae6371 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 |
import gradio as gr
from sentence_transformers import SentenceTransformer, util
import json
import os
import time
# Загружаем модель
model_name = "HIT-TMG/KaLM-embedding-multilingual-mini-instruct-v1"
model = SentenceTransformer(model_name)
# Имя файла для сохранения эмбеддингов
embeddings_file = f"movie_embeddings_{model_name.replace('/', '_')}.json"
# Имя файла для сохранения эмбеддингов запросов
query_embeddings_file = f"query_embeddings_{model_name.replace('/', '_')}.json"
# Загружаем данные из файла movies.json
try:
with open("movies.json", "r", encoding="utf-8") as f:
movies_data = json.load(f)
except FileNotFoundError:
print("Ошибка: Файл movies.json не найден.")
movies_data = []
# Загружаем эмбеддинги фильмов
if os.path.exists(embeddings_file):
with open(embeddings_file, "r", encoding="utf-8") as f:
movie_embeddings = json.load(f)
print("Загружены эмбеддинги фильмов из файла.")
else:
movie_embeddings = {}
# Загружаем эмбеддинги запросов
if os.path.exists(query_embeddings_file):
with open(query_embeddings_file, "r", encoding="utf-8") as f:
query_embeddings = json.load(f)
print("Загружены эмбеддинги запросов из файла.")
else:
query_embeddings = {}
def get_movie_embedding(movie):
"""
Возвращает эмбеддинг для фильма. Если эмбеддинг уже создан, возвращает его из словаря.
Иначе создает эмбеддинг, сохраняет его и возвращает.
"""
title = movie["name"]
if title in movie_embeddings:
print(f"Эмбеддинг для фильма '{title}' уже существует.")
return movie_embeddings[title]
else:
print(f"Создается эмбеддинг для фильма '{title}'...")
embedding_string = f"Название: {movie['name']}\nГод: {movie['year']}\nЖанры: {movie['genresList']}\nОписание: {movie['description']}"
embedding = model.encode(embedding_string, convert_to_tensor=True).tolist()
movie_embeddings[title] = embedding
# Сохраняем эмбеддинги в файл
with open(embeddings_file, "w", encoding="utf-8") as f:
json.dump(movie_embeddings, f, ensure_ascii=False, indent=4)
print(f"Эмбеддинг для фильма '{title}' создан и сохранен.")
return embedding
def get_query_embedding(query):
"""
Возвращает эмбеддинг для запроса. Если эмбеддинг уже создан, возвращает его из словаря.
Иначе создает эмбеддинг, сохраняет его и возвращает.
"""
if query in query_embeddings:
print(f"Эмбеддинг для запроса '{query}' уже существует.")
return query_embeddings[query]
else:
print(f"Создается эмбеддинг для запроса '{query}'...")
embedding = model.encode(query, convert_to_tensor=True).tolist()
query_embeddings[query] = embedding
# Сохраняем эмбеддинги запросов в файл
with open(query_embeddings_file, "w", encoding="utf-8") as f:
json.dump(query_embeddings, f, ensure_ascii=False, indent=4)
print(f"Эмбеддинг для запроса '{query}' создан и сохранен.")
return embedding
# Создаем эмбеддинги для всех фильмов
for movie in movies_data:
get_movie_embedding(movie)
def search_movies(query, top_k=3):
"""
Ищет наиболее похожие фильмы по запросу.
Args:
query: Текстовый запрос.
top_k: Количество возвращаемых результатов.
Returns:
Строку с результатами поиска в формате HTML.
"""
start_time = time.time() # Засекаем время начала выполнения
print(f"\n\033[1mПоиск по запросу: '{query}'\033[0m")
query_embedding = get_query_embedding(query)
query_embedding_tensor = util.pytorch_cos_sim(
model.encode(query, convert_to_tensor=True),
model.encode(query, convert_to_tensor=True)
)
# Сортируем фильмы по убыванию сходства с запросом
sorted_movies = sorted(
movie_embeddings.items(),
key=lambda item: util.pytorch_cos_sim(
query_embedding_tensor,
model.encode(list(movie_descriptions.values())[list(movie_descriptions.keys()).index(item[0])], convert_to_tensor=True)
)[0][0],
reverse=True
)
results_html = ""
for title, _ in sorted_movies[:top_k]:
# Ищем полное описание фильма в исходных данных
for movie in movies_data:
if movie["name"] == title:
description = movie["description"]
year = movie["year"]
genres = movie["genresList"]
score = util.pytorch_cos_sim(
query_embedding_tensor,
model.encode(list(movie_descriptions.values())[list(movie_descriptions.keys()).index(title)], convert_to_tensor=True)
)[0][0].item()
break
results_html += f"<h3><b>{title} ({year})</b></h3>"
results_html += f"<p><b>Жанры:</b> {genres}</p>"
results_html += f"<p><b>Описание:</b> {description}</p>"
results_html += f"<p><b>Сходство:</b> {score:.4f}</p>"
results_html += "<hr>"
end_time = time.time() # Засекаем время окончания выполнения
execution_time = end_time - start_time # Вычисляем время выполнения
print(f"Поиск завершен за {execution_time:.4f} секунд.")
return results_html
# Создаем интерфейс Gradio
iface = gr.Interface(
fn=search_movies,
inputs=gr.Textbox(label="Введите запрос:"),
outputs=gr.HTML(label="Результаты поиска:"),
title="Поиск фильмов по описанию",
description="Введите запрос, и система найдет наиболее похожие фильмы по их описаниям.",
examples=[
["Фильм про ограбление"],
["Комедия 2019 года"],
["Фантастика про космос"],
],
)
# Запускаем приложение
iface.launch() |