Update app.py

app.py

@@ -81,9 +81,6 @@ batch_size = 32
 # Количество потоков для параллельной обработки
 num_threads = 5
 
-# Количество потоков для параллельного реранкинга
-rerank_threads = 5 # Подберите оптимальное значение
-
 def get_db_connection():
     """Устанавливает соединение с базой данных."""
     try:
@@ -301,57 +298,24 @@ def get_movie_embeddings(conn):
         logging.error(f"Ошибка при загрузке эмбеддингов фильмов: {e}")
     return movie_embeddings
 
-def rerank_batch(query, batch):
-    """Переранжирует пакет результатов с помощью реранкера."""
+def rerank_results(query, results):
+    """Переранжирует результаты поиска с помощью реранкера."""
+    logging.info(f"Начало переранжирования для запроса: '{query}'")
     pairs = []
     movie_ids = []
-    for movie_id, _ in batch:
+    for i, (movie_id, _) in enumerate(results):
         movie = next((m for m in movies_data if m['id'] == movie_id), None)
         if movie:
             movie_info = f"Название: {movie['name']}\nГод: {movie['year']}\nЖанры: {movie['genreslist']}\nОписание: {movie['description']}"
             pairs.append([query, movie_info])
             movie_ids.append(movie_id)
+            logging.info(f"Обработка фильма для реранка {i+1}/{len(results)}: {movie['name']}")
 
     with torch.no_grad():
         inputs = reranker_tokenizer(pairs, padding=True, truncation=True, return_tensors='pt', max_length=512)
         scores = reranker_model(**inputs, return_dict=True).logits.view(-1, ).float()
 
-    return list(zip(movie_ids, scores.tolist()))
-
-def rerank_results(query, results):
-    """Переранжирует результаты поиска с помощью реранкера."""
-    logging.info(f"Начало переранжирования для запроса: '{query}'")
-    reranked_results = []
-
-    with ThreadPoolExecutor(max_workers=rerank_threads) as executor:
-        futures = []
-        batch = []
-        batch_num = 0
-        for i, result in enumerate(results):
-            batch.append(result)
-            if len(batch) >= batch_size: # Отправляем на реранк батчами
-                logging.info(f"Отправка на переранжирование батча {batch_num+1} ({len(batch)} фильмов)")
-                future = executor.submit(rerank_batch, query, batch)
-                futures.append(future)
-                batch = []
-                batch_num += 1
-
-        # Обработка остатка
-        if batch:
-            logging.info(f"Отправка на переранжирование батча {batch_num+1} ({len(batch)} фильмов)")
-            future = executor.submit(rerank_batch, query, batch)
-            futures.append(future)
-
-        # Сбор результатов
-        for i, future in enumerate(futures):
-            try:
-                batch_result = future.result()
-                reranked_results.extend(batch_result)
-                logging.info(f"Завершен реранк батча {i+1}")
-            except Exception as e:
-                logging.error(f"Ошибка при переранжировании батча {i+1}: {e}")
-                
-    reranked_results = sorted(reranked_results, key=lambda x: x[1], reverse=True)
+    reranked_results = sorted(zip(movie_ids, scores.tolist()), key=lambda x: x[1], reverse=True)
     logging.info("Переранжирование завершено.")
     return reranked_results