При обучении сети минимизируется ошибка между предсказанием сети и реальным значением. Функция ошибки и все операции в нейронной сети дифференцируемы, а значит можно взять производную от каждой функции, таким образом зная производные можно отрегулировать параметры нейронной сети, чтобы на следующем примере эта ошибка была чуть меньше, а сеть решала поставленную задачу чуть лучше. Производные в данном случае необходимы для того, чтобы знать вклад каждого параметра в общую ошибку, и изменяя их пропорционально этому вкладу ошибку делать меньше.
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence