В этом случае функция попытается вызывать саму себя бесконечно. Но. Вызов вункции обычно реализован через механизм стека. Вызывающая функция сохраняет в стек адрес возрата, и по этому адресу программа возвращается, когда вызванная функция завершилась.

Размер стека ограничен.

Поэтому, в случае если программа пытается сделать бесконечную рекурсию, на стек будут добавляться новые и новые адреса возврата, пока стек не переполнится. После чего будет брошена исключительная ситуация "переполнение стека", и процесс выполнения программы будет прераван операционной системой. На английском это называется Stack Overflow.
spam fails_task lang_mismatch pii not_appropriate hate_speech sexual_content quality toxicity humor helpfulness creativity violence