Emëroni tre funksione të zakonshme aktivizimi të përdorura në të mësuarit e thellë.
Tre funksione aktivizimi të zakonshme të përdorura në të mësuarit të thellë janë sigmoid, ReLU dhe tanh. Funksionet sigmoid punojnë mirë në rrjetet e cekëta, ndërsa ReLU është një zgjedhje më popullore në rrjetet moderne për shkak të aftësisë së saj për të trajnuar më shpejt dhe për të trajtuar më mirë gradientet e zhdukjes. Tanh është jo-lineare dhe më intensive llogaritëse se të dy të tjerët, dhe zakonisht përdoret kur kërkohet kufi i kompleks i vendimit.