Dado um conjunto de entradas \(X_i = \{x_1, \cdots ,x_a\}\) com \(N\) instâncias, sendo \(i=\{1,\cdots , N\}\) e \(a\) o número de atributos de \(X\), e um conjunto de rótulos de classificação \(R = \{r_1,\cdots ,r_b\}\), com \(b \ge 2\), é montado um conjunto de dados de treinamento \(T = \{(X_1,c_1),\cdots ,(X_i,c_i)\}\) no qual cada entrada \(X_i\) é vinculada a um rótulo \(c_i \in R\). O objetivo de um algoritmo de classificação é aprender, a partir de \(T\), uma correlação entre os atributos de entrada tal que: dado uma nova entrada não rotulada \(\hat{X} = \{ \hat{x_1} \cdots \hat{x_a} \}\), o classificador seja capaz de determinar o rótulo vinculado a ela.
Um exemplo clássico de classificação é o problema da Iris [4]. Neste problema, existe um conjunto de flores do gênero Iris que são divididas em 3 grupos (rótulos): setosa, virginica e versicolor. Sendo assim o objetivo é determinar a qual grupo uma determinada flor pertence baseado nas medidas de sépalas e pétalas das mesmas. A Figura 1 ilustra um processo de classificação. Inicialmente as sépalas e pétalas devem ser extraídas em um pré-processamento. As medidas extraídas são processadas e suas características extraídas. Por fim, é realizada a classificação das flores. Neste exemplo os valores de \(X\) serão as medidas de comprimento e largura das sépalas e pétalas e \(R\) assumirá os rótulos setosa, virginica e versicolor.
A vantagem de classificadores com valores numéricos é que se torna possível comparar o grau de aceitação de cada rótulo e ranqueá-las, se for necessário. Além disso, é comum utilizar a função softmax \(\sigma(z)_k = \frac{e^{z_k}}{\sum_{j=1}^k e^{z_j} }\) em classificadores com valores numéricos, pois a mesma transforma esses valores em probabilidades [5]. Sem a softmax a saída é apenas valores numéricos. Com ela, os valores representam a probabilidade de cada rótulo para uma dada amostra. Considerando um problema com três rótulos de classificação, {A,B,C}, na fFigura 2 são ilustrados os dois tipos de classificadores já considerando o uso da função softmax no classificador de valor numérico.