É preciso compreender que os algoritmos operam sobre dados e podem: ordenar, classificar, minerar, descobrir conhecimento, agrupar clientes, estabelecer o perfil (profiling), conhecer gostos e preferências, conhecer qual o comportamento na rede (behavourial tracking), rastrear contatos em tempos de pandemia (contact tracing) (FREITAs et al., 2020), indicar produtos, recomendar, reconhecer faces, reconhecer emoções, recuperar informações, tomar decisões: aritméticas, lógicas, relacionais, estatísticas e probabilísticas. Portanto, é importante que os titulares de dados (artigo 18, LGPD) compreendam que os algoritmos mantém informações longe de nós por meio de bolhas informacionais (PARISER, 2019). Além disto, podem ser aplicados em situações subjetivas, mesmo que o titular de dados desconheça, a exemplo da contratação de pessoas (Qual é o/a melhor candidato/a para a vaga?).
Problemas complexos não tem resposta binária (sim ou não), por isso se entendermos que “Em oposição aos seres humanos, os computadores não têm preferências nem atitudes. Se um modelo preditivo for corretamente projetado, ele será imparcial e não conterá vieses.” (FREITAS; BARDDAL, 2019, p. 111). Mas como os algoritmos podem conter vieses (biases)? Os algoritmos são criados por seres humanos e podem assim ser igualmente tendenciosos a partir das bases de dados utilizadas nas etapas de treinamento e validação de modelos (matemáticos ou probabilísticos). Há que se lembrar que algoritmos andam de mãos dadas com a complexidade.
Neste sentido, o legislador pontuou como importante que os usuários precisam ser informados sobre os algoritmos de tomada de decisão (artigo 20, LGPD). E, ainda, que caberá “ao controlador fornecer, sempre que solicitadas, informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada, observados os segredos comercial e industrial” (§ 1º, artigo 20, LGPD) e no caso do não oferecimento de tais informações justificado diante de segredo comercial e industrial, “a autoridade nacional poderá realizar auditoria para verificação de aspectos discriminatórios em tratamento automatizado de dados pessoais” (§ 2º, artigo 20, LGPD). A LGPD, tal qual outros regramentos sobre proteção de dados pessoais, coloca no epicentro do debate a ética dos algoritmos e a formação de uma cultura de dados centrada na proteção de dados (DONEDA, 2018), na segurança da informação (família de normas ISO/IEC 27000), na privacidade e direitos fundamentais. Sem esquecer que serão as pessoas que irão auditar os algoritmos. Ou não? Teremos algoritmos auditando algoritmos? Mas esta é outra discussão.