O governo britânico deixou um algoritmo destruir as esperanças e sonhos de toda uma geração de jovens?
Caítlín sempre foi fascinada pelo corpo humano, mesmo quando criança. Ela recebia notas máximas e depois de receber uma oferta para estudar medicina na Queen's University de Belfast este ano ela estava a caminho de virar médica.
Mas quando os exames nacionais, conhecidos como A-levels, foram cancelados, ela ficou preocupada. Os resultados destes exames são usados para as universidades decidirem quais estudantes serão admitidos na faculdade.
Ela sabia que seus professores estariam examinando seu trabalho para decidir qual nota ela deveria receber, e lembrava com ansiedade de todos os trabalhos escolares que havia entregue, todos os exames do passado e o peso que isso teria no seu futuro.
Quando Caítlín recebeu o e-mail confirmando sua nota nos A-level, ela não poderia imaginar que nada disso fez diferença.
Ela recebeu um B e um C, nem perto dos As que ela precisava para entrar em medicina. Esses resultados, ela descobriu depois, haviam sido calculados por um algoritmo.
"Eu estava arrasada", ela conta. "Catorze anos em educação formal e a única instituição que deveria me recompensar por todo meu esforço no fim roubou o meu futuro de me tornar médica."
Ela foi direto para a escola para tentar entender o que havia acontecido, mas o pessoal da escola estava tão confuso quanto ela. Os seus professores haviam previsto duas notas "A" no exame dela, mas suas previsões foram rebaixadas pelo algoritmo.
Caítlín é apenas uma de milhares de estudantes que podem perder uma vaga na universidade este ano por causa do algoritmo criado pelo governo.
O Reino Unido é um dos primeiros países a cancelar exames escolares nacionais depois da pandemia de coronavírus, e o governo inventou um jeito único de avaliar os alunos.
Eles pediram para que os professores dessem uma previsão de qual nota seus alunos tirariam, caso o exame tivesse sido realizado. E eles criaram um sistema baseado em um algoritmo, que deveria garantir que essas previsões não seriam distorcidas em prol dos alunos dada a relação próxima entre alunos e professores.
No entanto, o algoritmo parece ter ignorado completamente a sugestão dos professores. Cerca de 40% das notas dadas pelos professores foram rebaixadas em pelo menos um grau (de "A" para "B"). Em alguns casos, como no de Caítlín, o rebaixamento foi de dois graus.
"O fato de que tudo foi computadorizado fez com que a minha nota fosse completamente aleatória", diz Caítlín.
As autoridades dizem que programaram o algoritmo para se certificar que os estudantes receberiam notas alinhadas com a performance dos últimos anos, e que os resultados deste ano não seriam inflados.
Mas o sistema ignorou talentos individuais e o trabalho duro dos alunos. Estudantes excepcionais em escolas de baixo desempenho tiveram suas notas rebaixadas. E escolas que trabalharam para melhorar as notas de seus alunos os últimos anos foram julgadas por desempenhos passados.
A coisa ainda piorou. Alunos em escolas que tinham turmas menores também tiveram notas mais parecidas com as dadas por seus professores uma clara vantagem para escolas mais ricas e mais bem estruturadas.
Isso foi relatado em um documento que explica como funciona o algoritmo. O relatório de 130 páginas foi publicado no mesmo dia do exame.
"O governo está implementando estes algoritmos sem explicar a seus cidadãos ou perguntando se eles querem isso", diz Martha Dark, fudadora da Foxglove, uma entidade que trabalha com justiça tecnológica. "Primeiro eles computam, depois eles perguntam."
A Foxglove tem sido ativa no combate ao algoritmo e também está envolvida em outra disputa sobre o algoritmo usado pelo Reino Unido para definir sobre vistos de imigração.