Serão os algoritmos diferentes de nós? Estarão as máquinas em luta contra a humanidade? Especialistas explicam que, na verdade, são apenas reflexo de quem os cria e são vários os exemplos que o comprovam.
Startup Portugal
Ainda no mês de julho recebemos no podcast Start Now. Cry Later, apresentado pela jornalista Mariana Barbosa, Catarina Salteiro, da DefinedCrowd, uma empresa que trabalha com Machine Learning e apresenta soluções de Inteligência Artificial. Na ressaca da intensificação dos movimentos Black Lives Matter um pouco por todo o mundo, ao mesmo tempo que o documentário "The Social Dilema" levanta muitas questões sobre algoritmos, tornou-se inevitável não cruzar o tópico do preconceito no que à ciência computacional e inteligência artificial (IA) diz respeito.
Ao longo dos últimos anos, o tópico tem surgido diversas vezes, não apenas em relação a soluções de IA, mas também para novas tecnologias que necessitam de grandes volumes de informação para trabalhar de uma forma ótima. E as perguntas sucedem-se: as máquinas serão preconceituosas? Será que, num futuro em que tudo seja as decisões sejam tomadas por inteligência artificial, os preconceitos serão maiores, ou menores? Os especialistas são perentórios na resposta: “todos os modelos [de inteligência artificial] são feitos por humanos e refletem os seus preconceitos,” explica Michael McKenna num artigo do site AI Business. Ou seja, o caminho para uma IA mais justa parece paralelo, quase tangente, ao de uma sociedade mais justa.
Na conversa com a diretora de comunicação da DefinedCrowd, um dos exemplos mencionados foi a tecnologia de reconhecimento facial utilizado pela Apple nos seus aparelhos iPhone, que não só lhe trouxe problemas aquando o seu lançamento, como veria esses mesmos erros a persistir com mulheres chinesas, algo que levantou logo questões sobre se a tecnologia era, ou não, racista.
Este problema tem-se revelado tão recorrente que o surgimento de equipas de cientistas focado em resolvê-lo tornou-se inevitável, não só para perceber os problemas da sua origem, mas também a forma como estes preconceitos se refletem noutros contextos. Tal é o caso de algoritmos estão em constante aprendizagem e num processo contínuo de recolha de dados para continuar a operar, tal como acontece com as redes sociais que usamos no dia-a-dia, ou, de forma ainda mais visível, no motor de busca da Google.
Neste último caso, a empresa tem estado votada em colmatar as sugestões de busca propostas pelo seu algoritmo, que são fruto de pesquisas recorrentes dos seus utilizadores. Os resultados apresentados advêm de “um exame algorítmico ao conteúdo disponível na internet e da sua avaliação sobre o que, especificamente, as pessoas estão à procura quando escrevem um termo genérico no motor,” pode ler-se na Wired. Citado pela revista, um porta-voz da Google admite mesmo que “por muito que eu queira crer que os nossos algoritmos vão ser perfeitos, não acredito que cheguem a sê-lo”. A bem da verdade, é uma dificuldade real se tivermos em conta que 15% das buscas recebidas pela empresa todos os dias são novas.
Nem mesmo as grandes tecnológicas, com maior capacidade financeira, de investimento e de desenvolvimento conseguem, à partida, colmatar estas falhas. Por um sem número de razões: por um lado, porque muitos dos processos utilizados não têm protocolos de deteção de tendências preconceituosas; por outro, porque os dados disponibilizados não retratam as intenções de quem as desenvolve; ou ainda, porque o contexto em que se insere é demasiado retratado nos dados recolhidos.
Este último caso foi o que sucedeu com a tecnologia que a Amazon tentou implementar (mas com a qual não chegou a avançar) para a contratação de novos programadores ou outras posições mais técnicas na empresa, que excluía arbitrariamente mulheres do processo. Segundo a Reuters, esta tendência do software surge na forma como os computadores foram treinados, e dos dados a que tiveram acesso. “Os modelos da Amazon foram treinados para examinar candidatos através da observação de padrões em currículos enviados à empresa durante 10 anos. A maior parte veio de homens, o que demonstra o domínio masculino na indústria tecnológica.”
Torna-se, assim, essencial possibilitar que o algoritmo possa analisar dados e desenvolver um processo de “machine learning”, em que os sistematiza e define comportamentos, que tenham informação rica e variada. Isto é, que seja, no mínimo, representativa da demografia que vai analisar para evitar problemas futuros. Paralelamente, e de acordo com a própria Catarina Salteiro, é essencial que se perceba o contexto em que estas tecnologias vão operar. O mesmo pode ser lido na MIT Technology Review, que menciona a falta de contexto como um dos principais erros que os cientistas de dados mais cometem ao caírem na “armadilha da portabilidade”, ou seja, assumindo que um modelo desenvolvido para determinado contexto resulta num totalmente diferente. Na DefinedCrowd, de acordo com a sua Diretora de Comunicação, uma das soluções usadas para evitar estes problemas passa pelo recrutamento: a equipa é diversa, pelo que leva a sua própria diversidade para o trabalho que faz, garantido que a representatividade se transponha para os resultados.
Esta é, de resto, uma das soluções propostas no artigo de McKenna no site AI Business: “manter equipas diversificadas, tanto em termos demográficos como em termos de habilidades, é importante para evitar e mitigar preconceitos e tendências não desejadas em modelos de IA.” As palavras “não desejada” são, também, um dos pontos importantes do seu artigo. O autor postula que nenhum modelo deve estar livre de certas tendências, porque são estas que também o definem como fidedigno. Por exemplo, se o propósito for um algoritmo que processa dados biométricos no sentido de detetar a probabilidade de se desenvolver cancro da mama, este deverá privilegiar mulheres, que denotam o maior número de casos.
O trabalho de tornar estes algoritmos e estes computadores mais justos é contínuo e não é fácil. Os especialistas averiguam diariamente sobre a complexidade destes problemas e admitem que “há muito a ter em consideração”. Não só há que perceber o que é um conjunto de dados diversos, mas entender como é que estes funcionam em determinados contextos, ao mesmo tempo que se procura que os computadores demonstrem as tendências certas para melhor cumprir o propósito para que foram desenvolvidos. Olga Russakovsky, professora na Universidade de Princeton, explica à Wired que não há uma noção clara do que é “uma base de dados verdadeiramente diversa, dadas as formas como diferentes culturas vêm o mundo”.
Contudo, há algo em que todos os especialistas parecem estar de acordo: as decisões tomadas por máquinas deverão ser cada vez mais justas. Segundo a própria professora Russakovsky, “resolver o preconceito na humanidade é mais difícil do que resolvê-lo em sistemas de inteligência artificial”.
Porque o seu tempo é precioso.
Subscreva a newsletter do SAPO 24.
Subscrever
Já subscrevi
Porque as notícias não escolhem hora.
Ative as notificações do SAPO 24.
Subscrever
Saiba sempre do que se fala.
Siga o SAPO 24 nas redes sociais. Use a #SAPO24 nas suas publicações.
Facebook
Twitter
Instagram
Um artigo do parceiro
https://startupportugal.com/
A Startup Portugal, responsável pela promoção da estratégia nacional para o empreendedorismo, desenvolve iniciativas próprias que suportam as startups desde a fase da ideia à fase de implementação e internacionalização. Agora, une-se ao SAPO24 e ao The Next Big Idea para trazer semanalmente uma série de artigos sobre tendências e notícias à volta do mundo das startups e não só.
Mais artigos STARTUP PORTUGAL
Partilhar
Partilhar
Partilhar
Partilhar
Partilhar
Veja também
MadreMedia / Lusa · Tecnologia · 29 nov 2021 17:11
Unesco adota primeira recomendação sobre ética da inteligência artificial
MadreMedia / Lusa · Atualidade · 30 nov 2021 16:58
Chefe do MI6 considera China a maior ameaça ao Reino Unido e aliados
Em destaque
Atualidade · 1 dez 2021 23:32
"Se for essa a decisão", Portugal poderá começar a vacinar crianças entre os 5 e os 11 anos em janeiro
Atualidade · 1 dez 2021 21:00
Portugal tem 19 casos da variante Ómicron. Todos relacionados com o surto do Belenenses SAD
MadreMedia / Lusa · Atualidade · 1 dez 2021 11:04
Costa diz que nova variante não aparenta ser mais “danosa”, mas pede “máxima cautela” e não afasta novas medidas no Natal
Atualidade · 1 dez 2021 13:41
Teve dificuldade em aceder ao certificado de vacinação ou testagem na app do SNS24? Volte a tentar
Mais populares
Atualidade · 1 dez 2021 08:49
Narana Coissoró (CDS): "Se pusessem um macaco à frente do partido, votava no macaco"
por Isabel Tavares Diogo Gomes
Atualidade · 1 dez 2021 19:56
Morreu Almerindo Marques, gestor e ex-presidente da RTP
Atualidade · 1 dez 2021 21:00
Portugal tem 19 casos da variante Ómicron. Todos relacionados com o surto do Belenenses SAD
Atualidade · 1 dez 2021 23:32
"Se for essa a decisão", Portugal poderá começar a vacinar crianças entre os 5 e os 11 anos em janeiro
Atualidade · 30 nov 2021 06:17
Marcelo aprova prorrogação do prazo de extinção do SEF, máscaras obrigatórias na rua e fim do cartão do adepto
Últimas
MadreMedia · Atualidade · 1 dez 2021 23:32
"Se for essa a decisão", Portugal poderá começar a vacinar crianças entre os 5 e os 11 anos em janeiro
MadreMedia / Lusa · Atualidade · 1 dez 2021 22:02
Autor dos disparos em escola nos EUA acusado de terrorismo. Número de mortos subiu para quatro
MadreMedia / Lusa · Atualidade · 1 dez 2021 21:52
Grupo ativista Array Collective vence Prémio Turner 2021 de arte contemporânea
MadreMedia / Lusa · Desporto · 1 dez 2021 21:50
João Henriques abandona comando técnico do Moreirense ao fim de 15 jogos
MadreMedia / Lusa · Desporto · 1 dez 2021 21:13
WTA suspende torneios na China na sequência do caso da tenista Peng Shuai
Comentários
Deve estar ligado no Facebook para poder ver e interagir com este artigo.
SAPO 24
Atualidade
Economia
Desporto
Vida
Tecnologia
Local
Opinião
Jornais
Arquivo Lusa
Newsletter
Notificações
Facebook
Twitter
Instagram
Notificações
Geral
Última Hora
Opinião
Reportagens
Entrevistas
Notificações bloqueadas pelo browser
Fechar
Veja também
Fechar
Reparámos que tem um Ad Blocker ativo.
A informação tem valor. Considere apoiar este projeto desligando o seu Ad Blocker.
Pode também apoiar-nos subscrevendo a nossa newsletter, as nossas notificações ou seguindo-nos nas redes sociais Facebook, Instagram e Twitter.