O emprego, o direito e a privacidade na era da inteligência artificial
Publicado em: 24 jan 2019
Imagem captada do site BBC Radio referente a divulgação do livro 1984, do escritor inglês George Orwell
Por José Guilherme Carvalho Zagallo (advogado
A evolução da tecnologia, com a utilização em larga escala de ferramentas de inteligência artificial (*1), tem causado grandes transformações na sociedade contemporânea, tanto pela redução da oferta de postos de trabalho, como pela exigência de crescente qualificação da mão de obra remanescente. A advocacia também é afetada por essa transformação num primeiro momento, e deve refletir sobre seu espaço de atuação, assim como sobre a segurança de suas informações digitais e de seus clientes. A médio prazo as novas tecnologias tendem a reduzir a demanda de mão de obra em todo o sistema de justiça, afetando magistrados, membros do ministério público e servidores.
O uso da robótica e da inteligência artificial nos processos produtivos reduz a necessidade de mão de obra, sobretudo nas tarefas de menor complexidade. Estimativas realizadas pela empresa de consultoria McKinsey (2017) estima que até 800 milhões de postos de trabalho podem ser suprimidos pela adoção de automação no mundo no período 2017-2030, a depender da velocidade de adoção dessas ferramentas nos próximos anos, assim como das medidas compensatórias que vierem a ser adotadas.
Nos cenários apresentados por essa empresa de consultoria, a extinção de postos de trabalho tende a ser mais intensa em países com PIB per capta mais elevado, assim como em funções com menor nível de escolaridade. Com efeito, estima-se que as funções realizadas por pessoas com qualificação inferior ao ensino médio pode ter até 55% dos postos de trabalho suprimidos, enquanto que para pessoas com educação de nível superior essa redução pode chegar a 22%.
Esse processo de transformação tem sido apontado por estudiosos do mundo do trabalho, como o sociólogo Ricardo Antunes (2017), como uma transição do modo de produção fordista para um modo de "multifuncionalidade liofilizada", ou, de forma simplificada, de uma "uberização do trabalho", onde prevalecem formas de trabalho precarizadas, informais e flexíveis, com altos níveis de desemprego.
No Brasil, o direito, e, em particular a advocacia, tendem a ser impactados pelo uso dessas novas tecnologias, vez que a migração dos processos judiciais para plataformas eletrônicas simplificam a adoção das ferramentas de inteligência artificial. De fato, segundo o CNJ, 70,1% dos casos novos apresentados à Justiça em 2016 já tramitaram de forma exclusivamente eletrônica, o que equivale a 19,5 milhões de processos.
No Poder Judiciário brasileiro já existem debates para o uso da inteligência artificial, tanto nos tribunais superiores, como nas instâncias inferiores. Tome-se como paradigma a iniciativa do Tribunal de Justiça do Estado do Rio de Janeiro, que em março de 2018 criou um Centro de Solução de Conflitos, sem a participação de advogados e mesmo de magistrados, encarregados apenas da supervisão do sistema, em que processos judiciais são analisados por softwares de inteligência artificial, financiados pelas empresas mais demandadas naquele tribunal.
No âmbito administrativo, a Receita Federal do Brasil divulgou em abril de 2018 que começou a testar o uso da inteligência artificial para acelerar o julgamento de milhares de processos tributários.
Escritórios de advocacia começaram também a divulgar, em 2016, a utilização de inteligência artificial, tal como o software Ross, que roda no computador cognitivo Watson, da IBM, adotado pelo escritório norte-americano Baker & Hoesteler, com capacidade de processar algumas centenas de milhões de páginas de texto por segundo.
Esses sistemas de inteligência artificial podem estimar, com razoável precisão, o resultado de uma demanda judicial em determinado tribunal, vara ou mesmo de cada magistrado, com base no histórico anterior de julgamentos e mesmo de seus posicionamentos em redes sociais, assim como também podem elaborar minutas de petições iniciais e de defesa, recursos, sentenças e acórdãos, enfim, quase toda a atividade até hoje privativa da ação humana nos processos judiciais, o que certamente diminuirá a demanda de mão de obra humana nesses procedimentos.
Esse tipo de ferramenta suscita todo um leque de questionamentos de ordem constitucional, que devem ser estudados em detalhe, como por exemplo: Como fica o contraditório e a ampla defesa se os julgamentos serão feitos por máquinas? Como fica a proteção ao direito adquirido, ao ato jurídico perfeito e a coisa julgada se a ocorrência desses institutos será aferida por máquinas? A autoridade competente para julgar pode delegar essa função a uma máquina? Os algoritmos (*2) usados nos julgamentos serão públicos? A sentença feita por máquina não fere o devido processo legal?
Para além das questões legais, como imaginar que máquinas possam decidir quem e como deve receber a guarda legal de uma criança num caso de divórcio? Será mesmo que as máquinas podem substituir o julgamento feito pela percepção humana, com todas as nuances psicológicas envolvidas? Esse é apenas um de centenas de possibilidades de conflitos humanos complexos, cuja solução pode vir a ser delegada a máquinas.
O Grande Irmão está lhe observando!
Grande parte dessa transformação acontece em consequência da adoção um modelo de sociedade de informação em que "espontaneamente" são fornecidas a grandes empresas de tecnologia trilhões de informações sobre vidas pessoais e profissionais.
Desde a criação da rede mundial de computadores, no final dos anos 1960, o volume de informações coletadas do tráfego de dados de e-mails, sítios, fóruns de discussão, dentre outros canais, cresce exponencialmente. No entanto, foi a partir do início do século XX, com o surgimento das chamadas redes sociais, que esse volume explode. Algumas redes sociais já possuem mais de 2 bilhões de usuários ativos, o que equivale a 28% de toda a população do planeta. Esse crescimento ocorreu, em grande parte, porque essas redes foram construídas, segundo informado por alguns de seus ex-executivos, como por exemplo Sean Parker (*3) e Dharmath Palihapitiya (*4) , para explorar os mecanismos de satisfação humana, num círculo vicioso de validação social.
Se considerado o número de usuários de internet no mundo é da ordem de 4 bilhões, percebe-se que os seres humanos estão conectados como nunca estiveram em sua história.
O problema é a maior parte de nós desconhece o quanto de privacidade já foi perdida em troca de acesso instantâneo a informações na rede mundial de computadores. O modelo predominante de acesso a informação é de "uso gratuito". Contudo, ao acessar essas informações, aderindo aos termos de privacidade sugeridos pelas empresas prestadoras desses serviços, termina-se por fornecer à estas informações valiosas sobre preferências, expectativas, medos, angústias, posicionamento político, crenças religiosas, enfim, informações que, normalmente, somente anos de convivência social permitiriam inferir, e que servem de base à lucrativas atividades de publicidade. Apenas a empresa proprietária do Google – Alphabet Inc., obteve receitas de U$ 110,8 bilhões em 2017, dos quais 84,2% oriunda de publicidade.
O usuário médio das redes sociais e das ferramentas de busca desconhece, que tudo que é pesquisado, deletado, visitado, assistido, que aplicativo é utilizado no smartphone, emails, fotos, vídeos, músicas ouvidas, contatos, compromissos, os locais e horários onde esses usuários estiveram, acesso à câmeras e microfones de dispositivos eletrônicos como celulares, computadores e tablets, só para mencionar algumas das informações graciosamente fornecidas, compõem um perfil individual de anúncio para cada usuário, o que permite àqueles que possuem essas informações auferirem receitas bilionárias com propaganda segmentada.
Essa captura de dados assume um papel ainda mais preocupante, no momento em que está sendo implantada a "internet das coisas", em que objetos do dia a dia estão sendo conectados à rede mundial de computadores e se comunicando mutuamente – máquina "conversando" com máquina, que permite a coleta de informações pelos prestadores de serviços envolvidos, além de problemas de segurança como o acesso de informações por terceiros.
Por outro lado, já existem inúmeros casos de utilização em processos criminais tanto das informações fornecidas pelos usuários nas empresas prestadoras de serviço, como mesmo daquelas capturadas por dispositivos conectados a outros dispositivos.
Assim, é forçoso reconhecer que se vive hoje numa realidade distópica, semelhante aquela preconizada em 1948 por George Orwell na obra literária 1984. A diferença é que em vez da vigilância compulsória, realizada pelo Estado, prevista na obra de ficção, o monitoramento dos cidadãos é realizado por empresas de tecnologia que, a pretexto de oferecer serviços "gratuitos", passou a capturar dados que são fornecidos por seus usuários.
Esse conjunto de informações, assim como a veiculação de notícias falsas, tem sido utilizados para influenciar eleições em diversos países no mundo, colocando o próprio modelo da democracia representativa em xeque.
O ciberativista Edward Snowden classifica algumas dessas empresas de prestação de serviços tecnológicos como empresas de vigilância, enquanto que Shoshana Zuboff, professora emérita da Universidade de Harward, vem apresentando críticas ao que ela denominou de "capitalismo de vigilância".
As consequências desse processo de transformação social ainda não estão completamente definidas. De fato, a velocidade da redução de postos de trabalho pela automação vai depender do processo de luta dos trabalhadores atingidos pelo uso dessas novas tecnologias, que podem influenciar a adoção de medidas legislativas de salvaguarda, como, por exemplo, a redução da jornada de trabalho. No campo do Direito, o uso dessas novas tecnologias encontrará muitos questionamentos quanto à legalidade desses procedimentos, num sentido mais amplo.
O próprio debate público sobre a privacidade nos ambientes virtuais pode limitar o poder, hoje quase absoluto, das grandes empresas de tecnologia, com a adoções de políticas regulatórias mais restritivas. O fato concreto é que o próprio modelo de democracia ocidental encontra-se num momento de profunda ameaça face ao gigantesco uso de informações pessoais em processos eleitorais.
(* 1) Projeto e desenvolvimento de programas de computador que simulam o pensamento humano, capaz de desenvolver um comportamento inteligente. Dicionário Michaelis – (Inf.).
(*2) Conjunto das regras de operação (conjunto de raciocínios) cuja aplicação permite resolver um problema enunciado por meio de um número finito de operações; pode ser traduzido em um programa executado por um computador, detectável nos mecanismos gramaticais de uma língua ou no sistema de procedimentos racionais finito, utilizado em outras ciências, para resolução de problemas semelhantes. Dicionário Michaelis – (Lóg).
(*3) O Facebook "explora uma vulnerabilidade da psicologia humana" criando um "ciclo de retroalimentação de validação social".
(*4) "os ciclos de retroalimentação de curto prazo impulsionados pela dopamina que criamos estão destruindo o funcionamento da sociedade. Sem discursos civis, sem cooperação, com desinformação, com falsidade"
"As redes sociais estão dilacerando a sociedade", diz um ex-executivo do Facebook. El País. Madri, 13 dez. 2017. Disponível em < https://brasil.elpais.com/brasil/2017/12/12/tecnologia/1513075489_563661.html>. Acesso em: 4 mai. 2018
Alphabet Inc. Form 10-K 2017, apresentado à Securities and Exchange Comission. Disponível em <https://abc.xyz/investor/pdf/20171231_alphabet_10K.pdf>. Acesso em: 03 mai. 2018.
ANTUNES, Ricardo. Da educação utilitária fordista à da multifuncionalidade liofilizada. In: 38ª REUNIÃO DA ASSOCIAÇÃO NACIONAL DE PÓSGRADUAÇÃO E PESQUISA EM EDUCAÇÃO, 38., 2017, São Luís. Anais. São Luís: Anped, 2017. p. 1 – 15. Disponível em: <http://38reuniao.anped.org.br/sites/default/files/resources/programacao/trabalhoencom _38anped_2017_gt11_textoricardoantunes.pdf>. Acesso em: 02 out. 2017.
CIRIACO, Douglas. Mais de 4 bilhões de pessoas usam a internet ao redor do mundo. TECMUNDO. Curitiba, 30 JAN. 2018. Disponível em < https://www.tecmundo.com.br/internet/126654-4-bilhoes-pessoas-usam-internet-nomundo.htm>. Acesso em: 4 mai. 2018
CUNHA, Mariana. Snowden ataca Facebook: "Eles não são vítimas. São cúmplices". MSN Notícias. Redmond, 18 mar. 2018. Disponível em <https://www.msn.com/ptpt/noticias/mundo/snowden-ataca-facebook-%E2%80%9Celes-n%C3%A3os%C3%A3o-v%C3%ADtimas-s%C3%A3o-c%C3%BAmplices%E2%80%9D/arBBKnUnS>. Acesso em: 4 mai. 2018
CURRAN, Dylan. Are you ready? Here is all the data Facebook and Google have on you. The Guardian. Londres, 30 mar. 2018. Disponível em <https://www.theguardian.com/commentisfree/2018/mar/28/all-the-data-facebookgoogle-has-on-you-privacy>. Acesso em: 4 mai. 2018
Dicionário Michaelis. 2018. Disponível em: <http://michaelis.uol.com.br/busca?r=0&f=0&t=0&palavra=algoritmo>. Acesso em: 19 abr. 2018.
IBM. Primeiro Escritório Contrata o Advogado Artificial ROSS. 2017. Disponível em: < https://www.ibm.com/blogs/robertoa/2017/02/primeiro-escritorio-contrata-oadvogado-artificial-ross>. Acesso em: 19 abr. 2018.
Itforum365. (Ed.). STJ discute aplicação de inteligência artificial no Judiciário. 2017. Disponível em: <https://www.itforum365.com.br/tecnologia/stj-discuteaplicacao-de-inteligencia-artificial-no-judiciario>. Acesso em: 19 abr. 2018.
MCKINSEY & COMPANY (Ed.). Jobs lost, jobs gained: Workforce transitions in a time of automation. Nova Iorque: Mckinsey, 2017. Disponível em: <https://www.mckinsey.com/~/media/McKinsey/Global Themes/Future of Organizations/What the future of work will mean for jobs skills and wages/MGI-JobsLost-Jobs-Gained-Report-December-6-2017.ashx>. Acesso em: 18 abr. 2018
PÁDUA, Luciano. Jota.info (Ed.). OAB-RJ protesta contra sistema automatizado de solução de conflitos. 2018. Disponível em: <https://www.jota.info/justica/oab-rjprotesta-contra-sistema-automatizado-de-solucao-de-conflitos-19032018>. Acesso em: 19 abr. 2018.
POWLES, Julia. Google and Microsoft have made a pact to protect surveillance capitalism. The Guardian. Londres, 2 mai. 2016. Disponível em < https://www.theguardian.com/technology/2016/may/02/google-microsoft-pact-antitrustsurveillance-capitalism >. Acesso em: 4 mai. 2018
PUPO, Fábio; OLIVON, Beatriz. Receita testa inteligência artificial em julgamentos. Valor Econômico. São Paulo, 24 abr. 2018. Disponível em <http://www.valor.com.br/legislacao/5473055/receita-testa-inteligencia-artificial-emjulgamentos>. Acesso em: 24 abr. 2018
TURKLE, Sherry. "É um círculo vicioso de busca por aprovação", diz Sherry Turkle sobre ânsia por likes nas redes sociais. Entrevista . Disponível em https://gauchazh.clicrbs.com.br/comportamento/noticia/2016/07/e-um-circulo-viciosode-busca-por-aprovacao-dizsherry-turkle-sobre-ansia-por-likes-nas-redes-sociais6550437.html. Acesso em: 19 de abr. 2018.
United Nations. World Population Prospects 2017. 2017. Disponível em: <https://esa.un.org/unpd/wpp/Download/Standard/Population/>. Acesso em: 30 abr. 2018