Premissas para a reflexão sobre a regulação da tecnologia - AB2L
Premissas para a reflexão sobre a regulação da tecnologia
Diante da tecnologia, qual é a melhor solução: mais regulação, menos regulação ou total ausência de regulação? Regulação nova e específica ou adaptação da regulação já existente? Autorregulação ou heterorregulação? Que outras fontes e formas de regulação, além do direito, devem ser pensadas na sociedade da informação? Para que deve servir a regulação da tecnologia? É a partir dessas perguntas que o presente artigo pretende oferecer algumas premissas para a reflexão sobre a regulação jurídica da tecnologia.
Em primeiro lugar, é importante apontar que as respostas para as perguntas acima mencionadas dependem da prévia reflexão sobre como devemos entender a tecnologia e a inovação, sem o que não poderemos refletir sobre as possibilidades, as finalidades e os limites da regulação jurídica. Mais do que isso, dependem igualmente de questões éticas, sociais, políticas e econômicas, exigindo a revisitação de praticamente todas as categorias jurídicas tradicionais – tais como pessoas, bens, direitos e relações jurídicas –, bem como a criação de novos instrumentos e alternativas para lidar com uma crescente complexidade.
Não é fácil endereçar tais problemas em um mundo cada vez mais "habitado" por robôs, máquinas e sistemas de inteligência artificial que, em vários casos, têm autonomia decisória e características que os aproximam dos homens. Daí a discussão sobre em que medida robôs ou máquinas poderiam ter atributos humanos, tais como personalidade1, nacionalidade2, capacidade de ação, bem como responsabilidade. Isso sem falar nas próprias discussões e redefinições que a tecnologia traz para a personalidade humana e, ainda, nas repercussões jurídicas das relações entre seres humanos e máquinas, que se estabelecem hoje nos mais diversos planos, incluindo o profissional – veja-se a discussão sobre a utilização de robôs como advogados3, dentre outras profissões e atividades4 –, o sexual5 e o afetivo, hoje já se discutindo até sobre a possibilidade de casamento entre pessoas e robôs6.
Tais controvérsias ficam ainda mais sofisticadas em um mundo no qual os bens mais importantes são progressivamente imateriais, multifuncionais e interconectados – imagine-se, por exemplo, o potencial da "internet das coisas" –, sendo as titularidades individuais paulatinamente substituídas por acessos compartilhados. Além de novos bens que surgem a cada dia, dados, informação, conhecimento, tecnologia, know-how e propriedade intelectual passam a fazer parte da realidade de todos, sem que as pessoas tenham plena consciência do seu impacto em suas vidas e sem que haja a devida reflexão a respeito das relações entre as situações patrimoniais e existenciais daí decorrentes.
Da mesma maneira, não é simples tratar desses temas em um mundo formado por interações cada vez mais intensas, abrangentes e complexas, que partem da conectividade e do caráter transnacional da internet e potencializam-se a partir de inúmeros aplicativos, websites e plataformas. Disrupção virou palavra da moda, mas pouco se reflete sobre o que é isso, em que medida tal fenômeno se diferencia da inovação e quais as consequências disso para a regulação jurídica7.
Mais do que uma reconfiguração de todas as categorias jurídicas e da adaptação da regulação já existente, os impactos da tecnologia em nossas vidas nos provocam a respeito de uma questão fundamental, que diz respeito a saber se é possível e desejável que a tecnologia se converta, ela própria, no principal regulador de comportamentos, tornando o direito secundário ou mesmo inócuo. Tal discussão, que tem desdobramentos sobre temas sensíveis, como soberania estatal e democracia, é certamente das mais importantes da nossa época.
Para muitos, a tecnologia é necessariamente libertadora. Criptografia, blockchain e outros avanços são vistos como instrumentos de emancipação dos cidadãos diante de um Estado opressor ou ineficiente. Não é mera coincidência o fascínio que muitos movimentos anarquistas atuais têm pela tecnologia, vista como alternativa para substituir, com vantagens, as funções que hoje são assumidas pelos sistemas jurídicos dos diversos Estados.
Para outros, a tecnologia pode ser perigoso instrumento de dominação, uma vez que a sua escolha não é neutra e, no atual contexto, acaba sendo feita, em grande parte, por grandes agentes empresariais, sem transparência,accountability ou qualquer filtro democrático, podendo estar a serviço exclusivo dos interesses econômicos daqueles que a detêm. Assim, o recuo da regulação jurídica estatal em prol da regulação pela tecnologia, longe de possibilitar um ambiente mais igualitário, levaria, na verdade, ao domínio dos grandes gigantes da tecnologia, alguns já chamados de net states8, tamanho o poder que já titularizam.
Apesar das divergências de opiniões, o debate supramencionado é útil para mostrar que a discussão sobre tecnologia, longe de ser meramente técnica, é também uma reflexão sobre o poder, em várias das suas manifestações. Afinal, adotada a premissa de que sociedades complexas que pretendam ser minimamente organizadas precisam de algum tipo de regulação, a tecnologia jamais será propriamente uma alternativa à regulação, mas sim uma forma própria de regulação. E, a depender de quem escolhe a tecnologia e da utilização que a ela será dada, a alocação de recursos e direitos, bem como a própria estruturação da sociedade e dos Estados, podem ser consideravelmente alteradas.
Com efeito, choques e conflitos entre interesses, direitos, preferências e visões de mundo continuam e continuarão existindo, quando não serão potencializados pela tecnologia. Tal circunstância, própria de uma sociedade complexa e plural, exige procedimentos – estatais ou não, jurídicos ou não – para que escolhas sejam feitas e decisões sejam tomadas para administrar tais conflitos e assegurar a integração social. Basta lembrar das constantes colisões entre privacidade e interesse público, dentre os quais os problemas do bloqueio do Whatsapp no Brasil e da quebra do código da Apple nos Estados Unidos em investigações antiterroristas são meros exemplos.
A tecnologia, portanto, vem potencializando inúmeros impasses na vida moderna. Mais estado ou menos estado? Privacidade ou segurança? Serviços online gratuitos e personalizados ou privacidade? Crescimento econômico ou distribuição de renda? Bem estar do consumidor ou concorrência? Inovação ou concorrência? Tais questões, dentre inúmeras outras, são muitas vezes colocadas como verdadeiros tradeoffs, dividindo a opinião pública em discursos maniqueístas e surdos para qualquer argumento em sentido contrário.
Consequentemente, pelo menos no atual contexto de perspectivas tecnológicas, ainda é fundamental perquirir sobre "quem" decide a tecnologia que será utilizada em determinados campos, como tal decisão é tomada e a que interesses, valores ou objetivos ela serve. Ao fim e ao cabo, a tecnologia ainda está vinculada à presença humana, nem que esta seja utilizada para delegar ou transferir a robôs e a máquinas a capacidade de decidir por nós mesmos. E, mesmo nessa hipótese, é de se perquirir em que medida programadores, utilizadores e especialmente aqueles que exploram economicamente as tecnologias, delas extraindo significativos proveitos e lucros, não devem ser responsáveis pelas decisões das máquinas, seja em razão do risco, seja em razão do dever de cuidado e de monitoramento que deles se pode esperar.
A questão da atribuição de responsabilidades é muito importante no atual cenário, já que, além de a escolha da tecnologia não ser neutra, o seu uso também não é neutro, depende de uma série de variáveis e pode levar a diversas consequências. A mesma internet que, no seu início, era vista como um espaço para a plena democracia e a ampla troca de ideias, hoje é palco de segregações, intolerância, desinformação e fake news. A mesma economia compartilhada que foi pensada para uma cooperação direta entre pares, hoje é dominada por modelos dirigidos por grandes agentes empresariais que atuam em mercados oligopolizados. Não é sem razão o ceticismo atual de muitos daqueles que um dia já foram entusiastas da internet e da economia do compartilhamento como instrumentos, respectivamente, de democratização e de cooperação.
Os cidadãos, muitas vezes reduzidos a meros consumidores, também não entendem e não querem entender o que está ocorrendo, desde que recebam os serviços pretendidos de forma instantânea. Deixam-se seduzir com benefícios imediatos da tecnologia, esquecendo do alerta de Tim Cook9 de que, quando algo é gratuito no mundo virtual, provavelmente o produto é o próprio usuário. Ao não entenderem que o proveito de hoje pode implicar graves problemas futuros não apenas para eles, como para a sociedade como um todo, impede-se qualquer ação consciente e coordenada em prol de interesses relevantes.
Ademais, com a crescente utilização do big data, há um considerável aumento da assimetria informacional entre empresas e consumidores, circunstância que coloca em xeque muitas das teorias econômicas que se baseiam na escolha racional ou na soberania dos consumidores. Afinal, é difícil imaginar que os consumidores possam ser soberanos quando as empresas sabem mais deles do que eles próprios e ainda podem utilizar os dados coletados não apenas para conhecer as suas características e preferências, mas também para, por meio de um processo reverso, moldar, modificar ou mesmo manipular as suas opiniões e crenças.
Com efeito, a tecnologia vem sendo progressivamente associada ao poder da comunicação que, por meio de diversos instrumentos – anúncios publicitários, informações, notícias jornalísticas, fake news, comentários, posts, seleção e "rankeamento" de conteúdos em pesquisas – há muito tempo deixou de apenas retratar o mundo: hoje os agentes detentores de poder de comunicação moldam o mundo – ou parte dele – que desejam apresentar aos usuários10. Dessa maneira, várias formas de manipulação da opinião humana, que já eram utilizadas amplamente pela publicidade e pelos grandes agentes empresariais – muitas vezes com base em descobertas da biologia, da neurociência e da psicologia aplicada -, são hoje potencializadas pelo big data.
Em tal contexto de assimetria de poder, cria-se ambiente favorável para toda sorte de práticas lesivas aos consumidores e aos cidadãos. Não é sem razão a preocupação de grandes economistas, como Akerllof, Shiller11 e Thaler12, este último o ganhador do Nobel de economia deste ano, com as inúmeras práticas fraudulentas que podem ocorrer diante de um mercado sem regulação, cenário que pode se potencializar no mundo digital e na chamada data driven economy.
Enquanto os governantes e a sociedade civil não sabem o que fazer, os agentes empresariais muitas vezes se aproveitam da inação, do excesso de otimismo das pessoas e das zonas de penumbra da regulação para avançar em diversas searas, inclusive por meio de modelos de negócio supostamente imunes a qualquer regulação jurídica. Esse tipo de empreendedorismo – visto por uns como criatividade, por outros como verdadeira fraude – coloca-nos diante de novos questionamentos, que desafiam as posturas simplistas de que novos negócios ou são "mais do mesmo" ou são totalmente diferentes dos serviços tradicionais13.
Acresce que muitas das recentes aplicações da tecnologia em nossas vidas decorrem de algoritmos, que se baseiam em dados e correlações normalmente sigilosos e sem qualquer transparência, motivo pelo qual podem utilizar informações incorretas ou falsas, bem como se prestar a reproduzir correlações que não correspondem a causalidades e, o que é mais grave, a reproduzir correlações que podem ser frutos de discriminações e uma série de injustiças da vida social14. Por outro lado, na medida em que são elaborados por homens, é inequívoco que se pode transpor para as fórmulas dos algoritmos uma série de vieses e problemas cognitivos humanos, os quais, diante da falta de transparência, não terão como ser objeto do devido escrutínio social, da crítica e do aprimoramento.
A falta de transparência é ainda mais reforçada quando se sabe que tais algoritmos são aperfeiçoados a partir da inteligência artificial, por meio da qual, com a aprendizagem automática e com as redes neurais artificiais, mais e mais algoritmos se desenvolvem independentemente, aprimorando a si mesmos e aprendendo com os próprios erros. E, o que é pior, na ausência de transparência quanto aos dados, critérios e correlações utilizados, os resultados práticos da aplicação de tais algoritmos computacionais podem ser insuscetíveis de um devido controle por parte do direito.
Todas essas tensões e desafios projetam-se sobre a regulação jurídica, que tem como um dos objetivos básicos assegurar a integração social. Para isso, é fundamental identificar as fontes e os titulares de poder, atribuindo-lhes as respectivas responsabilidades, a fim de evitar abusos e assegurar um mínimo de equilíbrio e de coesão social.
O grande desafio da sociedade tecnológica e da informação é encontrar soluções que estimulem a inovação, sem se deixar seduzir pelo discurso traiçoeiro do determinismo tecnológico, que muitas vezes apenas mascara o determinismo econômico. Há de se manter canais constantes de reflexão, crítica e controle social sobre as tecnologias que estão sendo utilizadas em nossas vidas, pois a inovação não é nem pode ser incompatível com a democracia. Da mesma maneira, a tecnologia pode e deve ser utilizada para ampliar a autonomia dos cidadãos e não para reduzi-los a um papel passivo e amesquinhado.
Dessa forma, a tecnologia não pode ser pensada apenas a partir da satisfação dos consumidores e do crescimento econômico, mas também deve ser pensada a partir das condições de realização da cidadania e do crescimento econômico inclusivo e sustentável. Afinal, a inovação não é nem neutra nem necessariamente benéfica15, devendo ser submetida ao escrutínio social em face dos valores adotados por cada sociedade e também em âmbito global.
Por todas essas razões, subsiste ainda importante espaço para a regulação jurídica, não apenas no âmbito doméstico, mas também no âmbito internacional, sem a qual dificilmente tais propósitos de emancipação e valorização da condição humana serão alcançados.
É certo que, para isso, será necessária uma completa revisitação de categorias jurídicas, como a propriedade intelectual. Também não se discute que, em muitos casos, novas categorias deverão ser criadas, assim como novas alternativas de regulação deverão ser implementadas.
Entretanto, o mais urgente é que haja uma reflexão crítica a respeito das finalidades da tecnologia, de quem deve decidir os conflitos a ela inerentes e de que maneira, bem como para que finalidades ela se presta. Sem isso, a solução de vários dos problemas apontados pode se mostrar precipitada, casuística ou facilmente suscetível de captura pelos interesses econômicos. Cabe, portanto, aos juristas maior protagonismo nesses problemas, a fim de encontrar propostas e instrumentos jurídicos que possam transformar as dificuldades apontadas em possibilidades de ação que contribuam para a democracia e a valorização da vida humana.
1 Ver: SOUZA, Carlos Afonso. O debate sobre personalidade jurídica para robôs: Errar é humano, mas o que fazer quando também for robótico? Disponível em: <https://jota.info/artigos/o-debate-sobre-personalidade-juridica-para-robos-10102017>
2 Ver: GAZETAWEB, Arábia Saudita torna-se primeiro país a conceder cidadania para um robô. Disponível em: <http://gazetaweb.globo.com/portal/noticia/2017/10/arabia-saudita-torna-se-primeiro-pais-a-conceder-cidadania-para-um-robo_43149.php>.
3 GENTILE, Fabio da Rocha. Advocacia artificial, meu caro Watson? Análise da inserção da inteligência artificial no universo da advocacia. Disponível em: < https://jota.info/artigos/advocacia-artificial-meu-caro-watson-01042017>
4 Ver: PRATA DE CARVALHO, Angelo Gamba. Juristas e ludistas no século XXI: a realidade e a ficção científica do discurso sobre o futuro da advocacia na era da informação. In: FERNANDES, Ricardo Vieira de Carvalho; COSTA, Henrique Araújo; PRATA DE CARVALHO, Angelo Gamba. Tecnologia jurídica e direito digital. Belo Horizonte: Fórum, 2017.
5 WAKEFIELD, Jane. Os usos sexuais de robôs que estão preocupando os cientistas. BBC Brasil. Disponível em: ,http://www.bbc.com/portuguese/internacional-40564247>.
6 CHOI, Charles Q. Casamento entre humanos e robôs? Uma entrevista com David Levy. Scientific American Brasil. Disponível em: <http://www2.uol.com.br/sciam/reportagens/casamento_entre_humanos_e_robos__uma_entrevista_com_david_levy.html..
7 FRAZÃO, Ana. Economia do compartilhamento e tecnologias disruptivas: a compreensão dos referidos fenômenos e suas consequências sobre a regulação jurídica. Disponível em: <https://jota.info/colunas/constituicao-empresa-e-mercado/economia-do-compartilhamento-e-tecnologias-disruptivas-14062017>.
8 WICHOWSKI, Alexis. Net states tule the world; we need to recognize their power. Disponível em: < https://www.wired.com/story/net-states-rule-the-world-we-need-to-recognize-their-power/>
9 Ver: WARMAN, Matt. Apple goes public on privacy policy. The telegraph. Disponível em: <http://www.telegraph.co.uk/technology/apple/11102870/Apple-goes-public-on-privacy-policy.html>.
10 CASTELLS, Manuel. Communication power. Oxford: Oxford University Press, 2013.
11 AKERLOF, George A.; SHILLER, Robert J. Phishing for phools: the economics of manipulation and deception. Princeton: Princeton University Press, 2015.
12 THALER, Richard. Misbehaving: the making of behavioiral economics. Nova Iorque: W. W. Norton & Company, 2015.
13 FRAZÃO, Ana. Tecnologia e regulação dos "novos serviços": Regulação dos novos serviços requer harmonia e coerência com a regulação dos serviços. Disponível em: <https://jota.info/colunas/constituicao-empresa-e-mercado/tecnologia-e-regulacao-dos-novos-servicos-06102016>
14 FRAZÃO, Ana. Dados, estatísticas e algoritmos: perspectivas e riscos da sua crescente utilização. Disponível em: < https://jota.info/colunas/constituicao-empresa-e-mercado/dados-estatisticas-e-algoritmos-28062017>.
15 FRAZÃO, Ana. Inovação predatória? Novos horizontes para o abuso da propriedade intelectual a partir do diálogo com o Antitruste. Disponível em: < https://jota.info/colunas/constituicao-empresa-e-mercado/inovacao-predatoria-06092017>.
Ana Frazão – Advogada. Professora de Direito Civil e Comercial da UnB. Ex-Conselheira do CADE.
&ev=PageView&noscript=1&cd%5Bpost_category%5D=Artigos%2C+Direito+%26+Tecnologia&cd%5Bpage_title%5D=Premissas+para+a+reflex%C3%A3o+sobre+a+regula%C3%A7%C3%A3o+da+tecnologia&cd%5Bpost_type%5D=post&cd%5Bpost_id%5D=672&cd%5Bplugin%5D=PixelYourSite&cd%5Buser_role%5D=guest&cd%5Bevent_url%5D=ab2l.org.br%2Fobservatorio-ab2l%2Fpremissas-para-reflexao-sobre-regulacao-da-tecnologia%2F" alt="facebook_pixel">