Direito Digital

O uso de inteligência artificial em soluções tecnológicas está cada dia mais comum, tanto que nem estranhamos tanto quando um aplicativo de celular ou serviço online diz que sua solução é baseada em IA. A utilização dessas informações deve ser orientada por alguns parâmetros e a adesão dos agentes de tratamento de dados a tais parâmetros é o chamado compliance. Sobre o tema que inspira esse episódio, tive a oportunidade de escrever um artigo, em co-autoria com o querido Rodrigo Dias de Pinho Gomes, que foi publicado no livro “Compliance e Políticas de Proteção de Dados”, organizado pela professora Ana Frazão e o ministro do STJ, Ricardo Cueva.

Como foi muito bem apontado pela professora Caitlin Mulholland no artigo, o compliance pode ser compreendido como a adesão dos agentes de tratamentos de dados a padrões, normas (quer sejam leis ou normas do mercado ou mesmo das organizações) aos princípios de boa governança e aos padrões éticos e sociais comumente aceitos. Na perspectiva do uso de sistemas de inteligência artificial para o tratamento dos dados pessoais, o compliance é essencial para a garantia de que os princípios da LGPD e as garantias constitucionais fundamentais não sejam violadas.

Afinal de contas, de quais riscos estamos falando? Quando nos referimos ao tratamento de dados realizado por sistema de inteligência artificial, existe um conjunto de programas e técnicas utilizadas e uma das mais frequentes é o aprendizado por máquina, também conhecido como machine learning. Nessa modalidade, o programa recebe um universo de dados, faz correlações e alcança determinados resultados através de processos dedutivos e análises estatísticas.

Um dos problemas, nesse caso, é a falta de transparência sobre o padrão de correlações que o sistema vai fazer a partir dos dados ou a segurança das informações utilizadas como base do programa. Em um mundo em que as soluções tecnológicas estão tomando cada vez mais espaço, as decisões que são tomadas utilizando como referência as informações de IA podem ser o vetor determinante para a negação de direitos, a condenação em processos ou a modulação da realidade humana a partir das nossas escolhas. Plataformas como Amazon, Google e Facebook trazem sugestões de compra e de conteúdo geradas a partir da análise dos nossos perfis e alinhadas a seus interesses econômicos e políticos.

Nesse contexto, a adesão desses agentes a programas de governança de dados e adequação dos sistemas aos parâmetros traçados na LGPD são essenciais. Além do princípio da transparência, os princípios da finalidade, necessidade e qualidade dos dados são determinantes para a construção de modelos transparentes na tomada de decisão de IA.

Nesse episódio vamos aprofundar o debate sobre as melhores práticas para a utilização de dados pessoais por sistemas de inteligência artificial. Vem com a gente.

Apresentação: Ana Frazão e Caitlin Mulholland

Produção e trabalhos técnicos: José Jance Marques

Autodenominada "Lei Brasileira de Liberdade, Responsabilidade e Transparência na Internet", o projeto de Lei 2630 de 2020 se propõe a regular o modelo de negócio na internet, focando, especialmente, nas redes sociais, serviços de mensageria privados e sistemas de busca e indexação. A proposta traz medidas que, em tese, diminuiriam a disseminação de notícias falsas e aumentariam as chances de punições aos seus responsáveis. O Projeto nasceu no Senado Federal e seguiu para a Câmara. Na Casa revisora, sofreu várias alterações. A proposta gera intenso debate entre diversos agentes políticos e econômicos, como parlamentares, big techs e organizações não-governamentais. De tão polêmica, a proposta é criticada por todos os lados.

O governo critica a proposta porque ela facilitaria a remoção de conteúdos veiculados em massa, uma estratégia muito utilizada pela rede bolsonarista. Por sua vez, as empresas de tecnologia criticam as interferências em seus modelos de negócio, já que a proposta dificulta o uso de dados de usuários para publicidade digital, sua principal fonte de renda. Já as ONGs veem com preocupação os trechos que estendem a imunidade parlamentar para as suas redes sociais e os que preveem a remuneração de veículos jornalísticos pelo conteúdo veiculado nas redes.

Sem dúvida, a proposta traz mudanças substanciais à dinâmica como as pessoas, empresas, agentes políticos e econômicos lidarão com as plataformas digitais. No campo político, há a sugestão de extensão da imunidade parlamentar aos conteúdos veiculados nas redes sociais. Outra medida prevista impede a monetização de canais institucionais e de políticos com mandatos, na esteira da discussão sobre o caso Gabriel Monteiro, vereador do Rio de Janeiro que, teoricamente,  produzia conteúdos com recursos públicos e tinha seu canal monetizado.

No campo econômico há preocupações sobre como as novas regras de publicidade podem impactar os modelos de negócios das plataformas de redes sociais, que possuem sua arquitetura baseada na gestão de dados pessoais. Além disso, a proposta prevê que as plataformas de busca, de redes sociais e os aplicativos de mensageria privado deverão publicar relatórios periódicos com informações sobre a quantidade de usuários ativos, inativos, desativados, remoções de conteúdo e outras sanções aplicadas por infrações às normas de uso.

A proposta tem potencial de impactar de forma revolucionária a forma como utilizamos as soluções digitais no Brasil, mas será que todas essas mudanças são boas? Quais os riscos dessas propostas? Quais as chances de aprovação em um ano eleitoral? Essas e outras perguntas serão debatidas no episódio de hoje.

Apresentação: Ana Frazão e Caitlin Mulholland

Produção e trabalhos técnicos: José Jance Marques

A inteligência artificial é um dos motores do desenvolvimento econômico em um mundo cada vez mais automatizado.  Ela está em quase todos os lugares, desde o algoritmo da plataforma de rede social que escolhe o conteúdo que aparece no seu feed, passando pela assistente virtual que acompanha suas atividades, até o reconhecimento facial nos aeroportos ou em cirurgias feitas por robôs. Apesar de já estarmos bem familiarizados com as ditas facilidades que a IA traz, não existe no Brasil, ainda, uma lei específica sobre o tema.

O Governo Federal ensaiou a construção de um documento que traça os parâmetros da Inteligência Artificial no Brasil, a chamada ESTRATÉGIA BRASILEIRA DE INTELIGÊNCIA ARTIFICIAL, mas especialistas a criticam por ser sucinta, superficial e não ter os componentes essenciais que a transformariam numa estratégia de fato, com planejamento, definição de prioridades, metas, orçamento etc.

O Legislativo tem avançado sobre o tema. No Senado Federal,  foi criada uma comissão de juristas que auxiliará os senadores na composição de um substitutivo aos Projetos de Lei 5.051/2019, 21/2020 e 872/2021, que visa determinar princípios, regras, diretrizes e fundamentos para regular o desenvolvimento e a aplicação da Inteligência Artificial (IA) no país. O ministro do Superior Tribunal de Justiça (STJ) Villas Bôas Cueva. foi designado para presidir a comissão. O grupo contará com grandes pesquisadores do tema, incluindo a nossa queridíssima professora Ana Frazão, que apresenta este podcast junto comigo.

Entre esses, o projeto mais debatido e polêmico é o PL 21/2020, que estabelece a definição do sistema de inteligência artificial e traça os objetivos  e fundamentos de sua regulação. Nele estão presentes princípios  para o desenvolvimento de inteligência artificial, bem como as diretrizes para a regulamentação complementar pelo poder público e também as competências para a aplicação e supervisão.

Um dos trechos mais polêmicos do projeto é a responsabilidade dos agentes que atuam na cadeia de desenvolvimento de inteligência artificial. O PL, na forma aprovada na Câmara dos Deputados até então, propõe a responsabilidade subjetiva para esses agentes. No entanto, pesquisadores e autores sobre o  tema apontam que a falta de simetria informacional entre os desenvolvedores e os usuários da tecnologia torna a responsabilização impossível.  Por outro lado, os desenvolvedores apontam que a responsabilidade objetiva também traria riscos substanciais a esses agentes e traria prejuízos ao desenvolvimento tecnológico do Brasil.

Outro ponto de embate na discussão sobre regulação de inteligência artificial é a transparência. Já conversamos em outros episódios sobre a importância de se garantir, com algum nível de inteligibilidade, a possibilidade de auditoria dos algoritmos de inteligência artificial a fim de se evitar eventuais vieses discriminatórios na programação. Os desenvolvedores recorrem ao argumento de segredo industrial e apontam a transparência como um risco aos negócios.

Há debates importantes sobre esse tema ocorrendo em grandes centros de desenvolvimento tecnológico, como a China, Europa e os Estados Unidos e o parâmetro  de transparência e controle adotado por esses players pode impactar na forma como as programações são feitas e como os outros países vão usar esses sistemas. Diversos organismos internacionais também estão de olho na regulação de inteligência artificial, em especial nas normas sobre reconhecimento facial, veículos e armas autônomas. Esses e outros aspectos serão debatidos no episódio de hoje.

Enquanto as redes sociais e os agentes econômicos colecionam dados relacionados aos nossos hábitos de consumo, o governo concentra a maior parte dos dados sensíveis a respeito de cada um de nós. Informações como CPF, RG, CNH, fotos, endereço, filiação, renda, tributos, transações bancárias... enfim, o  universo de dados que o Estado detém é impressionante. Esses dados podem estar alocados em bases da prefeitura, secretarias municipais, estaduais, ministérios, autarquias; ou também transitar entre diversos entes públicos.

Ficha Técnica:

Apresentação: Ana Frazão e Caitlin Mulholland

Produção e trabalhos técnicos: José Jance Marques

O Open Banking, também conhecido como Sistema Financeiro Aberto, é um sistema de compartilhamento de dados financeiros de forma padronizada entre as instituições bancárias. Em uma única plataforma integrada, as diferentes instituições financeiras têm acesso a dados de clientes para oferecer produtos e serviços personalizados e mais vantajosos para cada caso. 

O Open Banking parte da base legal na LGPD, mas avança sobre a sua implementação no dia a dia do sistema financeiro. Enquanto a LGPD é uma legislação voltada para proteger a privacidade das pessoas naturais em qualquer ramo de atividade, o Open Banking estabelece um padrão para compartilhamento desses dados e outros no contexto específico do sistema financeiro.

A segurança dos dados, a responsabilidade dos agentes financeiros, os desafios da regulação das informações são alguns dos principais desafios para o OpenBanking no Brasil e vamos debater sobre eles nesse episódio.

Ficha Técnica:

Apresentação: Ana Frazão e Caitlin Mulholland

Produção e trabalhos técnicos: José Jance Marques

Uma das características essenciais da tecnologia, em especial as plataformas de redes sociais, é sua capacidade de aproximar as pessoas. Com o Facebook, Twitter e Instagram passamos a acompanhar o dia a dia de famosos, artistas, cantores, entre tantas personalidades públicas que apenas tínhamos contato pela mídia. 

Com as redes sociais, podemos acompanhar sua rotina, em um nível de intimidade mediada nunca antes vista. Passamos a integrar a vida virtual dessas pessoas. No entanto, assim como a tecnologia trouxe essa nova integração, também criou um novo debate: o que fazer com as redes sociais de uma pessoa que falece? O que acontece se alguém posta? Esses e outros temas serão debatidos no episódio.

Ficha Técnica:

Apresentação: Ana Frazão e Caitlin Mulholland

Produção e trabalhos técnicos: José Jance Marques

Há muito tempo se falava, principalmente no contexto de filmes de ficção científica, que as máquinas substituiriam os seres humanos nos trabalho, mas nunca imaginamos que elas poderiam se tornar os nossos chefes. Já vivemos em uma sociedade na qual quem contrata e quem demite são as máquinas, os algoritmos, sem qualquer interferência humana.

Em agosto de 2021, a Xsolla (quisôla), uma filial russa de uma empresa americana, demitiu, sem aviso prévio, um terço de seus funcionário, 150 dos 450 pessoas que trabalhavam em seus escritórios foram mandados embora por conta da recomendação de um algoritmo de eficiência no trabalho que os considerou “improdutivos” e “pouco comprometidos” com os objetivos da empresa. A Inteligência artificial levou um segundo para decidir o destino dessas pessoas.

Todo esse debate gera uma série de dúvidas sobre a neutralidade dos algoritmos, a transparência, o impacto socioeconômico do uso dessas ferramentas para determinados estratos sociais, como as mulheres e populações também marginalizadas dos espaços de criação e desenvolvimento. Nesse episódio, vamos discutir esses e outros temas que se correlacionam com o assunto e vamos trazer convidadas especiais para contribuir com o debate.

Apresentação: Ana Frazão e Caitlin Mulholland

Produção e trabalhos técnicos: José Jance Marques

O sequestro de informações da página da rede de lojas Renner reacendeu o debate sobre cybersegurança, vazamento e sequestro de dados. Na tarde do dia 19 de agosto deste ano, os sistemas de gerenciamento das Lojas Renner, incluindo o site de e-commerce da varejista, colapsaram. Tudo indica que um invasor sequestrou os dados da empresa por meio de um ataque de ransomware, e se valeu de uma extorsão de 1 bilhão de dólares para liberação dos arquivos.

Além dos danos à imagem e os prejuízos financeiros decorrentes destes ataques, as empresas ainda ficam suscetíveis a penalizações das agências reguladoras, como a ANPD por conta da falha de segurança. A Renner, por exemplo, já foi intimada pelo Procon/SP para prestar esclarecimentos sobre o processo de criptografia aos dados dos clientes, bem como a maneira de armazenamento deles e se existe alguém na função de Encarregado de Dados, como está previsto na LGPD.

No episódio de hoje vamos discutir os cuidados que as empresas devem tomar para prevenir ataques e como devem se organizar no caso de um eventual episódio para mitigarem os danos.

Ficha Técnica:

Apresentação: Ana Frazão e Caitlin Mulholland

Produção e trabalhos técnicos: José Jance Marques

A Lei Geral de Proteção de Dados, que estabelece regras sobre os uso dos dados pessoais dos brasileiros, foi aprovada em 2018 e está em vigor desde setembro de 2020. Mas só a partir do dia 1º de agosto de 2021 é que a sanções poderão ser aplicadas pela Autoridade Nacional de Proteção de Dados (ANPD) a quem descumprir a lei.

Essa diferença no prazo foi determinado  pelo Congresso para dar tempo para as empresas se adequarem à LGPD e para que a ANPD, órgão ligado à Presidência da República e formado em outubro de 2020, pudesse se estruturar e regulamentar algumas regras. Todas as organizações, públicas ou privadas, que fazem coleta, uso e compartilhamento de dados pessoais precisam se adequar às normas da lei. Mas isso está longe de ser um processo simples.

Existem várias etapas nesse processo, desde a formação de um comitê de adequação, passando pelo mapeamento do fluxo dos dados e o embasamento legal de cada um deles até a adequação de contratos e políticas de transparência e governança dos dados.

Apresentação: Ana Frazão e Caitlin Mulholland

Produção e trabalhos técnicos: José Jance Marques

Já imaginou ir pro aeroporto e não precisar mais passar por aquelas longas filas dos processos de embarque? O Aeroporto de Congonhas, em São Paulo promete acelerar essa espera e vai estrear um sistema de reconhecimento facial dos passageiros para os voos com destino ao Aeroporto Santos Dumont, no Rio de Janeiro. Na mesma época, a Polícia Federal anuncia a aquisição de um sistema de reconhecimento facial, que permitiria a 'identificação de pessoas com coleta, armazenamento e o cruzamento de dados da impressão digital e o reconhecimento facial'. 

Iniciativas parecidas na Europa e nos Estados Unidos sofreram uma série de críticas, principalmente por conta dos vieses e falta de transparência dos algoritmos usados no reconhecimento facial dos cidadãos. Em alguns casos, a precisão do reconhecimento varia de acordo com a cor da pele do usuário. No Reino Unido, onde um sistema parecido foi utilizado, houve casos de crianças sendo confundidas com terroristas. Quais os limites éticos e legais para o uso dessas ferramentas? Como garantir a segurança dos dados e a privacidade das pessoas? Esses e outros aspectos vamos debater no episódio de hoje.

Apresentação: Ana Frazão e Caitlin Mulholland

Produção e trabalhos técnicos: José Jance Marques