A narrativa podia ser tirada de um filme de ficção científica ou de uma distopia: o primeiro-ministro da Albânia, Edi Rama, anunciou esta semana a nomeação de Diella, sol em albanês, uma ministra virtual que tem a missão de liderar a luta contra a corrupção no país. Criada com base na inteligência artificial, Diella não tem corpo, nem ligações políticas e é alimentada por dados, algoritmos e promessas de transparência.
Num país onde a confiança nas instituições é frágil, a chegada de uma ministra digital é vista como um avanço inevitável, numa Albânia que ambiciona a entrada na União Europeia, mas pode também representar o início de um regime onde a tecnologia se torna um instrumento de controlo, levantando dúvidas sobre os limites entre vigilância e governação. Arilindo Oliveira, especialista português em inteligência artificial, reconhece o potencial da inteligência artificial como apoio à governação, no entanto considera prematuro atribuir-lhe funções executivas e alerta para os riscos tecnológicos, legais e institucionais envolvidos.
A Albânia nomeou esta semana uma ministra virtual para lutar contra a corrupção no país. Que mensagem envia o primeiro-ministro Edi Rama, com esta nomeação? A inteligência artificial vai acabar por governar o mundo?
É um pouco surpreendente, mesmo para quem tem acompanhado os avanços da inteligência artificial. Penso que já seria possível termos membros virtuais em conselhos de administração, por exemplo, que fizessem contribuições para uma decisão colegial. Mas daí a conferir autoridade a um ministro - mesmo que virtual - ao nível do conselho mais alto de um país, parece-me ser demasiado optimismo relativamente ao poder actual da tecnologia. Provavelmente, esta decisão é impulsionada pela desconfiança que as pessoas têm nos políticos, fazendo crer que a questão da corrupção não poderia ser combatida por um ser humano - teria de ser uma máquina.
Quais serão as responsabilidades governamentais desta ministra?
Imagino que a ideia será um sistema que permitirá analisar denúncias e outros tipos de dados coligidos pela polícia e por sistemas de investigação e agir de uma maneira imparcial relativamente a denúncias e, eventualmente, definir políticas anti-corrupção. Eu sei que já houve candidatos que eram sistemas de inteligência artificial a eleições noutros países, mas que eu saiba, não foram eleitos.
Sim, aconteceu no Japão...
Sim e nalguns países da Escandinávia, mas agora este caso é diferente. Se a ideia é que esta entidade vai participar em decisões colegiais do Conselho de Ministros, poder propor legislação e ações específicas, é de facto, um passo muito grande em frente no uso da tecnologia de inteligência artificial. E eu até temo que seja uma experiência demasiado atrevida. Parece-me duvidoso que os sistemas existentes tenham capacidade de fazer a análise de dados, ao nível exigido ao nível de um Conselho de Ministros de um país.
Diella tinha sido, até agora, uma assistente digital: aconselhava os cidadãos sobre como navegar nos serviços governamentais em linha. Mas agora assume funções governamentais...
O que já é um passo mais significativo.
Passar de uma função informativa para uma nomeação em que pode - ou não - contribuir para o combate à corrupção no país levanta outra questão: estará o primeiro-ministro albanês a ser excessivamente ambicioso?
Eu diria que sim - que estamos a ser demasiado ambiciosos. Tenho dúvidas de que, no estado actual da tecnologia, um sistema deste tipo consiga tomar decisões, fazer propostas acertadas ou definir políticas eficazes com base na informação que lhe é fornecida.
Há, no entanto, uma vantagem: se o sistema tiver sido bem configurado, não terá interesses próprios nesta matéria. E, nesse sentido, poderá de facto estar a fazer o seu melhor para combater a corrupção.
Agora, se esse "melhor" - ou melhor dizendo, o melhor que a tecnologia consegue - será suficiente para garantir medidas anticorrupção eficazes, isso é outra questão. É, sem dúvida, uma experiência que acompanharei com atenção e interesse.
Quais são os riscos de confiar num sistema destes?
Os maiores riscos são que o sistema não tenha capacidade para tomar decisões ou fazer as abstracções necessárias para propor legislação eficaz, abrir processos ou executar outras acções indispensáveis no combate à corrupção.
Mas esses riscos não são muito maiores do que os de não fazer nada. A verdade é que, se a corrupção continua a existir, é porque também o combate contra ela não tem sido eficaz. Por isso, considero esta tentativa interessante. A ideia de desligar as pessoas e os seus interesses pessoais - especialmente em países onde há elevados níveis de corrupção - pode ser um mecanismo com potencial.
Todavia, não me parece que deva ser o primeiro passo. Talvez fosse mais sensato começar por aprovar um conjunto de legislação bem estruturada e, depois, verificar se essa legislação está a ser implementada correctamente. Essa já me pareceria uma tarefa mais adequada para um sistema deste tipo, desde que devidamente instruído ao mais alto nível - onde a responsabilidade passa por propor legislação e acções concretas.
Confesso-me um pouco céptico. Mas enfim, estes temas às vezes surpreendem-nos pela positiva. Pode ser que corra bem. Vamos ver se a Albânia dá, de facto, um salto nas medidas e nos rankings internacionais de corrupção. Se nos próximos anos a evolução for positiva, talvez se comprove que esta abordagem foi a correcta - embora eu, francamente, continue a ter algumas dúvidas.
No ano passado, a Albânia ficou classificada no 80.º lugar entre 180 países no Índice de Corrupção. O país está também a tentar aderir à União Europeia. Acha que esta nomeação poderá ter sido uma tentativa de enviar um sinal político à União Europeia, mostrando que está a tentar combater a corrupção?
É bem possível que sim. Por outro lado, importa fazer uma nota sobre esses índices. Penso que o índice a que se refere é o Índice de Percepção da Corrupção - e esse não é, na verdade, um índice da corrupção em si, porque medir a corrupção de forma objectiva é extremamente difícil. Trata-se de um índice da percepção pública da corrupção: ou seja, as pessoas são inquiridas sobre qual é a sua percepção relativamente à presença de corrupção no seu país.
Desse ponto de vista, tudo começa com a percepção. E, até certo ponto, uma medida como esta - nomear um ministro virtual - pode funcionar bem se as pessoas acreditarem que este tipo de solução tecnológica é eficaz no combate à corrupção. A percepção que têm da situação pode melhorar significativamente, apenas pelo facto de a medida ter sido tomada.
Estes índices são falíveis nesse aspecto: não medem directamente os níveis reais de corrupção, nem os montantes de fundos desviados, nem a eficácia das instituições judiciais. O que medem é a percepção pública. Portanto, não estão totalmente alinhados com a realidade factual da corrupção no país. Dito isto, se a reacção pública a esta iniciativa for positiva, a Albânia poderá, de facto, subir alguns lugares no ranking, mesmo que os níveis reais de corrupção não tenham mudado de forma significativa.
A utilização da inteligência artificial em governos pode vir a ser um modelo a seguir por outros países, numa altura em que há uma crescente descredibilização da classe política?
Eu pensaria que faria mais sentido utilizar estes sistemas como ferramentas de apoio e aconselhamento aos governos - uma espécie de peritos virtuais, por assim dizer. Em determinadas áreas de especialidade, poderiam elaborar relatórios, apresentar documentos, e até propor medidas, colocando essas propostas ao nível da decisão política. Mas isso não é o mesmo que lhes conferir poder de decisão - e não é isso que está a ser feito, pelo menos na maioria dos casos.
Quanto à nomeação de um “ministro”, se é que se pode chamar-lhe exactamente isso, parece-me que se trata não só de uma iniciativa arriscada, face ao actual estado da tecnologia, mas também de uma medida que colide com alguns princípios fundamentais, nomeadamente os previstos no Regulamento da Inteligência Artificial da União Europeia.
Esse regulamento estipula, de forma clara, que as decisões finais devem ser sempre tomadas por seres humanos. Por isso, o princípio de colocar sistemas de inteligência artificial em posições onde possam ter responsabilidade final - ou mesmo de apresentar propostas com força política directa - não me parece compatível com o enquadramento legal e ético da União Europeia. E provavelmente também não será compatível com os princípios que muitos outros países virão a adoptar nos próximos anos. Pelo menos, assim esperamos.
A verdade é que uma ministra virtual não precisa de férias, nem tem regalias…
Claro, é verdade. E não tem salário - logo, os custos são muito reduzidos. Existem algumas vantagens óbvias. Mas, quer dizer, o próximo passo seria então formar um governo composto inteiramente por ministros de inteligência artificial. E, nesse cenário, talvez só fosse necessário manter um primeiro-ministro humano.
Penso que ainda é um pouco cedo para dar passos tão ambiciosos. Mas não deixa de ser interessante acompanhar os resultados destas experiências.
Há também dúvidas sobre os limites entre a vigilância e a governação.
Sim, sem dúvida. Há vários factores que influenciam a corrupção. Por um lado, o próprio nível de vida dos países afecta bastante a incidência da corrupção - porque, em contextos com maior bem-estar económico, a necessidade de recorrer à corrupção tende a ser menor.
Depois, há também factores culturais e institucionais. A estabilidade das instituições e a confiança que os cidadãos depositam nelas são fundamentais. A corrupção não está ligada apenas ao comportamento individual, mas à resiliência e fiabilidade do próprio sistema institucional.
Se a utilização de sistemas de inteligência artificial - teoricamente mais objectivos - ajudar a recuperar a confiança nas instituições, então pode ser uma medida positiva. Mas penso que são passos que devem ser dados com prudência, de forma gradual, e analisando cuidadosamente cada resultado intermédio, antes de avançar para fases seguinte.