Disclaimer: Esse post tem o intuito de refletir e apresentar algumas críticas (perspectivas) a uma palestra sobre ética na Inteligência Artificial que participei. O único intuito é apresentar ideias e enriquecer o debate que julgo crucial para sociedade, com isso, não tenho nenhuma pretenção de julgar pessoalmente ninguém muito menos desmerecer o trabalho feito, pelo contrário, refletir a partir da obra e do que foi discutido.
Introdução
Recentemente, tive a oportunidade de participar de uma palestra do pesquisador Mark Coeckelbergh, autor do livro Ética na Inteligência Artificial (AI Ethics, 2020) que também pude ler recentemente. A palestra em questão tinha o tema "IA e os desafios éticos e sociais" que abrangia muito do que é debatido no livro e perpassava por discussões relevantes mais recentes que não foram sistematicamente abordados no livro, dada sua época, como por exemplo os modelos LLM (Large Language Models). Dentre os temas abordados, podemos citar alguns como:
- IA e privacidade
- transparência
- regulação
- vigilância
- desinformação
- crise climática
O debate também incluiu Fernanda Martins, diretora de P&D do Internet Lab (mediadora do debate), Renata Mielli, coordenadora do comitê gestor da internet no Brasil (CGI) e Diogo Cortiz, professor pela PUC-SP, ambos atores relevantes para o tema do ponto de vista político e técnico.
Não vou fazer uma análise aprofundada porque acredito ter sido uma apresentação e um debate interessantes do ponto de vista de tópicos abordados e problemáticas apontadas tanto por Mark quanto pelos demais participantes. Portanto, gostaria de apenas destacar 3 pontos que julgo importantes para destacar e aprofundar nessa crítica.
Ideal em democracia burguesa
Toda fala do autor relativa a ideia de fazer "democracias" mais fortes se centra nos conceitos de democracia liberal sem levar em consideração que se trata de uma democracia burguesa, que por sua vez, no capitalismo tem um viés de classe claramente voltado a fortalecer os detentores do capital. Por sua vez, a própria democracia burguesa já é origem por si só de muitos dos problemas que se delega apenas para o escopo de uma "ética de IA" e fazer "democracias mais fortes" não solucionariam por si só a problemática oriunda materialmente do sistema político/econômico em questão.
Em certo ponto da palestra, Mark apresenta um slide que ressalta entre os pontos importantes de tornar a democracia mais forte a necessidade de "questionar o capitalismo e a propriedade privada", no qual eu concordo totalmente. No entanto, tanto na fala quanto no livro eu senti muita falta da ampliação desse debate e suas respectivas problemáticas e possíveis caminhos para esse enfrentamento tão crucial para essa finalidade.
Supressão de tecnologias soberanas nacionais
um dos pontos levantados pela Renata Mielli que eu achei fundamentais para o debate, especificamente para o debate interno brasileiro e outras nações de capitalismo dependente, foi a questão da dificuldade de regulamentar desenvolvimento dada a baixa capacidade de desenvolvimento de tecnologias de IA nacionais, restando apenas a customização de modelos existentes produzidos fora do país.
Nesse sentido, o fortalecimento econômico e o avanço (ou até uma perspectiva de avanço) tecnológico com intuito claro e fundamental na criação de um pólo nacional forte no desenvolvimento e aplicação de IAs para países do sul global se mostra como grande ameaça para os países do norte global que os vêem apenas como mercado consumidor, impossibilitam assim sua emancipação e atacando suas soberanias.
Obviamente, isso não se dá de forma direta, mas muitas vezes de forma implícita aos mecanismos funcionais da democracia liberal burguesa que fortalece monopólios e concentração de poder político, que se torna poder econômico, altamente focalizado no norte global.
Nesse tema, Diogo Cortiz apresentou outro ponto para o debate que também que foi o "Dilema da economia política". A ideia central é a dinâmica no qual plataformas fechadas das Big Techs usam nossos dados (mas o mesmo serve para os outros países de capitalismo dependente) para treinar modelos especializados na nossa língua com a justificativa de garantir calibração adequada para o nosso uso. Essa dinâmica, alinhada com políticas contínuas de desincentivo e sucateamento da ciência no Brasil claramente nos torna em refém das Big Techs. Isso sem falar no papel bizarro de criação de insumos valiosos (dados de cidadãos brasileiros) para empresas privadas do norte global sem contrapartida.
Por fim, a falta de iniciativas, no mínimo, reformistas dos governantes desses países do sul global para contestar esse status quo que esmaga o desenvolvimento tecnológico local, também contribuem para essa baixa capacidade tecnológica nacional para soberania em IA dos países do sul global.
Falta de mecanismos de incentivo
Apesar de gostar muito do tema de Ética na Inteligência Artificial, acredito que muitas vezes o foco é muito em pensar em princípios ou um conjunto de ideias que norteiem a produção, disseminação e uso de IAs; mas pouco entender e descrever quais seriam os incentivos em um mundo capitalista para a adoção desses princípios.
Sem mecanismos de incentivo, estes princípios tornam-se ineficazes e podem ser facilmente anulados por incentivos econômicos, reduzindo-os a meras ferramentas de marketing em vez de orientações eficazes para um comportamento ético desejado e esperado dos atores envolvidos nesse ecossistema. Colocar esses princípios de uma AI Ética como substituto ou menos importante que políticas de regulação, que irão efetivamente delinear mudanças políticas práticas no uso dessa tecnologia, parece um tanto quanto wishful thinking.
Similarmente, esse pensamento me lembra a forma com que algumas empresas Big Tech adotaram a criação de grupos minorias sub-representadas e.g. LGBTQIA+, pretos, PCDs; mas sem muní-los com qualquer tipo de poder para efetivamente colocar seus interesses em pauta nas decisões estratégicas das empresas. Não diria uma ineficiência programada, porque acredito que no campo de Ética nas IAs existe um trabalho sério e bem intencionado para resolução e estudo das implicações existentes e possíveis relacionadas a essa tecnologia, mas acredito que uma expansão do debate que vá para o campo político de incentivos que possibilitem efetivamente o uso desses princípios se faz mais que necessário.
Quem faz um debate extenso e interessante sobre esse tópico é o pesquisador da University of Queensland, Luke Munn no artigo The uselessness of AI ethics (2022), por isso deixo o link do estudo ao final como referência.
Considerações finais
De forma geral, foi um debate muito produtivo e cheio de questões interessantes para a discussão central das implicações éticas e sociais do uso ético das IAs em nossa sociedade. Espero ter contribuído em algum nível na ampliação desse debate que acho imprescindível para uma sociedade que consiga socializar os imensos frutos dos avanços tecnológicos da IA.
Link para palestra: .
Top comments (0)