Essas tecnologias são de alto risco, e as big techs têm tentado fugir dessa responsabilização
Aprovado no Senado nas últimas semanas do ano, após um acordo entre bancadas, o Projeto de Lei (PL) 239/202 da inteligência artificial (IA) deve marcar os debates na Câmara em 2025. O texto regulamenta e define diretrizes para o desenvolvimento e a aplicação da IA no Brasil.
Apesar do avanço na tramitação da norma e da aprovação em plenário em regime de urgência, as discussões entre os senadores foram marcadas por polêmicas. O PL recebeu quase 200 emendas. Uma delas diz respeito à inclusão dos algoritmos das redes sociais entre sistemas de alto risco.
O texto original previa que as ferramentas das big techs - donas das redes - deveriam ter regras mais rígidas de controle pois são destinadas à disseminação de informação em larga escala. A retirada do tema foi feita a partir de emenda de parlamentares bolsonaristas e preocupa organizações de defesa de consumidores, pois pode facilitar golpes e fraudes.
Além disso, o PL não trata diretamente de uma questão estrutural do Brasil e que também está presente nas tecnologias: o racismo. O tema é tratado na obra Inteligência Artificial Generativa: Discriminação e Impactos Sociais, disponível gratuitamente na plataforma Desvelar.
De acordo com o livro, o preconceito se manifesta em diversas etapas da IA, da coleta de dados aos resultados. As bases de dados, coletadas indiscriminadamente da internet, podem perpetuar estereótipos e vieses que refletem e reforçam discriminações existentes na sociedade.
Em entrevista ao podcast Bem Viver, do Brasil de Fato, o organizador da obra, Tarcízio Silva, afirma que a tramitação do PL falhou em não levar esses fatos em consideração. “Todo o processo de debate sobre regulação de IA no Brasil tem escanteado demandas do movimento negro”, alerta.
Na conversa, Silva também pontuou os impactos da IA na propagação de notícias falsas, chamadas popularmente de fake news e no mercado de trabalho. Ele ressaltou que os debates na câmara terão que avançar no comprometimento das empresas para conter os impactos negativos da IA.
“Essas tecnologias são de alto risco e as big techs têm tentado fugir dessa responsabilização. Esse é um problema do atual Projeto de Lei, que temos que resolver nas próximas fases de tramitação”.
Leia a entrevista na íntegra a seguir ou ouça o Bem Viver no tocador de áudio abaixo do título desta matéria.
Brasil de Fato: Quais são as reflexões presentes na obra Inteligência Artificial Generativa, Discriminação e Impactos Sociais sobre a inteligência artificial?
Tarcízio Silva: A inteligência artificial generativa, apesar de não ser uma tecnologia exatamente nova, nos últimos anos ganhou escala. Diversas grandes empresas de tecnologia lançaram seus serviços, inicialmente de forma gratuita, para literalmente acostumar consumidores e usuários a utilizar ferramentas como Chat GPT, DAULI, Gemini, etc.
Só que essas ferramentas possuem, desde a sua criação, algumas práticas problemáticas, porque a maior parte delas é baseada em dados extraídos literalmente de bilhões de pessoas, conteúdos, notícias, vídeos, ilustrações para treinar esse sistemas privatizados.
Então, durante o último ano, eu tive a oportunidade, com apoio da Fundação Mozila, de desenvolver um ciclo com cientistas da computação, juristas, ativistas sociais e comunicadores para debater esse tema. O livro é o resultado desses debates, onde algumas das pessoas convidadas, participantes dessa desse espaço, apresentaram algumas questões, que vão de meio ambiente a possibilidades de mitigação até na própria regulação de inteligência artificial.
Poderia falar sobre o conceito de “imagens de controle”, de Patricia Hill Collins, que está presente na obra? O que significa falar de racismo e discriminação na tecnologia?
Esse conceito de imagem de controle é citado pela pesquisadora Thiane Neves-Barros. Há décadas, ele tem sido utilizado para entender como os principais poderes, o capital, a branquitude e afins, representam grupos oprimidos - como as classes trabalhadoras, os grupos minoritários, comunidades negras - com representações negativas para manter essas pessoas em seus lugares, entre aspas.
Isso vai dar a noção do pobre que é pobre porque não trabalha, porque não se esforça e até a noção da pessoa negra colocada somente naquele contexto de servidão. A inteligência artificial generativa - por ser baseada no histórico dessa mídia problemática e na prática de falta de controle e de melhoria dos sistemas - tem reproduzido essas imagens de controle e essas representações negativas de grupos minorizados.
Esse é um grande problema, porque a IA generativa faz uma escala disso. Algo que argumentamos no livro é que, apesar dos avanços nos direitos humanos nas últimas décadas, a inteligência artificial generativa tem dado passos atrás, fazendo com que alguns horrores do nosso passado sejam revividos literalmente, como representação negativa de mulheres, de grupos minorizados e oprimidos pelo capital, pela branquitude e pelo imperialismo.
O projeto de lei da inteligência artificial, recentemente aprovado no Senado, não fala diretamente sobre preconceito e racismo. Mas traz elementos que podem ser usados para esse problema. Qual a importância de que um projeto de lei sobre inteligência artificial no Brasil citar diretamente essa pauta?
Todo esse esse processo de debate sobre regulação de IA no Brasil tem escanteado demandas do movimento negro.O Projeto de Lei que foi aprovado na comissão e no Senado é uma revisão de um projeto desenvolvido por jurista em 2022. Eu e outros especialistas na temática tivemos a oportunidade de participar de audiências públicas sobre o texto. Um detalhe, que está longe de ser um detalhe, é o fato de que entre os 18 juristas que fizeram essa primeira versão mais estruturada do texto não há nenhuma pessoa negra.
Isso é algo absolutamente escandaloso. Nessa última comissão, que teve como alguns dos principais atores senadores bolsonaristas, muitas das proteções foram retiradas. Atualmente, o Projeto de Lei é muito variado nas suas disposições. Há alguns avanços em termos de defesa de direitos autorais. Mas, por outro lado, mecanismos como a avaliação de impacto algorítmico estão de um modo que pode permitir que as empresas fujam da responsabilidade.
A tramitação na Câmara dos Deputados vai ser muito importante para ajustar esses erros e construir um mecanismo de participação social e de avaliação de impacto algorítmico, que efetivamente inclua especialistas e grupos vulnerabilizados nessas avaliações. Senão vai ser literalmente como a vemos na nossa história, uma lei só para inglês ver.
A inteligência artificial pode ser usada para piorar a questão das fake news. O livro traz estratégias, propostas ou tentativas de problematizar melhor essa questão para que caminhemos para a solução?
Esse é um problema muito grave, porque os sistemas de inteligência artificial generativa tem como modelo de negócio gerar conteúdo relativamente credível, que simula ser um conteúdo coerente, mas, com frequência, está cheio de desinformação relacionada às diferentes esferas da vida.
No artigo de minha autoria no livro eu cito como algumas crenças racistas na medicina, que já foram superadas no campo há muito tempo, estão sendo replicadas pela inteligência artificial generativa. É um grande problema, porque significa que avanços científicos e humanísticos da sociedade podem ser soterrados por informação literalmente errada, factualmente errada, que ninguém na medicina séria ou na saúde pública séria considera mais verdade.
Quando falamos da questão política também temos muitos riscos, tanto da informação errada quanto da informação que é oculta. Durante as eleições à prefeitura de São Paulo, foi descoberto, por exemplo, que o sistema Gemini da Google apresentava informações sobre o Ricardo Nunes (MDB), apresentava informações sobre o Pablo Marçal (PRTB), mas se recusava a apresentar informações sobre a Tábata Amaral (PSB) e sobre Guilherme Boulos (Psol), porque supostamente ele não poderia falar sobre política.
Veja só, é um sistema muito mal feito, implementado para milhões de pessoas na maior capital da América Latina, que demoniza a política, mas demoniza a política só quando ela está ligada a um progressismo ou à esquerda. Então essas tecnologias são sim de alto risco e as big techs têm tentado fugir dessa responsabilização. Esse é um problema do atual Projeto de Lei, que temos que resolver nas próximas fases de tramitação.
A obra fala sobre os impactos da inteligência artificial no mercado de trabalho. Eles já estão acontecendo?
Com certeza. Alguns grupos ligados a artistas começaram a se articular de forma mais explícita para lutar contra esses retrocessos. O livro menciona o grupo Dublagem Viva, um coletivo de dubladores que começou a ver que seus empregadores estavam colocando artigos nos contratos para utilizar as vozes deles para treinar a inteligência artificial. Eles estavam sendo pressionados a oferecer sua voz por um preço irrisório para treinar sistemas que os substituiriam no futuro.
É algo muito cruel e há outros coletivos como os movimentos Arte Viva e unidade, que têm tentado agir nessa área. Uma grande questão é que boa parte dos sistemas de inteligência artificial ganhou esse hype mas, no final das contas, eles são a tentativa do capital de eliminar trabalhadores e precarizar o trabalho.
Nesse sentido, parte da sociedade civil tem debatido que se a inteligência artificial é realmente maravilhosa, vai trazer o futuro e coisas boas para todo mundo, os relatórios de impacto algorítmico devem dizer quais são os impactos positivos. Não devem ser somente sobre impactos negativos. Vamos discutir abertamente sobre isso, de forma transparente. Boa parte do setor privado não é a favor disso.
O que, na sua opinião, é essencial e não pode faltar nessa regulamentação?
Um debate sincero sobre a questão da soberania digital quando pensamos no Brasil. Os governos Lula 1 e 2 e Dilma 1 discutiram, em alguma medida, a utilização de softwares livres de código aberto, mas isso caiu por terra na última década. Hoje, os diversos níveis do governo brasileiro são muito dependentes das Big Techs.
O Plano Brasileiro de Inteligência Artificial, que o Ministério de Ciência e Tecnologia fez a pedido do Lula este ano, dá uma ênfase enorme a soluções como a OpenAI, que a rigor é da Microsoft. Isso é um risco enorme, não só em termos econômicos, mas também em termos políticos e até em termos democráticos, uma vez que consideramos que boa parte dessas empresas no Vale Silicio estão a serviço dos interesses do governo americano.
Tanto em termos de regulação quanto em termos de fomento, é necessário discutir até que ponto empresas como Microsoft, IBM, Oracle deveriam ter o espaço que têm nesses debates. Uma vez que elas estão a serviço de interesses muito específicos, que raramente estão associados aos nossos cidadãos, nosso empresariado e nossos interesses enquanto projeto de Brasil. Então esse é um ponto que precisa ser melhor discutido, uma vez que regiões como União Europeia, China e Estados Unidos estão tendo esse debate, porque sabem que tecnologia hoje é uma questão de segurança nacional, é uma questão de futuro.
Programa Bem Viver é veiculado de segunda a sexta-feira, às 11h / Brasil de Fato/Divulgação
Sintonize
O programa de rádio Bem Viver vai ao ar de segunda a sexta-feira, das 11h às 12h, com reprise aos domingos, às 10h, na Rádio Brasil Atual. A sintonia é 98,9 FM na Grande São Paulo. A versão em vídeo é semanal e vai ao ar aos sábados a partir das 13h30 no YouTube do Brasil de Fato e TVs retransmissoras: Basta clicar aqui.
Em diferentes horários, de segunda a sexta-feira, o programa é transmitido na Rádio Super de Sorocaba (SP); Rádio Palermo (SP); Rádio Cantareira (SP); Rádio Interativa, de Senador Alexandre Costa (MA); Rádio Comunitária Malhada do Jatobá, de São João do Piauí (PI); Rádio Terra Livre (MST), de Abelardo Luz (SC); Rádio Timbira, de São Luís (MA); Rádio Terra Livre de Hulha Negra (RN), Rádio Camponesa, em Itapeva (SP), Rádio Onda FM, de Novo Cruzeiro (MG), Rádio Pife, de Brasília (DF), Rádio Cidade, de João Pessoa (PB), Rádio Palermo (SP), Rádio Torres Cidade (RS); Rádio Cantareira (SP); Rádio Keraz; Web Rádio Studio F; Rádio Seguros MA; Rádio Iguaçu FM; Rádio Unidade Digital ; Rádio Cidade Classic HIts; Playlisten; Rádio Cidade; Web Rádio Apocalipse; Rádio; Alternativa Sul FM; Alberto dos Anjos; Rádio Voz da Cidade; Rádio Nativa FM; Rádio News 77; Web Rádio Líder Baixio; Rádio Super Nova; Rádio Ribeirinha Libertadora; Uruguaiana FM; Serra Azul FM; Folha 390; Rádio Chapada FM; Rbn; Web Rádio Mombassom; Fogão 24 Horas; Web Rádio Brisa; Rádio Palermo; Rádio Web Estação Mirim; Rádio Líder; Nova Geração; Ana Terra FM; Rádio Metropolitana de Piracicaba; Rádio Alternativa FM; Rádio Web Torres Cidade; Objetiva Cast; DMnews Web Rádio; Criativa Web Rádio; Rádio Notícias; Topmix Digital MS; Rádio Oriental Sul; Mogiana Web; Rádio Atalaia FM Rio; Rádio Vila Mix; Web Rádio Palmeira; Web Rádio Travessia; Rádio Millennium; Rádio EsportesNet; Rádio Altura FM; Web Rádio Cidade; Rádio Viva a Vida; Rádio Regional Vale FM; Rádio Gerasom; Coruja Web; Vale do Tempo; Servo do Rei; Rádio Best Sound; Rádio Lagoa Azul; Rádio Show Livre; Web Rádio Sintonizando os Corações; Rádio Campos Belos; Rádio Mundial; Clic Rádio Porto Alegre; Web Rádio Rosana; Rádio Cidade Light; União FM; Rádio Araras FM; Rádios Educadora e Transamérica; Rádio Jerônimo; Web Rádio Imaculado Coração; Rede Líder Web; Rádio Club; Rede dos Trabalhadores; Angelu'Song; Web Rádio Nacional; Rádio SINTSEPANSA; Luz News; Montanha Rádio; Rede Vida Brasil; Rádio Broto FM; Rádio Campestre; Rádio Profética Gospel; Chip i7 FM; Rádio Breganejo; Rádio Web Live; Ldnews; Rádio Clube Campos Novos; Rádio Terra Viva; Rádio interativa; Cristofm.net; Rádio Master Net; Rádio Barreto Web; Radio RockChat; Rádio Happiness; Mex FM; Voadeira Rádio Web; Lully FM; Web Rádionin; Rádio Interação; Web Rádio Engeforest; Web Rádio Pentecoste; Web Rádio Liverock; Web Rádio Fatos; Rádio Augusto Barbosa Online; Super FM; Rádio Interação Arcoverde; Rádio; Independência Recife; Rádio Cidadania FM; Web Rádio 102; Web Rádio Fonte da Vida; Rádio Web Studio P; São José Web Rádio - Prados (MG); Webrádio Cultura de Santa Maria; Web Rádio Universo Livre; Rádio Villa; Rádio Farol FM; Viva FM; Rádio Interativa de Jequitinhonha; Estilo - WebRádio; Rede Nova Sat FM; Rádio Comunitária Impacto 87,9FM; Web Rádio DNA Brasil; Nova onda FM; Cabn; Leal FM; Rádio Itapetininga; Rádio Vidas; Primeflashits; Rádio Deus Vivo; Rádio Cuieiras FM; Rádio Comunitária Tupancy; Sete News; Moreno Rádio Web; Rádio Web Esperança; Vila Boa FM; Novataweb; Rural FM Web; Bela Vista Web; Rádio Senzala; Rádio Pagu; Rádio Santidade; M'ysa; Criativa FM de Capitólio; Rádio Nordeste da Bahia; Rádio Central; Rádio VHV; Cultura1 Web Rádio; Rádio da Rua; Web Music; Piedade FM; Rádio 94 FM Itararé; Rádio Luna Rio; Mar Azul FM; Rádio Web Piauí; Savic; Web Rádio Link; EG Link; Web Rádio Brasil Sertaneja; Web Rádio Sindviarios/CUT.
A programação também fica disponível na Rádio Brasil de Fato, das 11h às 12h, de segunda a sexta-feira. O programa Bem Viver está nas plataformas: Spotify, Google Podcasts, Itunes, Pocket Casts e Deezer.
Assim como os demais conteúdos, o Brasil de Fato disponibiliza o programa Bem Viver de forma gratuita para rádios comunitárias, rádios-poste e outras emissoras que manifestarem interesse em veicular o conteúdo. Para ser incluído na nossa lista de distribuição, entre em contato por meio do formulário.
Edição: Nathallia Fonseca
