Compreendendo a Violência Algorítmica
A violência algorítmica é um conceito que tem ganhado destaque nos últimos anos, ressaltando como as tecnologias de IA podem reproduzir e amplificar preconceitos sociais. O influenciador digital e professor Christian Gonzatti, um dos principais nomes nesta discussão, afirma que os algoritmos das redes sociais em que publica frequentemente rotulam seu conteúdo LGBTQIA+ como prejudicial, mesmo quando sua intenção é positiva.
A Experiência de Christian Gonzatti
Gonzatti, conhecido por seu canal Viado Nerd, notou que a palavra “viado” era mal interpretada pelos algoritmos, que não reconheciam sua ressignificação dentro do movimento LGBTQIA+. Ele observa que, mesmo ao mudar o nome do canal para “Diversidade Nerd”, continua a enfrentar limitações de alcance por usar terminologias associadas à sua identidade.
O Impacto da Violência Algorítmica
A violência algorítmica não é um fenômeno isolado. Segundo o cientista da computação Alexandre Gonçalves, essa violência se configura quando algoritmos motivam as pessoas, por exemplo, a trabalharem mais do que seus corpos podem suportar, como divulga um motorista de aplicativo que se sentiu pressionado a ficar online por longas horas sem pausas.
Definindo Violência Algorítmica
De acordo com o professor Daniel Trielli, a violência algorítmica é uma “agressão que depende de sistemas computacionais automatizados”, abrangendo muito mais que redes sociais. Isso inclui a propagação de fake news e a vigilância digital, que pode intensificar a desigualdade social.
Contexto Histórico e Fundamentos Teóricos
O termo “violência algorítmica” emergiu na última década a partir de estudos de acadêmicos e ativistas. Segundo Hupffer e Petry, a fundamentação teórica data do livro Topologia da Violência do filósofo Byung-Chul Han, mas a discussão é mais ampla, envolvendo debates sobre discriminação algorítmica e injustiça automatizada.
A Neutralidade dos Algoritmos em Questão
Embora os algoritmos sejam apontados como ferramentas neutras, na prática, eles refletem as desigualdades estruturais da sociedade. A professora Larissa Pelúcio ressalta que a violência algorítmica amplifica as desigualdades já existentes, resultando em quem é visto e quem é silenciado nas plataformas digitais.
O Cenário Brasileiro
No Brasil, as desigualdades sociais e a presença digital ampla aumentam a gravidade da violência algorítmica. O racismo estrutural permeia os sistemas de reconhecimento facial e outros algoritmos, resultando em discriminação digital. Estudos determinam que a maioria dos erros em reconhecimento facial afeta pessoas negras, demonstrando como o racismo se torna digital.
A Necessidade de Regras e Educação Digital
A solução para a violência algorítmica não é simples. A educação em letramento digital e a regulação das big techs são essenciais. Pelúcio e Irineu propõem que é essencial auditorias independentes e envolvimento de grupos afetados para garantir que os algoritmos sejam construídos com justiça social.
Portanto, a luta contra a violência algorítmica se estende em várias frentes, demandando mudanças estruturais nas políticas públicas e uma conscientização maior entre os usuários das plataformas digitais.
