Algoritmos de redes sociais e IA podem amplificar discriminações e impactar grupos vulneráveis, gerando impactos sociais e digitais.
O termo violência algorítmica descreve como sistemas automatizados, como algoritmos de redes sociais e ferramentas de inteligência artificial, reproduzem e amplificam desigualdades sociais existentes. Essa forma de violência ocorre quando tecnologias decidem quem é visível, quem é silenciado e quem tem acesso a oportunidades, afetando diretamente grupos marginalizados, como a população LGBTQIA+, pessoas negras, indígenas e periféricas.
Christian Gonzatti, influenciador digital e professor da Unisinos, relata que seus conteúdos LGBTQIA+ frequentemente sofrem restrições e menor alcance em plataformas, mesmo quando abordam temas culturais e ressignificam termos historicamente usados para discriminação. Ele destaca que os algoritmos não interpretam o contexto, resultando em censura e desvalorização desses conteúdos.
Além da visibilidade reduzida, a violência algorítmica se manifesta em outras áreas, como o reconhecimento facial, que apresenta maior índice de erros para pessoas negras, contribuindo para prisões injustas. Também inclui a pressão por produtividade excessiva, como no caso de motoristas de aplicativos que recebem estímulos para trabalhar além dos limites humanos, e a propagação acelerada de fake news e discursos de ódio, favorecidos por algoritmos que priorizam conteúdos emocionais e controversos.
Especialistas apontam que essa violência não é um problema técnico isolado, mas resultado da reprodução de preconceitos históricos inseridos nos dados usados para treinar essas tecnologias. No Brasil, a combinação de desigualdades sociais profundas com a intensa presença digital torna o cenário ainda mais complexo. Embora haja avanços legais, como o reconhecimento da proteção de dados pessoais como direito fundamental, a falta de transparência e regulação eficazes ainda dificulta o enfrentamento do problema.
Para combater a violência algorítmica, pesquisadores e ativistas defendem a necessidade de educação digital para o uso consciente das tecnologias, maior transparência das plataformas sobre seus critérios de moderação e algoritmos, além de políticas públicas que responsabilizem as empresas por danos causados. Também ressaltam a importância de auditorias independentes e da participação dos grupos afetados na revisão dos sistemas para garantir justiça social e evitar a perpetuação de desigualdades.