Personagens virtuais criados por inteligência artificial ganham seguidores e geram lucro com conteúdos automatizados em plataformas como TikTok e YouTube.
Personagens digitais criados por inteligência artificial (IA) vêm conquistando milhares de seguidores em redes sociais como TikTok, YouTube e Instagram, mesmo sem existir no mundo real. Esses avatares hiper-realistas atuam como influenciadores, vendedores e especialistas, transformando canais automatizados em negócios lucrativos.
Os criadores desses perfis ganham dinheiro por meio da monetização dos vídeos, comissões em vendas online, divulgação de produtos digitais e valorização dos perfis, que podem ser revendidos ou usados para outras finalidades devido ao alto engajamento. Ao contrário dos chatbots, esses avatares simulam interações humanas reais em vídeos, transmissões ao vivo e anúncios, frequentemente promovendo produtos e tratamentos sem comprovação científica.
Segundo Fernando Ferreira, pesquisador da UFRJ, a estratégia desses avatares é transformar a atenção dos usuários em receita, utilizando algoritmos que direcionam os conteúdos para públicos específicos interessados em temas variados. Com o avanço das ferramentas de automação, a produção desses personagens ganhou escala industrial, dificultando a identificação pelo público de que se trata de campanhas automatizadas.
A organização Ctrl Z identificou que os avatares atuam em diversos nichos, desde conteúdos históricos e infantis até narrativas apelativas que exploram emoções como medo, curiosidade e esperança. Muitos vídeos seguem roteiros traduzidos para vários idiomas e são encenados por dezenas de avatares sintéticos para atingir diferentes países, inclusive usando conteúdos de baixa qualidade gerados por IA para alcançar as metas de monetização das plataformas.
O impacto mais preocupante está na área da saúde, onde usuários relatam abandonar tratamentos tradicionais para seguir recomendações feitas por esses avatares, que muitas vezes divulgam informações falsas ou enganosas. O avanço tecnológico também reduziu as imperfeições visuais e sonoras desses personagens, tornando quase impossível para o público perceber que se trata de uma criação artificial.
Especialistas defendem a necessidade de sinalização clara e obrigatória para conteúdos gerados por IA, além de uma moderação mais rigorosa por parte das plataformas para evitar manipulações e crimes. Atualmente, a responsabilidade recai principalmente sobre os criadores, já que as plataformas dependem da autodeclaração e não possuem mecanismos eficazes de verificação.
Do ponto de vista jurídico, o uso de avatares sintéticos não isenta os responsáveis de crimes como estelionato, fraude e falsidade ideológica. Além dos prejuízos financeiros, essa proliferação também afeta a percepção da realidade, criando padrões estéticos inalcançáveis e reforçando inseguranças entre usuários e produtores de conteúdo.
Em resposta, plataformas como YouTube e TikTok afirmam exigir a sinalização de vídeos gerados por IA e aplicam penalidades para perfis que violam as regras, incluindo a remoção de conteúdo e suspensão de monetização. A Meta, que controla Instagram e Facebook, não se posicionou sobre o tema.