O uso da inteligência artificial no algoritmo de recomendação do TikTok foi amplificado nos últimos doze meses, o que resultou no aumento da disseminação de conteúdos políticos falsos antes das eleições, conforme revelam informações recentes da NewsGuard, empresa especializada em combater informações incorretas.
Em um novo relatório que descreve a utilização de ferramentas de inteligência artificial por indivíduos mal-intencionados no TikTok, foi identificado que pelo menos 41 contas na plataforma postaram conteúdo falso em inglês e francês, aprimorado por IA. Durante o período de março de 2023 a junho de 2024, essas contas compartilharam um total de 9.784 vídeos, que acumularam mais de 380 milhões de visualizações. Uma média de um a quatro vídeos narrados por IA eram postados diariamente. Muitos dos vídeos apresentavam scripts idênticos, indicando um esforço coordenado. Além disso, várias dessas contas conseguiram se qualificar para a monetização de seus vídeos através do Fundo Criador do TikTok.
A maior parte do conteúdo consistia em ensaios ou vídeos de tom descontraído que divulgavam histórias falsas sobre a política dos Estados Unidos e da Europa, bem como a guerra entre Rússia e Ucrânia. NewsGuard explicou que incluía a alegação errônea de que a OTAN tinha enviado tropas de combate para a Ucrânia e que os Estados Unidos estavam envolvidos no ataque terrorista à Câmara Municipal de Crocus em março em Moscou.
A investigação foi conduzida em colaboração com a plataforma de detecção de inteligência artificial TrueMedia.org.
No ano anterior, NewsGuard registrou a formação de um grupo reduzido de contas TikTok que utilizaram tecnologia de texto e inteligência artificial para promover teorias de conspiração envolvendo celebridades. Os vídeos breves empregaram inteligência artificial para gerar narrações e vozes adicionais de maneira instantânea em diversos vídeos que compartilhavam notícias falsas. No conjunto, essas contas alcançaram 336 milhões de visualizações e receberam 14,5 milhões de curtidas ao longo de três meses.
O último relatório indica que houve um grande aumento no volume de conteúdo semelhante, impulsionado por inteligência artificial, no aplicativo, agora com objetivos políticos. Essa tendência aponta para um aumento na produção de conteúdo de baixa qualidade por meio de inteligência artificial, com o objetivo de atrair visualizações e receita de anúncios.
A TikTok notou a propagação da desinformação impulsionada pela inteligência artificial e tomou medidas para identificar e rotular melhor o conteúdo, incluindo até mesmo a marca d’água gerada por IA. No entanto, a desinformação política persiste e se espalha de forma eficiente com o apoio das características da IA.
- Etsy anuncia que vai autorizar a comercialização de obras de arte criadas por inteligência artificial, embora não exija a presença da IA.
- Bumble inclui nova funcionalidade para denunciar imagens e vídeos identificados por inteligência artificial.
- OpenAI fecha as contas de indivíduos identificados como maus atores.
- TikTok lança avatares digitais criados por inteligência artificial.
- A inteligência artificial pode ter impacto no seu voto durante esta eleição. Formas de reconhecer e reagir a essa influência.
En 9 de julio, el Departamento de Justicia informó que había descubierto y eliminado una granja de bots rusos impulsados por inteligencia artificial, que contaba con al menos 1,000 cuentas pro-Kremlin en X (anteriormente en Twitter) y respaldada por el sucesor del KGB de Rusia. Unos meses antes, OpenAI anunció que había desactivado cuentas de actores estatales extranjeros confirmados que intentaban utilizar su tecnología de IA para respaldar posibles ataques cibernéticos.
Os Estados Unidos utilizaram a tecnologia de inteligência artificial e fazendas de bots para disseminar suas próprias histórias e até mesmo campanhas de desinformação, como a ação de 2020 que visava diminuir a influência estrangeira através da propagação de informações falsas sobre a COVID-19.
Conforme as eleições se aproximam, com a participação dos eleitores e a confiança dos candidatos sendo questionadas, observadores e defensores permanecem atentos, monitorando a desinformação direcionada e a desinformação amplificada por inteligência artificial nas redes sociais.
Aplicativo TikTok
English
Leave a Reply