Videos con desinformación generados por inteligencia artificial y con voces de conocidos periodistas, incluso de Telemundo, han estado apareciendo en cuentas de TikTok.
Un rumor que afirmaba falsamente que los titulares de la "green card" tienen prohibido salir y volver a entrar en Estados Unidos se extendió como pólvora en TikTok esta semana, acumulando más de 21 millones de visitas en docenas de videos compartidos por una red de casi 40 cuentas, muchas de ellas haciéndose pasar por medios de comunicación en español para compartir información errónea sobre inmigración.
Las cuentas han estado compartiendo videos manipulados con contenido generado por inteligencia artificial y voces de conocidos periodistas profesionales para difundir desinformación sobre inmigración y otros temas conflictivos que tienden a hacerse virales en las redes sociales, según Alexios Mantzarlis, director de la Iniciativa de Seguridad, Confianza y Protección de Cornell Tech, el campus de posgrado de la Universidad de Cornell en Nueva York.
La mayoría de las cuentas de TikTok tienen nombres con términos genéricos que incluyen las palabras "noticias" o "noticiero", y ocho de ellas utilizan falsamente los logotipos de dos importantes cadenas de noticias en español, Univision y Telemundo. (Telemundo y NBC News son propiedad de NBCUniversal, filial de Comcast Corp.).
Esta nueva red de desinformación en español "se apropia tanto de la mecánica viral del algoritmo de TikTok como de la naturaleza humana de las comunidades de inmigrantes", dijo Mantzarlis, que también dirige Faked Up, un boletín sobre desinformación digital, a NBC News.
Mantzarlis empezó a rastrear la red de cuentas el mes pasado después de ver una serie de mensajes que afirmaban falsamente que los supermercados empezarían a exigir identificación para comprar alimentos. En su boletín, dijo, algunos de los videos incluían mensajes que apuntaban a "un claro esfuerzo para atacar a los inmigrantes indocumentados".
Se dio cuenta de que las cuentas se centraban principalmente en publicar sobre el presidente Donald Trump y la inmigración.
Esta semana, al menos 25 videos compartidos por la red de cuentas de TikTok que difunden información falsa sobre los titulares de tarjetas de residencia suplantaron la voz del reportero de Univision Javier Díaz. Díaz no respondió a una solicitud de comentarios y Univision no hizo comentarios.
Los 25 videos fueron eliminados de TikTok después de que NBC News enviara los enlaces al solicitar comentarios a la plataforma de medios sociales el martes. NBC News también envió a la empresa los enlaces de las 38 cuentas de TikTok que Mantzarlis descubrió que formaban parte de la red.
El miércoles por la tarde, las 38 cuentas de TikTok habían sido eliminadas.
En una declaración a NBC News, un portavoz de TikTok dijo: "seguimos protegiendo a nuestra comunidad de habla hispana de contenidos y cuentas engañosas invirtiendo en equipos y tecnologías de moderación, asociándonos con verificadores de hechos y creando consejos y herramientas de alfabetización mediática".
Según el portavoz, TikTok retiró los videos y las cuentas porque violaban las políticas de integridad y autenticidad de la empresa que prohíben la desinformación perjudicial, el contenido engañoso generado por IA, la suplantación de identidad y los comportamientos engañosos.
Un mensaje y un mensajero falsos
Una falsa narrativa compartida por una de las cuentas de la red el mes pasado utilizó la voz de la expresentadora de Telemundo, María Celeste Arrarás, para hacer creer que estaba informando que Trump estaba considerando un plan para proporcionar una vía legal a los inmigrantes indocumentados sin antecedentes penales.
Arrarás publicó el clip en su cuenta de Instagram para que sus seguidores supieran que la noticia del video "ES FAKE".
"Han editado varios reportajes que presenté en televisión hace años para engañar al público. ES UN AUDIO RECORTADO para que parezca que estoy informando de noticias que NO SON REALES. Por favor, difúndanlo", escribió en español.
El martes, el video con la voz de Arrarás ya había sido borrado de la cuenta de TikTok. Pero la cuenta siguió funcionando hasta el miércoles por la mañana junto con otros videos que contenían información errónea, incluido uno nuevo publicado el día anterior con la voz de Arrarás.
Antes de que TikTok cerrara las cuentas el miércoles por la tarde, los videos que incluían información errónea sobre los titulares de tarjetas de residencia y las vías legales para los inmigrantes indocumentados habían llegado a la cuenta de una mujer inmigrante de Nueva York a la que Amelia Scdoris, organizadora comunitaria de Cabrini Immigrant Services, había estado ayudando.
Es un ejemplo, dijo Scdoris, de por qué su organización celebra reuniones periódicas para ayudar a los inmigrantes a analizar la desinformación que encuentran y servir como fuente fiable de información relacionada con la inmigración.
Según el portavoz de TikTok, la plataforma se basa en tecnología automatizada, informes de usuarios, búsquedas proactivas, informes de tendencias de expertos y verificadores de hechos para detectar la desinformación en la plataforma en diferentes idiomas. Durante el tercer trimestre de 2024, más del 97% de los contenidos retirados de TikTok por violar sus políticas de integridad y autenticidad "se eliminaron de forma proactiva antes de que alguien nos lo comunicara."
Añadieron que TikTok cuenta con miles de moderadores de contenido que supervisan la desinformación a nivel mundial, pero declinaron decir exactamente cuántos.
Como ejemplo, la operación de TikTok en la región de la Unión Europea tenía 531 moderadores de contenido en español y 1,524 moderadores de contenido en inglés a diciembre de 2024, según el informe de transparencia digital más reciente de la compañía que está obligado a presentar para operar en esa región.
A pesar de estos esfuerzos, la lucha contra la desinformación en Internet sigue siendo una tarea de enormes proporciones. Los latinos, incluidas las comunidades de inmigrantes hispanohablantes, son más propensos a confiar en las redes sociales para mantenerse informados que otros grupos, según un informe de Nielsen. TikTok es especialmente popular entre las comunidades latinas de Estados Unidos, ya que aproximadamente la mitad de los adultos hispanos afirman utilizar esta plataforma.
Luba Cortés, organizadora principal de derechos civiles e inmigración en el grupo de defensa Make the Road New York, dijo que ha visto de primera mano cómo los hábitos de consumo de noticias de las comunidades de inmigrantes de habla hispana los hacen más vulnerables al tipo de desinformación que se difunde en las redes sociales.
"Lo ven y creen que es verdad", dijo Cortés a NBC News sobre el contenido generado por inteligencia artificial y la desinformación que la gente ve en Internet. "Eso causa mucho pánico masivo".
Lo que es más, dijo, el pánico motiva a los espectadores a compartir los videos falsos dentro de sus redes, ya que piensan erróneamente que los TikToks contienen información útil.
Según Mert Bayar, que investiga los rumores sobre inmigrantes y no ciudadanos como becario postdoctoral en el Centro para un Público Informado de la Universidad de Washington, las falsedades relacionadas con la inmigración que se comparten en Internet suelen tener más fuerza cuando incluyen "pruebas engañosas" relacionadas con "una crisis real".
Ese parece ser el caso de la historia que afirma falsamente que los titulares de la "green card", o residentes permanentes legales, no pueden salir y volver a entrar en EEUU. Ha estado circulando después de las noticias sobre residentes permanentes que ahora luchan contra la deportación después de participar en protestas universitarias propalestinas y viajar al extranjero.
La semana pasada, el National Korean American Service and Education Consortium, un grupo de defensa de la inmigración, dijo en un post de Instagram que algunos residentes han firmado sin saberlo un formulario I-407 renunciando a su estatus permanente legal.
Cortés dijo que no se ha encontrado con un caso así en su organización, pero "sí creo que, ahora, hay preocupación."
¿Motivación política o una potencial estafa financiera?
Debido a que la red de cuentas de TikTok que comparten videos con información falsa tanto "denuncian la política de inmigración de Trump como otras que dicen que él está a punto de salvarlos a todos", Mantzarlis dijo que no está claro si la operación tiene motivaciones políticas o si está sentando las bases para identificar a posibles víctimas para futuras estafas financieras.
Como parte de sus investigaciones previas, Mantzarlis ha visto cómo los usuarios que interactúan con este tipo de contenidos se convierten más tarde en objetivos de estafas monetarias.
"Lo único que podemos afirmar con certeza es que sólo intentan crear público, construir una gran audiencia", dijo. "Después, lo que decidan hacer con eso es más o menos cosa suya".
Este artículo fue publicado originalmente en inglés para NBC News. Para más de NBC News, entra aquí
