La inteligencia artificial generativa está reviviendo el horrible legado de los fanáticos, incluido el ex dictador alemán Adolf Hitler, a medida que los usuarios de TikTok utilizan las herramientas de inteligencia artificial de la aplicación para recrear los discursos xenófobos de líderes fallecidos hace mucho tiempo.
Este fenómeno fue documentado recientemente en dos informes separados, uno de un grupo de vigilancia sin fines de lucro. Los medios importan para Estados Unidos y en investigación por otro Instituto de Comunicación Estratégica y publicado por SITE Intelligence Group El Correo de Washington. Ambos lanzaron una pequeña red de cuentas que crearon y distribuyeron versiones traducidas y dobladas por IA de los discursos de Hitler.
Por qué los adolescentes cuentan sus secretos a desconocidos en Internet
Según una investigación de Media Matters, los audios generados por IA han obtenido millones de visitas, incluidos vídeos que se burlan del líder o convierten el audio en un meme. Otras cuentas parecían dedicadas a crear y compartir estos audios, en ocasiones con mensajes antisemitas. Los vídeos populares que utilizan este audio, a menudo ralentizados y estilizados con audio “reverberado”, se remontan a abril de 2024 y varios de ellos están mal traducidos. Después de que se publicó el informe, TikTok eliminó la cuenta de un usuario destacado y comenzó a redirigir las búsquedas relacionadas a otro. “Hechos del Holocausto” Una página sobre la ejecución por parte de Hitler de millones de civiles judíos, discapacitados, prisioneros políticos, personas LGBTQ+ y personas de ascendencia latina.
El El Correo de Washington Resulta que ciertos grupos fascistas han acogido con satisfacción el uso de la inteligencia artificial para difundir propaganda intolerante, lo que ha llevado al surgimiento de jóvenes de las “bandas rojas” involucrados en discursos de odio en línea y grupos de derecha. Los expertos dijeron a la publicación que la IA no puede romper las herramientas de moderación de la plataforma, incluidos los sitios Meta y los de X.
Mejores historias triturables
Ambos informes notaron una gran cantidad de sentimiento positivo en las secciones de comentarios del video, con algunos usuarios elogiando abiertamente a la figura histórica y su política, y la mayoría de estos videos no muestran abiertamente silbidos de perros blancos, lo que lleva a los usuarios a o Temen que estén soplando. el silbato sin saberlo. radicalizado por su contenido.
Intentos similares de reescribir el legado de figuras históricas llegaron a TikTok impulsado por inteligencia artificial durante el año pasado. En junio un equivocado Una versión integrada de la nueva herramienta de avatar digital de IA de la aplicación, que permitía a los usuarios crear anuncios utilizando las imágenes de los creadores, dio lugar a la difusión de varios vídeos generados por IA que mostraban avatares que recitaban diversas retóricas supremacistas blancas, incluidos extractos. mi lucha y la Carta a Estados Unidos de Osama bin Laden. Vídeos de TikTok en 2023 Bin Laden lee esa declaracióna veces asociado con un sentido de supremacismo blanco, causó pánico entre las aplicacionesLos usuarios recontextualizaron el discurso como un panfleto antiimperialista a la luz del asedio de Israel a los palestinos en Gaza y el apoyo de Estados Unidos.
En general, los grupos de vigilancia han documentado casos de actores nacionales y extranjeros que utilizan herramientas de inteligencia artificial generativa, incluidas falsificaciones digitales sintéticas (o “deep fakes”) de líderes políticos, para difundir desinformación en la aplicación. Las cuentas supremacistas blancas y pronazis también han proliferado en la plataforma, trabajando en conjunto con redes en sitios como Telegram para impulsar su contenido en los algoritmos de las redes sociales.
de acuerdo a informe de julio Según el Instituto de Comunicaciones Estratégicas, TikTok tiene “cientos” de cuentas pronazis que han acumulado millones de visitas. La organización dijo que la empresa no actuó con la suficiente rapidez para detener su propagación.
