La campaña para las elecciones presidenciales de Estados Unidos de 2024 contará con imitaciones de candidatos mediante inteligencia artificial que intentarán engañar a los votantes. discriminación contra candidatos siendo el objetivo. Gracias al retuit de Elon Musk, uno de los deep fakes Más de 143 visitas millón veces.
La posibilidad de que campañas sin escrúpulos o adversarios extranjeros utilicen inteligencia artificial para influir en los votantes ha alarmado a investigadores y funcionarios de todo el país, quienes dicen que los medios generados y controlados por IA ya se están propagando rápidamente en línea. Por ejemplo, investigadores de la Universidad de Clemson encontraron una campaña de influencia en la plataforma social X usando IA para generar reseñas de más de 680 cuentas respaldadas por bots que apoyan al expresidente Trump y otros candidatos republicanos; La red ha publicado más de 130.000 comentarios desde marzo.
Para fortalecer sus defensas contra las imágenes manipuladas, Yahoo News, uno de los sitios de noticias en línea más populares, Más de 190 millones Según similarweb.com, visitas por mes: McAfee anunció el miércoles que ha integrado la tecnología de detección de imágenes falsas profundas de la empresa de seguridad cibernética. La tecnología revisa las imágenes enviadas por los colaboradores de Yahoo News e identifica imágenes que pueden haber sido creadas o utilizadas por AI, lo que ayuda al equipo de estándares editoriales del sitio a tomar decisiones sobre su publicación.
Matt Sánchez, presidente y director general de Yahoo Home Ecosystem, dijo que la empresa está tratando de ir un paso por delante de los estafadores.
“Si bien las imágenes deepfake no son un problema hoy en Yahoo News, esta herramienta de McAfee nos ayuda a mantenernos proactivos mientras trabajamos continuamente para brindar una experiencia de calidad”, dijo Sánchez en un correo electrónico. “Esta asociación mejorará nuestros esfuerzos actuales y nos brindará mayor precisión, velocidad y escala”.
Según Sánchez, las publicaciones del sector informativo están pensando en la amenaza de los “deepfakes”, “no porque sea un problema generalizado hoy en día, sino porque la posibilidad de un uso indebido está en el horizonte”.
Sin embargo, gracias a herramientas de inteligencia artificial fáciles de usar, los deepfakes se han vuelto más comunes. 40% de los estudiantes de secundaria En una encuesta de agosto, dijeron que habían oído hablar de algunas imágenes profundamente falsas que circulaban en sus escuelas. El base de datos en línea de deepfakes políticos Contiene casi 700 entradas compiladas por tres académicos de la Universidad Purdue, incluidas más de 275 sólo de este año.
Steve Grobman, director de tecnología y vicepresidente ejecutivo de McAfee, dijo que la asociación con Yahoo News surge del trabajo de McAfee en productos que ayudan a los consumidores a identificar información fraudulenta en sus computadoras. La compañía se dio cuenta de que la tecnología que desarrolló para señalar posibles imágenes generadas por IA podría ser útil para un sitio de noticias, especialmente uno que combina el trabajo de sus propios periodistas con contenido de otras fuentes, como Yahoo.
La tecnología de McAfee se suma al “rico conjunto de capacidades” que Yahoo ya tenía para verificar la integridad del material proveniente de sus fuentes, dijo Grobman. Impulsado por inteligencia artificial, el detector deepfake explora los tipos de herramientas de inteligencia artificial que colocan imágenes entre los millones de puntos de datos en una imagen digital.
“Una de las cosas buenas de la IA es que no es necesario decirle al modelo qué buscar. El modelo determina qué buscar, dijo Grobman.
“La calidad de las falsificaciones está aumentando rápidamente y parte de nuestra asociación consiste simplemente en intentar hacerles frente”, afirmó. Esto significa utilizar nuevas instancias para monitorear el estado más reciente de las imágenes y mejorar la tecnología de detección de McAfee.
Nikos Vekiarides, director ejecutivo de la firma de prevención de fraude Attestiv, dijo que se trataba de una carrera armamentista entre empresas como la suya y las de imágenes impulsadas por inteligencia artificial. “Están mejorando. “Las anomalías son cada vez más pequeñas”, dijo Vekiarides. Aunque los principales actores de la industria apoyan la creación de marcas de agua en el material generado por IA, los malos actores continúan incumpliendo las reglas. “Él no juega”, dijo.
Él cree que los anuncios políticos muy falsos y otro material falso transmitido a una amplia audiencia tienen poco impacto porque “se descomponen muy rápidamente”. Lo que puede ser dañino, dice, son las cosas falsas enviadas por personas influyentes a sus seguidores o transmitidas de persona a persona.
Daniel Kang, profesor asociado de informática en la Universidad de Illinois en Urbana-Champaign y experto en detección profunda de fraude, advirtió que hoy en día ninguna herramienta de detección de IA es lo suficientemente buena para atrapar a un atacante altamente motivado y con buenos recursos. Creador de deepfake patrocinado. Debido a que hay tantas maneras de manipular una imagen, un atacante “puede tocar más botones que las estrellas en el universo para evitar los mecanismos de detección”, dijo.
Sin embargo, muchos deepfakes no provienen de atacantes altamente sofisticados, por lo que Kang dice que está en un nivel alto, aunque no puede entender todo lo que hay que saber sobre la detección de medios generada por IA. Agregar herramientas de inteligencia artificial a los sitios ahora permite que herramientas como los filtros de spam aprendan y mejoren con el tiempo, dijo Kang.
No son una panacea, afirmó; deberían combinarse con otras salvaguardias contra el contenido manipulado. Aun así, Kang dijo: “Creo que hay buena tecnología que podemos usar y mejorará con el tiempo”.
Vekiarides dice que el público se ha preparado para una ola de deep fakes al adoptar el uso generalizado de herramientas de manipulación de imágenes, como editores de fotografías que casi cubren los defectos de las fotografías de portada de revistas con aire. El salto de un fondo falso en una llamada de Zoom a una imagen falsa de alguien con quien estás conociendo en línea no es grande, dijo.
“Hemos dejado salir al gato de la bolsa”, dijo Vekiarides, “y es difícil volver a meterlo”.
