A medida que videos y audios falsos se infiltran en las campañas políticas, California promulgó sus restricciones más estrictas en septiembre: una ley que prohíbe los anuncios políticos que contengan contenido engañoso, creado digitalmente o alterado dentro de los 120 días posteriores a una elección si los anuncios son “manipulados ” a menos que se especifique lo contrario. “
El miércoles, un juez federal bloqueó temporalmente la ley, diciendo que violaba la Primera Enmienda.
En California siguen vigentes otras leyes contra los anuncios de campaña engañosos, incluidas las de los candidatos y los comités de acción política. divulgación cuando los anuncios utilizan inteligencia artificial para crear o modificar contenido significativamente. Pero la medida cautelar fue en su contra. Proyecto de ley 2839 de la Asamblea significa que no habrá una prohibición general de que las personas utilicen inteligencia artificial para clonar la imagen o la voz de un candidato y tergiversar imágenes o palabras sin revelar que son falsas.
Las pautas fueron solicitadas por el comentarista conservador Christopher Coles, quien ha creado una serie de videos falsos burlándose de los demócratas, incluida la candidata presidencial del partido, la vicepresidenta Kamala Harris. Así lo informó el gobernador Gavin Newsom uno de los vídeos – muestra clips de Harris, una versión profundamente falsa de su voz hablando de ser un “buen empleado de diversidad” y de ser ignorante e incompetente, cuando firmó el AB 2839, pero la medida en realidad se introdujo en febrero, mucho antes del video de Harris de Kohl. X se ha vuelto viral.
Cuando se le preguntó a X sobre el fallo, Kohls dijo: “¡La libertad prevalece! Por ahora”.
El juicio El juez de distrito estadounidense John A. Méndez describe la tensión entre los esfuerzos para proteger contra el fraude basado en inteligencia artificial que podría afectar las elecciones y las sólidas garantías de la Declaración de Derechos para el discurso político.
Al emitir la orden judicial preliminar, Méndez escribió: “Cuando se trata de discurso político y política electoral, es casi seguro que la Primera Enmienda permite a los tribunales permitir que el discurso florezca en lugar de apoyar el intento del Estado de sofocarlo. [M]El ost de AB 2839 actúa como un martillo en lugar de un bisturí, un objeto contundente que sofoca la expresión del humor y sofoca inconstitucionalmente el intercambio libre y sin restricciones de ideas tan vital para el debate democrático estadounidense que sirve como herramienta.
El copresidente de Public Citizen, Robert Weisman, respondió: “La Primera Enmienda no debería atarnos las manos al abordar una amenaza real, grave y previsible para nuestra democracia”.
Según Weisman, 20 estados han aprobado leyes basadas en el mismo enfoque básico: exigir que los anuncios que utilizan inteligencia artificial para manipular el contenido sean etiquetados como tales. Pero AB 2839 tenía elementos propios que podrían influir en el pensamiento de Méndez, dijo Weissman, incluido el requisito de aparecer en el tamaño de texto más grande jamás visto en un anuncio de divulgación.
En su fallo, Méndez argumentó que la Primera Enmienda también se aplica al discurso falso y engañoso. Incluso en un tema tan importante como la protección de las elecciones, escribió, los legisladores sólo pueden regular la expresión a través de los medios menos restrictivos.
Méndez escribió que la AB 2839, que requería que los videos políticos mostraran consistentemente la información requerida sobre la manipulación, no utilizó el medio menos restrictivo para proteger la integridad electoral. Un enfoque menos restrictivo sería el “contradiscurso”, escribió, aunque no explicó qué significaba eso.
Weisman respondió: “El contradiscurso no es una herramienta adecuada”. El problema con los deepfakes no es que hagan afirmaciones o acusaciones falsas sobre un candidato, dijo; “El problema es que hacen que parezca que el candidato está diciendo o haciendo algo que en realidad no está haciendo”. Los candidatos objetivo se enfrentan a la tarea casi imposible de explicar que en realidad no hicieron ni dijeron tales cosas, dice, lo cual es mucho más difícil que contrarrestar una acusación falsa hecha por un oponente o un comité de acción política.
Exigir la divulgación de la manipulación no es una solución perfecta a los problemas creados por los anuncios deepfake, afirmó. Pero esta es la herramienta menos restrictiva.
Liana Keesing El primer problemaEl grupo prodemocracia dice que crear deepfakes no siempre es un problema. “Lo importante es amplificar el contenido falso y engañoso”, dijo Keesing, director de campaña del grupo.
Alix Fraser, directora de reforma tecnológica El primer problemaLo más importante que pueden hacer los legisladores, afirmó, es abordar cómo se diseñan las plataformas tecnológicas. “¿Cuáles son las barreras en torno a eso? Básicamente no”, afirmó y añadió: “Por lo que sabemos, ese es el principal problema”.
